Das Alignment-Problem der militärischen KI
Das US-Verteidigungsministerium verfolgt seit der Gründung des Joint Artificial Intelligence Center im Jahr 2018 und dessen Nachfolger, des Büros für digitale Angelegenheiten und künstliche Intelligenz im Jahr 2022, einen aggressiven Weg bei der KI-Adoption. Aber während das Pentagon Verträge mit einer wachsenden Anzahl von KI-Unternehmen unterzeichnet hat — von etablierten Rüstungsunternehmern bis hin zu Startups aus dem Silicon Valley bis hin zu Frontier-Model-Labs — ist eine neue Herausforderung entstanden: die Verbreitung inkompatible KI-Tools, unterschiedliche Modellversionen und inkonsistente Funktionalitätsniveaus über Kommandos und Militärzweige hinweg.
Die Reaktion des Pentagon besteht aus einem Versuch, seine KI-Anbieter zu standardisieren und alle auf das zu bringen, was Beamte als "denselben Baseline" bezeichnen — eine Reihe gemeinsamer Modellversionen, APIs, Sicherheitsrichtlinien und Leistungsbenchmarks, die es verschiedenen Militärsystemen ermöglichen würden, interoperabel zu sein, und Aufsichtsbeamten eine kohärente Darstellung davon geben würden, welche KI-Fähigkeiten wo eingesetzt werden.
Claude im militärischen Kontext
Zu den KI-Systemen, bei denen das Pentagon versucht, den Zugang zu standardisieren, gehört Anthropics Claude — eines der Frontier Large Language Models, das von verschiedenen verteidigungsbezogenen Auftragnehmern und direkt von DoD-Organisationen für Aufgaben wie Dokumentenanalyse, Geheimdienste-Verarbeitung und Entscheidungsunterstützung verwendet wurde. Die Aufnahme von Claude neben Systemen von OpenAI, Google und Microsoft spiegelt das Bestreben des Pentagon wider, Optionen über mehrere Frontier-KI-Anbieter zu bewahren, anstatt abhängig von einem einzigen Anbieter zu werden.
Anthropic hat ein komplexeres Verhältnis zu militärischen Aufträgen als einige seiner Konkurrenten. Die Acceptable Use Policy des Unternehmens verbietet die Verwendung von Claude für Waffenentwicklung, Angriffe auf kritische Infrastruktur und mehrere andere Kategorien schädlicher Anwendungen. Aber die Grenze zwischen verbotenen und zulässigen Anwendungsfällen im militärischen Kontext ist nicht immer klar — Dokumentenanalyse, Logistikoptimierung und Entscheidungsunterstützung sind äußerlich neutrale Anwendungen, die in der Praxis zu militärischen Operationen, einschließlich tödlicher Operationen, beitragen können.
Der Rücktritt von OpenAIs Robotik-Chef Caitlin Kalinowski über diesen Pentagon-Deal — unter Berufung auf Bedenken hinsichtlich tödlicher Autonomie und unzureichender Überlegung — unterstreicht die ethischen Spannungen, mit denen Frontier-KI-Unternehmen konfrontiert sind, wenn sie mit militärischen Kunden umgehen. Anthropic hat nicht öffentlich bekannt gegeben, unter welchen spezifischen Bedingungen Claude für DoD-Kunden verfügbar ist oder welche Aufsichtsmechanismen seine militärische Verwendung regeln.
KI für militärisches Targeting: Die Kernfrage
Die empfindlichste Anwendung von KI im militärischen Kontext ist das Targeting — der Einsatz automatisierter Systeme zur Identifizierung, Priorisierung und in einigen Fällen zum Unterstützen der Auseinandersetzung mit feindlichen Zielen. Die Doktrin des US-Militärs erfordert menschliche Genehmigung für Entscheidungen über tödliche Gewalt, aber die Rolle von KI bei der Verarbeitung von Sensordaten, der Identifizierung potenzieller Ziele und der Übermittlung von Empfehlungen an menschliche Entscheidungsträger hat sich in den letzten Jahren dramatisch erweitert.
Project Maven, das KI-basierte Bildanalyseprogramm des Pentagon, verarbeitet Drohnenüberwachungsaufnahmen, um Ziele von Interesse zur menschlichen Überprüfung zu identifizieren. Die KI trifft nicht die endgültige tödliche Entscheidung — ein Mensch tut das — aber sie bestimmt, welche Informationen den Menschen erreichen und wie diese gerahmt werden, was Fragen zur sinnvollen Qualität der menschlichen Aufsicht aufwirft, die die Doktrin nominell erfordert.
Das Standardisierungsbestreben ist teilweise eine Reaktion auf Aufsichtsbedenken: Wenn unterschiedliche KI-Systeme unterschiedliche Outputs für die gleichen Inputs liefern, oder wenn niemand ein umfassendes Verzeichnis hat, welche KI-Systeme zu welchen Entscheidungen beitragen, wird eine sinnvolle menschliche Aufsicht des KI-gestützten Targetings extrem schwierig. Standardisierung schafft Nachvollziehbarkeit — die Fähigkeit zu wissen, welches Modell, in welcher Version, unter welchen Sicherheitseinstellungen, an einer bestimmten Entscheidungskette beteiligt war.
Die ethische Architektur-Frage
Kritiker in der KI-Ethik-Gemeinschaft argumentieren, dass Standardisierung ein Governance-Problem adressiert, aber nicht die grundlegendere ethische Frage löst: ob KI in Targeting-Entscheidungen überhaupt verwendet werden sollte, und wenn ja, unter welchen Einschränkungen. Alle militärischen KI-Anbieter auf denselben Baseline zu bringen, bedeutet zu definieren, was dieser Baseline ist — welche Werte, welche Sicherheitsrichtlinien, welche verbotenen Verwendungen in den Standard eingebunden sind. Dieser Definitionsprozess findet weitgehend außerhalb der öffentlichen Sicht statt.
Die Einsätze, dies richtig zu machen, sind hoch. KI-Systeme, die Bias in Targeting-Entscheidungen einführen, die Bedrohungsbewertungen halluzinieren, oder die durch gegnerische Eingaben manipuliert werden, könnten zu katastrophalen Fehlern in Kampfsituationen beitragen. Das Standardisierungsbestreben des Pentagon ist eine Anerkennung dieses Risikos — aber die Angemessenheit der Reaktion wird letztendlich dadurch beurteilt, wie die Systeme unter operativen Bedingungen abschneiden, die nicht vollständig im Voraus geplant werden können.
Dieser Artikel basiert auf Berichten vom MIT Technology Review. Lesen Sie den ursprünglichen Artikel.
Originally published on technologyreview.com
