Öffnung der Schatzkammer
Das US-Verteidigungsministerium plant, KI-Unternehmen zu ermöglichen, ihre Modelle mit klassifizierten Militärdaten zu trainieren, wie ein Verteidigungsbeamter gegenüber dem MIT Technology Review berichtete. Die Initiative würde, falls implementiert, eine der bedeutendsten Ausdehnungen des KI-Zugangs zu sensiblen Regierungsinformationen in der US-Geschichte darstellen - und ein bewusstes Risiko eingehen, dass die gewonnenen Leistungsvorteile die Risiken der Exposition klassifizierter Daten gegenüber kommerziellen KI-Systemen und den Unternehmen, die diese bauen, überwiegen.
Der Beamte beschrieb ein sich in Entwicklung befindliches Framework, das es überprüften KI-Unternehmen ermöglichen würde, auf klassifizierte Datensätze in sicheren Computerumgebungen zuzugreifen und diese Daten zum Training und zur Feinabstimmung von Modellen für spezifische Verteidigungsanwendungen zu nutzen. Die klassifizierten Daten würden in staatlicher Infrastruktur verbleiben - KI-Unternehmen würden die Daten nicht mitnehmen - aber ihrem Personal und ihren Modell-Trainingspipelines würde der Zugang zu Informationen gewährt, die normalerweise auf Personal mit entsprechenden Sicherheitsfreigaben beschränkt sind.
Warum das Pentagon das will
Die militärische Begründung ist unkompliziert: Die wertvollsten KI-Anwendungen für die Verteidigung erfordern Zugang zu der Art von Daten, die nur das Militär besitzt. Ein KI-Modell zum Erkennen spezifischer Militärhardware in Satellitenbildern zu trainieren, zur Analyse von Signalaufklärung, zur Synthese von Intelligenz aus klassifizierten Quellen oder zur Optimierung der Logistik für klassifizierte Operationen erfordert Trainingsdaten, die diese spezifischen Bereiche widerspiegeln - und diese Daten sind per Definition klassifiziert.
Kommerzielle KI-Modelle, die auf öffentlich verfügbaren Daten trainiert sind, sind nützlich für viele Verteidigungsanwendungen, aber grundlegend begrenzt in den Bereichen, in denen Klassifizierung die wichtigsten Leistungslücken schafft. Ein Modell, das auf Open-Source-Satellitenbildern trainiert ist, wird niemals die Leistung eines auf klassifizierten Overhead-Geheimdiensten trainierten Modells erreichen. Das Pentagon-Interesse an klassifizierten Trainingsdaten spiegelt die Anerkennung wider, dass kommerzielle KI-Entwicklung diese Lücken nicht schließen kann, ohne Zugang zu Daten zu haben, die nur die Regierung kontrolliert.
Die Risiken
Die mit diesem Ansatz verbundenen Risiken sind erheblich und erstrecken sich über mehrere Kategorien. Das offensichtlichste ist Insider-Bedrohung und Datenexfiltration: Das Gewähren von Zugang für KI-Unternehmens-Personal und -Systeme zu klassifizierten Daten erweitert die Angriffsfläche für potenzielle Lecks, sei es durch absichtlichen Diebstahl, versehentliche Offenlegung oder gegnerische Kompromittierung der KI-Unternehmensinfrastruktur.
Ein zweites Risiko sind Modellumkehrung und Membership-Inferenzangriffe - Techniken, bei denen ein Gegner, der Zugriff auf ein trainiertes Modell hat, Informationen über die zum Trainieren verwendeten Daten extrahieren kann. Wenn klassifizierte Daten zum Trainieren eines KI-Modells verwendet werden und dieses Modell oder seine Ausgaben anschließend in Kontexten bereitgestellt werden, in denen Gegner damit interagieren können, gibt es einen potenziellen Weg zur Wiederherstellung sensibler Informationen aus den gelernten Darstellungen des Modells.
Drittens gibt es erhebliche Fragen zur Sicherheitslage der KI-Unternehmen selbst. Selbst die größten KI-Entwickler haben Sicherheitsvorfälle gehabt, und ihre Entwicklungsumgebungen sind nicht nach den Standards gebaut, die für den Umgang mit klassifizierten nationalen Sicherheitsinformationen erforderlich sind. Diese Lücke zu schließen fügt Kosten und Komplexität hinzu, die die sehr Leistungsentwicklung verlangsamen könnten, die die Initiative beschleunigen soll.
Der Wettbewerbszwang
Der Druck kommt im Kontext echter Dringlichkeit. Chinas militärisches KI-Programm macht schnelle Fortschritte, und die staatlich unterstützte KI-Entwicklung Chinas kann ohne die rechtlichen und institutionellen Barrieren auf PLA-Daten zugreifen, die kommerzielle Unternehmen von US-Klassifizierungssystemen trennen. Das Pentagon betrachtet die Lücke zwischen kommerzieller KI-Leistung und mit klassifizierten Daten trainierter KI-Leistung als strategische Schwachstelle - eine, die ein permissiveres Datenaustausch-Framework beheben soll.
Die Initiative befindet sich in Entwicklung statt in Umsetzung, und ihre endgültige Form wird von rechtlichen Überprüfungen, Entscheidungen der Klassifizierungsbehörde und der Verhandlung von Sicherheitsvereinbarungen mit beteiligten Unternehmen abhängen. Aber die Fahrtrichtung ist klar: Das Pentagon bewegt sich auf ein Modell zu, in dem die Grenze zwischen klassifizierten Militärdaten und kommerzieller KI-Entwicklung durchlässiger wird, um die KI-Überlegenheit über strategische Konkurrenten zu wahren.
Dieser Artikel basiert auf Berichten des MIT Technology Review. Lesen Sie den Originalartikel.
Originally published on technologyreview.com
