Anthropic schaltet fortgeschrittene Modelle nach US-Anordnung ab

Anthropic sagt, eine US-Anordnung zwinge zu einer abrupten Abschaltung der Modelle

Anthropic sagte, es werde seine fortschrittlichsten KI-Modelle deaktivieren, nachdem die US-Regierung das Unternehmen angewiesen habe, den Zugang für ausländische Staatsangehörige auszusetzen, so der vorliegende Bericht. Die Maßnahme betrifft die Modelle Fable 5 und Mythos 5 des Unternehmens und wurde von Anthropic als unmittelbarer Compliance-Schritt im Zusammenhang mit nationalen Sicherheitsbedenken dargestellt.

Die Entwicklung markiert eine deutliche Eskalation im Umgang der Regierung mit KI-Kontrollen. Jahrelang konzentrierten sich US-Beschränkungen vor allem auf Chips, Halbleiterwerkzeuge und andere Infrastruktur, die zum Aufbau fortgeschrittener KI nötig ist. Diese Anordnung, wie sie die Quelle beschreibt, verschiebt die Kontrolllinie näher an die Modelle selbst, indem sie einschränkt, wer auf sie zugreifen darf.

Was Anthropic nach eigener Aussage mitgeteilt wurde

Laut dem Quelltext sagte Anthropic, es habe eine Exportkontrollanweisung erhalten, die den Zugang zu Fable 5 und Mythos 5 für alle ausländischen Staatsangehörigen untersagt. Das Unternehmen sagte, es seien keine spezifischen Details zu den nationalen Sicherheitsbedenken hinter der Anordnung genannt worden.

Anthropic sagte, es verstehe, dass die Regierung glaube, es gebe einen Weg, zumindest eine der Schutzmaßnahmen zu umgehen oder zu „jailbreaken“, die verhindern sollen, dass Fable 5 zur Identifizierung von Software-Schwachstellen genutzt wird. Mit anderen Worten: Die Sorge scheint zu sein, dass ein Modell mit starken Fähigkeiten so manipuliert werden könnte, dass es Nutzern hilft, ausnutzbare Schwachstellen in Softwaresystemen zu finden.

Das Unternehmen widersprach dieser Begründung. In dem vorliegenden Bericht sagte Anthropic, es habe nur mündliche Hinweise auf das erhalten, was es als möglichen, engen und nicht universellen Jailbreak bezeichnete. Es argumentierte, dass ein solcher Befund keinen Rückruf eines kommerziellen Modells rechtfertigen sollte, das von sehr vielen Menschen genutzt wird.

Ein Brennpunkt in der KI-Exportpolitik

Der Streit ist wichtig, weil er eine neue Front in der Regulierung von KI erkennen lässt. Exportkontrollen konzentrierten sich traditionell auf die physische und technische Lieferkette: fortgeschrittene Chips, Lithografieanlagen und verwandte Werkzeuge. Der Zugriff auf KI-Dienste selbst zu beschränken ist ein anderer und potenziell deutlich einschneidender Mechanismus, besonders wenn Cloud-Zugriff es ermöglicht, Modelle weltweit zu nutzen, ohne Hardware zu versenden.

Wenn der Zugang zu Frontier-Modellen aus Gründen der Staatsangehörigkeit begrenzt werden kann, könnten KI-Unternehmen vor einer neuen Compliance-Bürde stehen, ähnlich den in Verteidigungs- und Dual-Use-Branchen bereits üblichen Exportprüfregimen. Die Quelle legt nicht dar, wie Anthropic betroffene Nutzer technisch trennen will, doch die Stellungnahme zeigt, dass das Unternehmen sich für eine breite Abschaltung statt für einen engeren Rollout unter Unsicherheit entschied.

Spannungen zwischen Anthropic und Washington

Die Anordnung trifft auch auf eine bereits angespannte Beziehung zwischen Anthropic und der US-Regierung. Laut der Quelle verschlechterte sich die Beziehung zu Beginn dieses Jahres, nachdem Anthropic sich geweigert hatte, dem US-Militär die Nutzung seiner KI-Modelle für inländische Überwachung und vollständig autonome Waffensysteme zu erlauben. Als Reaktion setzte die Regierung das Unternehmen auf eine Lieferketten-Blacklist, die später im Jahr in Kraft treten sollte.

Dieser Hintergrund ist wichtig, weil er die jüngste Anweisung wie mehr als einen isolierten technischen Streit erscheinen lässt. Sie kommt inmitten eines umfassenderen Konflikts darüber, wie KI-Firmen mit staatlicher Macht kooperieren sollten, wo die Grenzen des zulässigen Verteidigungseinsatzes liegen sollten und wie viel Hebel Regierungen über privat entwickelte Modelle ausüben sollten.

Der Bericht merkt zudem an, dass sich zuletzt Anzeichen einer Entspannung in den Streitigkeiten zwischen Anthropic und Vertretern der Trump-Regierung gezeigt hatten. Die neue Anordnung spricht gegen diesen Eindruck und legt nahe, dass der zugrunde liegende Konflikt ungelöst bleibt.

Warum die Jailbreak-Frage wichtig ist

Anthropic stellte die Angelegenheit als Streit darüber dar, wie Regierungen das Jailbreak-Risiko bewerten sollten. Dem vorliegenden Bericht zufolge hatte das Unternehmen erst wenige Tage zuvor stärkere US-Aufsicht über KI gefordert, einschließlich der Möglichkeit, Modelle mit inakzeptablen Risiken zu blockieren. Es sagte jedoch, die Maßnahme vom Freitag sei nicht nach dem erfolgt, was es für ein prinzipien- und evidenzbasiertes Verfahren hielt.

Diese Unterscheidung ist zentral. KI-Unternehmen akzeptieren zunehmend, dass ein gewisses Maß an Aufsicht unvermeidlich ist, und einige unterstützen sie sogar aktiv. Die schwierigere Frage lautet, welche Schwellen eine Intervention auslösen. Wenn eine enge Umgehung einer Schutzmaßnahme ausreicht, um den internationalen Zugang zu einem großen kommerziellen Modell zu stoppen, könnten Unternehmen argumentieren, dass nahezu jedes fortgeschrittene System für plötzliche Beschränkungen anfällig sein könnte. Regulierer hingegen könnten genau diese Möglichkeit als Grund sehen, früh zu handeln.

Ein Signal für die gesamte Branche

Die gemeldete Anordnung dürfte von jedem Frontier-KI-Entwickler genau beobachtet werden. Auch ohne weitere technische Details zeigt sie, dass US-Behörden möglicherweise bereit sind, direkt gegen den Modellzugang vorzugehen, wenn sie nationale Sicherheitsinteressen betroffen sehen. Das schafft neue Unsicherheit für Anbieter, die globale Nutzer über eine einzige Plattform bedienen.

Für Anthropic ist die unmittelbare Folge eine operative und reputative Störung. Für die gesamte Branche könnte der Vorfall zum Präzedenzfall werden. Wenn Regierungen vom Kontrollieren von KI-Hardware dazu übergehen, KI-Fähigkeiten in Serviceform zu kontrollieren, werden Unternehmen strengere Prüfungen, klarere Bereitstellungsstufen und belastbarere Sicherheitsargumente brauchen. Der vorliegende Bericht deutet an, dass dieser Übergang bereits im Gange sein könnte.

Dieser Artikel basiert auf einer Berichterstattung von The Guardian. Den Originalartikel lesen.