Vorwurf eines unbefugten Zugriffs stellt Anthropics Rollout von Cybersecurity-KI auf den Prüfstand

Anthropic untersucht gemeldeten Zugriff auf Mythos

Anthropic untersucht einen Bericht, wonach eine Gruppe unbefugter Nutzer Zugriff auf Claude Mythos Preview erhalten habe, ein auf Cybersicherheit ausgerichtetes KI-Tool, das das Unternehmen nur ausgewählten Anbietern zur Verfügung gestellt hatte. Das Unternehmen teilte TechCrunch mit, es gehe Hinweisen nach, dass der Zugriff über die Umgebung eines Drittanbieters erfolgt sei, und erklärte zugleich, man habe keine Anzeichen dafür gefunden, dass die eigenen Systeme von Anthropic betroffen gewesen seien.

Der Bericht ist deshalb bedeutsam, weil Mythos kein allgemeiner Verbraucher-Chatbot ist. Anthropic beschreibt das Produkt als ein Sicherheitswerkzeug für Unternehmen mit ausreichend Leistungsfähigkeit, um in den falschen Händen für offensives Hacking zweckentfremdet zu werden. Genau dieses Dual-Use-Profil erklärt, warum die begrenzte Freigabe wichtig ist: Zugriffskontrollen sind Teil des Sicherheitsmodells, nicht bloß eine kommerzielle Verpackungsentscheidung.

Wie der Zugriff mutmaßlich erlangt wurde

Laut dem Ausgangsmaterial berichtete Bloomberg, dass Mitglieder eines privaten Online-Forums über einen Drittanbieter Zugriff auf Mythos erhalten hätten. Die beteiligten Personen wurden öffentlich nicht identifiziert. Eine im Bericht genannte Person soll für einen mit Anthropic verbundenen Drittanbieter-Dienstleister gearbeitet haben, und die Gruppe habe den Zugriff dieser Person im Rahmen ihres Vorgehens genutzt.

Die Gruppe habe zudem anhand früherer Namens- oder Standortmuster von Anthropic für andere Modelle eine begründete Vermutung über den Online-Standort des Modells angestellt. Bloomberg seien dem Bericht zufolge Screenshots und eine Live-Demonstration des Werkzeugs gezeigt worden. Die Gruppe soll Mythos am selben Tag erreicht haben, an dem es öffentlich angekündigt wurde, und es danach regelmäßig genutzt haben.

Warum der Vorfall wichtig ist

Für KI-Unternehmen zeigt der Vorfall ein bekanntes Problem in schärferer Form: Ein Modell kann im Kern geschützt sein und dennoch über das breitere Ökosystem darum herum exponiert werden. Anbieterumgebungen, Dienstleister, Preview-Programme und frühe Partner-Deployments vergrößern die Zahl der Stellen, an denen Zugangsdaten und Routing-Informationen abfließen oder missbraucht werden können.

Anthropics aktuelle Position ist enger gefasst als die Behauptung im Bericht. Das Unternehmen sagt nicht, seine Systeme seien kompromittiert worden. Es sagt, es untersuche einen Bericht über eine Drittanbieter-Umgebung und habe keine Hinweise gesehen, dass die Aktivität Anthropic-Systeme beeinträchtigt habe. Diese Unterscheidung ist wichtig, beseitigt das operative Risiko aber nicht. Bei eingeschränkten KI-Systemen kann eine unbefugte Nutzung über einen Partner den Zweck eines kontrollierten Rollouts dennoch untergraben.

Mythos wurde dem Bericht zufolge im Rahmen einer Initiative namens Project Glasswing an eine ausgewählte Gruppe von Anbietern, darunter Apple, freigegeben. Die begrenzte Freigabe sollte die Wahrscheinlichkeit verringern, dass böswillige Akteure das Tool nutzen. Wenn eine private Gruppe direkt nach der Ankündigung über einen Anbieterkanal Zugriff erlangt hat, wirft das Fragen dazu auf, wie Preview-Deployments überwacht werden, wie der Zugriff begrenzt wird und wie schnell verdächtige Nutzung erkannt werden kann.

Die breitere Herausforderung der KI-Sicherheit

Der Bericht verweist auch auf ein kulturelles Problem rund um unveröffentlichte KI-Systeme. Das Ausgangsmaterial beschreibt einen Discord-Kanal, dessen Mitglieder Informationen über unveröffentlichte KI-Modelle suchen. Die im Bericht zitierte Person charakterisierte die Gruppe als an Experimenten mit neuen Modellen interessiert, nicht an Schaden. Selbst wenn diese Beschreibung zutrifft, schafft unbefugtes Experimentieren mit einem Cybersicherheitswerkzeug ein deutlich riskanteres Szenario als bloße Neugier gegenüber einem Standard-Chatbot.

Enterprise-KI-Sicherheitsprodukte müssen nützlich genug sein, um Bedrohungen zu analysieren, Untersuchungen zu automatisieren und Verteidiger zu unterstützen. Dieselben Fähigkeiten können jedoch gefährlich werden, wenn sie auf Aufklärung oder Ausnutzung umgelenkt werden. Diese Spannung macht Disziplin bei der Veröffentlichung zu einem zentralen Bestandteil der Produktsicherheit. Sie bedeutet auch, dass Anbieter, die an Previews teilnehmen, Teil der Sicherheitsgrenze werden.

Für Anthropic besteht die unmittelbare Aufgabe darin, festzustellen, was passiert ist, ob ein Zugriffsweg noch offen ist und ob die Kontrollen rund um Drittanbieter-Umgebungen ausreichend waren. Für die Branche insgesamt ist der Vorfall eine Warnung, dass Frontier-KI-Governance von alltäglichen operativen Details abhängt: Zugangsdaten, Dienstleistern, Anbieterberechtigungen, Protokollen und internen Namenskonventionen.

Der Vorfall wurde bislang nicht als Sicherheitsverletzung der eigenen Systeme von Anthropic beschrieben. Dennoch zeigt der gemeldete Zugriff auf Mythos, wie schnell eingeschränkte KI-Tools zu Zielen werden können, sobald ihre Existenz bekannt ist.

Dieser Artikel basiert auf Berichterstattung von TechCrunch. Den Originalartikel lesen.