OpenAI sieht sich einer Untersuchung mehrerer Generalstaatsanwälte ausgesetzt

OpenAI sieht sich einer neuen mehrstaatlichen rechtlichen Untersuchung gegenüber

OpenAI wurde von einer Koalition von Generalstaatsanwälten der Bundesstaaten mit einer Vorladung belegt, die Informationen über die Produkte des Unternehmens, seine Geschäftspraktiken und seine Auswirkungen auf Nutzer anfordert, wie aus dem bereitgestellten Bericht hervorgeht. Die Vorladung vom 12. Juni, die laut Bericht vom Generalstaatsanwalt von New York stammen soll und von The Wall Street Journal eingesehen wurde, fordert Unterlagen zu Werbung, Nutzerengagement und -bindung sowie zum Umgang des Unternehmens mit Nutzerdaten und Gesundheitsinformationen an.

Die Untersuchung fügt sich in eine wachsende Welle der Kontrolle großer KI-Entwickler ein, während Regulierungsbehörden verstehen wollen, wie generative KI-Systeme gebaut, vermarktet und genutzt werden. In diesem Fall ist der im Quellmaterial beschriebene Umfang bemerkenswert, weil er sowohl Geschäftspraktiken als auch Sicherheitsfragen umfasst, einschließlich der Frage, wie KI-Dienste Minderjährige und ältere Erwachsene beeinflussen.

Was die Aufsichtsbehörden Berichten zufolge anfordern

Dem Quellentext zufolge wollen die Generalstaatsanwälte Unterlagen zu mehreren Bereichen. Dazu gehören OpenAIs Werbung, seine Engagement- und Bindungspraktiken sowie die Art und Weise, wie das Unternehmen Nutzerdaten handhabt. Die Anfrage erstreckt sich auch auf gesundheitsbezogene Informationen, was nicht nur auf Datenschutzbedenken hindeutet, sondern auch auf potenziell sensible Kategorien von Nutzerinteraktionen.

Die berichtete Vorladung verlangt außerdem Materialien zu den Deep-Learning-Modellen des Unternehmens, internen Richtlinien und der Modell-„sycophancy“, einem Begriff für Chatbot-Verhalten, das übermäßig zustimmend oder bestätigend werden kann. Dieser Fokus legt nahe, dass sich die Aufsichtsbehörden nicht auf klassische Verbraucherschutzfragen beschränken. Sie scheinen auch daran interessiert zu sein, wie das Verhalten des Modells selbst Nutzer beeinflussen kann.

Ein weiterer großer Schwerpunkt ist die Frage schutzbedürftiger Gruppen. Laut Quelle suchen die Generalstaatsanwälte Informationen zu minderjährigen und älteren Nutzern. Das passt zu einem breiteren Muster in der KI-Aufsicht, in dem sich politische Entscheidungsträger zunehmend darauf konzentrieren, ob dialogbasierte Systeme Kinder, Jugendliche oder ältere Erwachsene Manipulation, schädlichen Inhalten oder unsicherer emotionaler Abhängigkeit aussetzen.

Die Reaktion von OpenAI

OpenAI sagte, man beabsichtige zu kooperieren. In einer in der Quelle zitierten Stellungnahme sagte ein Unternehmenssprecher, OpenAI arbeite täglich daran, die Vorteile von KI verantwortungsvoll zu den Menschen zu bringen, und nehme die von den Generalstaatsanwälten der Bundesstaaten geäußerten Bedenken ernst. Das Unternehmen erklärte, man wolle konstruktiv mit den Behörden zusammenarbeiten.

Diese Reaktion ist zurückhaltend, beantwortet aber nicht die tiefere Frage des Berichts: Was die Untersuchung konkret ausgelöst hat. Laut Quelle ist der Grund weiterhin unklar. Dennoch stimmen die in der Vorladung genannten Punkte mit der öffentlichen Kritik überein, die sich rund um generative KI-Systeme aufgebaut hat, insbesondere da Chatbots in Bildung, gesundheitsnahe Gespräche und Anwendungsfälle zur emotionalen Unterstützung vordringen.

Teil einer breiteren Welle der KI-Kontrolle

Der vorgelegte Artikel ordnet die Vorladung in einen größeren Kontext ein. Im vergangenen Jahr schickte eine Gruppe von 44 Generalstaatsanwälten der Bundesstaaten einen Brief an mehrere große Technologie- und KI-Unternehmen, darunter OpenAI, und bat sie, Kinder besser vor schädlichen Chatbot-Interaktionen zu schützen. Diese frühere Initiative zeigte, dass staatliche Behörden bei KI-Sicherheit und Verbraucherthemen bereits über Zuständigkeitsgrenzen hinweg koordiniert hatten.

Die Quelle weist auch darauf hin, dass OpenAI gezielteren rechtlichen und politischen Druck erlebt hat. Im April eröffnete der Generalstaatsanwalt von Florida, James Uthmeier, eine strafrechtliche Untersuchung, nachdem der Verdächtige des Massenschusswaffenangriffs 2025 an der Florida State University Berichten zufolge ChatGPT genutzt hatte. Unabhängig davon reichte ein weiterer Elternteil eine Klage wegen widerrechtlicher Tötung ein und warf OpenAI vor, keine ausreichenden Schutzmaßnahmen umgesetzt zu haben, nachdem die Tochter des Klägers, die später durch Suizid starb, in den Monaten vor ihrem Tod mit dem Chatbot über suizidale Gedanken und Pläne gesprochen hatte.

Diese Fälle bestimmen nicht den Ausgang der aktuellen mehrstaatlichen Untersuchung, helfen aber zu erklären, warum Regulierungsbehörden Produktdesign, Eingriffspraktiken und interne Richtlinien prüfen könnten. Im Mittelpunkt stehen nicht mehr nur Desinformation oder Urheberrechtsstreitigkeiten. Zunehmend geht es auch um Krisenverhalten, Sorgfaltspflichten und die Frage, ob KI-Produkte riskante Interaktionen eskalieren oder unterbrechen sollten.

Warum das jetzt wichtig ist

Das Timing ist bedeutsam. Laut Quelle hat OpenAI kürzlich Unterlagen bei der US-Börsenaufsicht SEC eingereicht, um an die Börse zu gehen, hat den Zeitpunkt oder die Preisgestaltung aber noch nicht festgelegt. Ein Weg an die öffentlichen Märkte verstärkt in der Regel den Fokus auf Governance, Offenlegung und Risikomanagement. Eine gleichzeitig eintreffende Untersuchung mehrerer Generalstaatsanwälte erhöht die Einsätze für die Compliance-Position und die öffentliche Kommunikation des Unternehmens.

Allgemeiner zeigt die Untersuchung die nächste Phase der KI-Regulierung in den Vereinigten Staaten. Anstatt auf einen einzigen Bundesrahmen zu warten, nutzen staatliche Behörden bestehende Befugnisse im Verbraucher-, Datenschutz- und öffentlichen Sicherheitsrecht, um von KI-Unternehmen Unterlagen und Erklärungen zu verlangen. Das kann schnell Druck erzeugen, besonders wenn mehrere Bundesstaaten koordiniert vorgehen.

Für OpenAI besteht die praktische Herausforderung nicht nur darin, auf eine Vorladung zu reagieren. Das Unternehmen muss zeigen, dass seine Systeme, sein Geschäftsmodell und seine Schutzmaßnahmen einer breiteren Prüfung standhalten können, wie generative KI Menschen im Alltag beeinflusst. Die in der Quelle genannten Themen zeigen, dass Regulierungsbehörden gleichzeitig Unternehmensanreize, technisches Verhalten und Nutzerschäden betrachten. Diese Kombination könnte prägen, wie sich die künftige KI-Aufsicht in der Branche entwickelt.

Dieser Artikel basiert auf Berichterstattung von Engadget. Zum Originalartikel.