Microsoft-Präsident fordert KI-Sicherheitsregeln und Notausschalter

Microsoft-Präsident Brad Smith hat dringendere Sicherheitsregeln für künstliche Intelligenz gefordert. KI werde weniger streng reguliert als alltägliche Produkte wie Milch und Waschmaschinen, sagte er. Seine Äußerungen verstärken die öffentliche Debatte darüber, wie Unternehmen und Regierungen Systeme steuern sollen, die in großem Maßstab Empfehlungen, Antworten und Handlungen erzeugen können.

Im Gespräch mit der BBC beschrieb Smith KI sowohl als mögliches Werkzeug als auch als Waffe. Die Technologie müsse stärkeren Sicherheitsanforderungen unterliegen, sagte er, und Unternehmen sollten gegenüber einem Opfer rechtlich verpflichtet sein, wenn ihr System von außer Kontrolle geratenen KI-Agenten kompromittiert wird. Die Äußerungen wurden bekannt, während die britische KI-Ministerin Kanishka Narayan Entwickler von Spitzenmodellen zu stärkeren Maßnahmen gegen Risiken und besseren Schutzvorkehrungen auffordern wollte.

Der Ruf nach Notbremsen

Im Zentrum von Smiths Argumentation stand die Forderung nach „Notbremsen“, auch Notausschalter genannt, die ein System pausieren oder verlangsamen können, wenn es sich außerhalb akzeptabler Kontrolle bewegt. Die Idee berührt eine grundlegende Governance-Frage: Können die betreibenden Organisationen das Verhalten eines Systems beobachten, seine Grenzen testen und bei Problemen zuverlässig eingreifen?

Microsoft-Chef Satya Nadella hatte am Vortag einen ähnlichen Appell formuliert. Hochleistungsfähige KI solle nicht als Sammlung undurchsichtiger, verschachtelter Blackboxes behandelt werden, deren Empfehlungen oder Handlungen nachträglich einfach angenommen oder abgelehnt werden. Stattdessen forderte er eingegrenzte Systeme, deren Verhalten beobachtet, deren Grenzen getestet und deren Handlungen kontrolliert werden können.

Die Aussagen der beiden Führungskräfte enthalten weder einen konkreten Gesetzestext noch einen technischen Standard. Gemeinsam stellen sie Microsoft jedoch in eine Reihe von Unternehmen, die öffentlich Mechanismen fordern, mit denen Betreiber das Verhalten von KI unter festgelegten Umständen stoppen oder begrenzen können.

Warum der Vergleich wichtig ist

Smiths Vergleich mit Waschmaschinen und Milchpackungen sollte einen regulatorischen Punkt verdeutlichen: Gewöhnliche Konsumgüter unterliegen häufig Prüfungen und Sicherheitsanforderungen, während die rasante Entwicklung der KI der Einführung gleichwertiger, allgemein geltender Kontrollen davongelaufen ist. Der Vergleich ist rhetorisch, erfasst aber die Sorge, dass Systeme, die Menschen durch automatisierte Entscheidungen oder Handlungen beeinflussen können, eine klarere Verantwortlichkeit benötigen als freiwillige Zusagen allein.

Sein Vorschlag einer Verpflichtung gegenüber Opfern wirft zudem die Frage auf, wer verantwortlich ist, wenn ein KI-gestütztes System kompromittiert oder von außer Kontrolle geratenen Agenten genutzt wird. Der Artikel nennt nicht, was eine solche Verpflichtung beinhalten würde, wer eine Kompromittierung feststellen oder wie die Haftung zwischen Modellentwicklern, Infrastrukturanbietern und Betreibern verteilt würde. Diese Details wären für jede künftige Regulierung entscheidend.

Druck auf Entwickler von Spitzenmodellen

Die Äußerungen erfolgen amid Forderungen von Fachleuten, Politikern und Aufsichtsbehörden nach strengeren KI-Regeln sowie Warnungen von Anthropic, Google DeepMind und OpenAI vor dem Tempo der technologischen Entwicklung. Die gemeinsame Sorge besteht nicht darin, jede KI-Nutzung zu stoppen. Vielmehr sollen Entwickler der leistungsfähigsten Systeme schwere Risiken vor einer breiten Einführung besser erkennen und steuern.

Auch die britische KI-Ministerin sollte voraussichtlich für eine ähnliche Position eintreten und Unternehmen zur Stärkung ihrer Schutzmaßnahmen auffordern. Die Übereinstimmung zwischen der Führung eines großen Technologieunternehmens und einer Regierungsministerin garantiert keine politische Einigung. Sie zeigt jedoch, dass sich die Debatte zunehmend auf operative Kontrollen, Verantwortlichkeit und nachweisbare Sicherheitspraktiken konzentriert.

Vom Prinzip zur Umsetzung

„Notausschalter“ ist ein intuitiver Begriff, doch seine Umsetzung ist keine einfache Ein-Aus-Entscheidung. Ein wirksames Notfallkontrollsystem müsste die Bedingungen für einen Eingriff erkennen, festlegen, wer dazu befugt ist, und sicherstellen, dass der Eingriff technisch funktioniert. Es müsste außerdem verhindern, dass der Notausschalter zu einem PR-Versprechen wird, das unter Belastung versagt.

Die Aussagen von Smith und Nadella verweisen auf eine konkretere Erwartung: Unternehmen müssen das Verhalten von KI beobachten, Grenzen testen und die Fähigkeit behalten können, Handlungen einzudämmen. Damit verschiebt sich die Aufmerksamkeit von Behauptungen über das beabsichtigte Verhalten eines Modells hin zu Nachweisen darüber, wie eine Organisation laufende Systeme überwachen und kontrollieren kann.

• Brad Smith sagte, KI brauche dringendere Sicherheitsregeln und stärkere Schutzmaßnahmen.
• Er forderte Notbremsen und eine rechtliche Verpflichtung gegenüber Opfern nach Kompromittierungen durch außer Kontrolle geratene KI-Agenten.
• Satya Nadella forderte ebenfalls KI-Systeme, deren Grenzen und Handlungen beobachtet und eingedämmt werden können.

Eine politische Debatte mit praktischen Folgen

Die Debatte dürfte über die Frage hinausgehen, ob Regulierung notwendig ist, und sich damit befassen, wie sie gestaltet werden soll. Gesetzgeber müssen prüfen, wie Regeln für Entwickler, Cloud- und Infrastrukturbetreiber sowie Organisationen gelten, die KI in der Praxis einsetzen. Unternehmen stehen zugleich vor der Frage, ob ihre Aufsichtssysteme mit der Integration von Modellen in Produkte und Arbeitsabläufe Schritt halten können.

Smiths Warnung formuliert das Problem verständlich: Wenn die Gesellschaft Sicherheitsprüfungen für vertraute Produkte erwartet, könnte sie auch robuste Kontrollen für eine Technologie erwarten, die Informationen prägen, Aufgaben automatisieren und missbraucht werden kann. Die nächste Prüfung wird sein, ob aus diesen Forderungen konkrete, durchsetzbare Praktiken entstehen statt einer weiteren Runde allgemeiner Zusagen.

Dieser Artikel basiert auf einer Meldung des Guardian. Originalartikel lesen.