Agentische KI zwingt Unternehmen, Governance und Sicherheitskontrollen neu zu denken

KI-Agenten werden zu einem Governance-Problem, nicht nur zu einem Produktivitätswerkzeug

Während Unternehmen darauf vorbereitet sind, KI-Agenten in Geschäftsabläufen einzusetzen, werden Sicherheit und Governance zu zentralen Hürden, wenn die Technologie sicher skaliert werden soll.

Ein in Zusammenarbeit mit der Deloitte Microsoft Technology Practice erstellter MIT Technology Review Insights-Artikel argumentiert, dass agentische KI eine neue Unternehmens-Angriffsfläche eröffnen kann. Die Sorge ist, dass unsichere Agenten dazu manipuliert werden könnten, auf sensible Systeme, proprietäre Daten oder Werkzeuge zuzugreifen, die über ihre vorgesehene Rolle hinausgehen.

Der Artikel ist gesponserter Inhalt und kein redaktioneller MIT Technology Review-Bericht, enthält jedoch Umfragezahlen und eine klare Risikothese für Unternehmen. Laut dem im Text zitierten Deloitte AI Institute 2026 State of AI Report planen fast 74 % der Unternehmen, agentische KI innerhalb von zwei Jahren einzuführen. Nur 21 % geben an, über ein ausgereiftes Governance-Modell für autonome Agenten zu verfügen.

Nicht-menschliche Identitäten vermehren sich

Ein zentraler Punkt des Artikels ist, dass moderne Unternehmen bereits eine wachsende Zahl nicht-menschlicher Identitäten verwalten, etwa Servicekonten, Maschinenanmeldedaten, automatisierte Workflows und Software-Akteure. Agentische KI könnte diesen Trend beschleunigen, weil Agenten Berechtigungen, Datenzugriff, Tool-Zugriff und die Fähigkeit benötigen könnten, im Namen von Nutzern oder Geschäftsfunktionen zu handeln.

Das erzeugt ein anderes Risikoprofil als die gewöhnliche Nutzung eines Chatbots. Ein dialogorientiertes System, das Fragen beantwortet, ist das eine; ein Agent, der Dateien abrufen, interne Tools aufrufen, in Systeme schreiben oder Aktionen auslösen kann, ist etwas anderes. Governance muss definieren, was der Agent tun darf, in wessen Autorität er handelt und wie sein Verhalten überwacht wird.

Die Quelle sagt, dass Führungskräfte am stärksten über Datenschutz und Sicherheit besorgt sind, mit 73 %. Recht, geistiges Eigentum und regulatorische Compliance folgen mit 50 %, während Governance-Fähigkeiten und Aufsicht mit 46 % genannt werden.

Das Control-Plane-Konzept hält Einzug in den KI-Betrieb

Andrew Rafla, ein Principal in Deloittes Cyber Practice, beschreibt eine Control Plane als zentrale Ebene, die steuert, wer welche Agenten mit welchen Berechtigungen, unter welchen Richtlinien und mit welchen Modellen und Tools ausführen darf. In seiner Darstellung haben Unternehmen ohne eine solche Ebene keinen skalierbaren autonomen Betrieb, sondern eine unkontrollierte Ausführung.

Dieses Konzept ist wichtig, weil Unternehmen Technologie selten isoliert einführen. KI-Agenten können mit Identitätssystemen, Dokumentenspeichern, Kundendaten, Code-Repositories, Analyseplattformen und externen Diensten interagieren. Wenn jede Einführung Berechtigungen und Prüfbarkeit anders verwaltet, wird die Aufsicht fragmentiert.

Ein funktionierendes Governance-System müsste grundlegende operative Fragen beantworten: was ein Agent getan hat, in wessen Namen, mit welchen Daten, unter welcher Richtlinie und ob die Aktion reproduzierbar oder stoppbar ist. Der Artikel stellt diese Fragen als Mindestgrundlage für den Einsatz von Agenten im Unternehmensmaßstab dar.

Governance trennt Pilotprojekte von der Produktion

Die Quelle argumentiert, dass Governance das ist, was KI-Agenten von Experimenten zu wiederholbarer Unternehmensautomatisierung macht. Pilotprojekte können oft auf enge Aufsicht, begrenzte Daten oder manuelle Leitplanken setzen. Produktionsumgebungen brauchen Kontrollen, die team- und anwendungsübergreifend konsistent funktionieren.

Das Risiko besteht nicht nur darin, dass ein Agent einen einzelnen Fehler macht. Es geht darum, dass ein schlecht gesteuertes Agentensystem unvorhersehbar und in großem Maßstab versagen kann. Wenn viele Agenten breiten Zugriff, schwaches Monitoring oder unklare Verantwortlichkeit haben, können kleine Designfehler zu systemischer Gefährdung werden.

Für Unternehmen bedeutet das kurzfristig, dass der Einsatz von Agenten mit Planungen für Identität, Sicherheit, Compliance und Beobachtbarkeit verbunden werden sollte. Governance erst später hinzuzufügen, mag frühe Pilotprojekte erleichtern, kann Organisationen aber die Kontrollstrukturen fehlen lassen, die für eine breitere Einführung nötig sind.

Was der Artikel signalisiert

Der Beitrag spiegelt einen breiteren Wandel in der Diskussion über Enterprise AI wider. Die Frage ist nicht mehr nur, ob KI-Agenten nützliche Arbeit automatisieren können. Sie lautet vielmehr, ob Organisationen die Grenzen definieren und durchsetzen können, innerhalb derer diese Agenten operieren.

Da es sich um gesponserten Inhalt handelt, sollten seine Empfehlungen in diesem Kontext gelesen werden. Dennoch sind die benannten Risikokategorien konkret: Datenschutz, Sicherheit, rechtliche Compliance, geistiges Eigentum, Aufsicht, Berechtigungen und Prüfbarkeit. Diese Punkte dürften zentral bleiben, wenn agentische KI von Demonstrationen in operative Systeme übergeht.

Dieser Artikel basiert auf Berichterstattung von MIT Technology Review. Den Originalartikel lesen.