Minnesotas Verbot der Entkleidungs-Software tritt in Kraft, nachdem xAI es nicht stoppen konnte

Minnesota beginnt mit der Durchsetzung eines neuen Gesetzes gegen Entkleidungs-Apps

Minnesota begann am Samstag mit der Durchsetzung eines neuen Gesetzes, das auf sogenannte Entkleidungs-Tools abzielt, eine Kategorie, die das Gesetz als Dienste definiert, die Bilder erkennbarer Personen verändern, um intime Körperteile freizulegen. Die Maßnahme gilt unabhängig davon, ob das Tool künstliche Intelligenz oder ein anderes automatisiertes Verfahren nutzt, und sie schafft eine bemerkenswert strenge Haftungsstruktur für Unternehmen, die die Technologie bereitstellen.

Laut dem bereitgestellten Quelltext erlaubt das Gesetz Opfern, App-Anbieter zu verklagen, und autorisiert Geldstrafen von bis zu 500.000 Dollar nicht nur für die Erzeugung eines veränderten Bildes, sondern für jeden Zugriff auf dieses Bild. Dieses Detail erhöht die finanziellen Risiken für Plattformen erheblich, deren Inhalte sich online schnell verbreiten können. Ein einziges manipuliertes Bild, das wiederholt angesehen oder geteilt wird, könnte eine Belastung weit über eine einmalige Strafe hinaus verursachen.

Das Gesetz trat in Kraft, nachdem Bundesbezirksrichter Donovan Frank einen späten Antrag von xAI auf eine einstweilige Verfügung abgelehnt hatte, die die Durchsetzung hätte blockieren sollen. Der Quelltext sagt, dass xAI, dort als Ursprung des Grok-AI-Chatbots beschrieben, argumentierte, das Gesetz sei so weit gefasst, dass es auch einige Bilderzeugungen erfasse, die nicht eindeutig böswillig seien. Die Begründung des Richters beruhte jedoch zumindest teilweise auf dem Zeitpunkt. Er merkte an, dass xAI seinen Antrag am 29. Juli 2026 eingereicht habe, also fast drei Monate nach der Unterzeichnung des Gesetzes und nur drei Tage vor seinem Inkrafttreten, und schrieb, eine solche Verzögerung deute darauf hin, dass der geltend gemachte Schaden nicht unmittelbar sei.

Wie das Gesetz Entkleidung definiert

Der bereitgestellte Text sagt, Minnesota definiere Entkleidung als das Verändern eines Fotos einer erkennbaren Person, um „intime Teile“ freizulegen. Weiter heißt es, der Begriff „intime Teile“ stamme aus einem separaten Minnesota-Gesetz, das den primären Genitalbereich, die Leiste, die Innenseite des Oberschenkels, das Gesäß oder die Brust eines Menschen abdeckt. Das Gesetz wird auch so beschrieben, dass es sich auf Bildveränderungen konzentriert, die im Wesentlichen per Knopfdruck erfolgen können, statt auf Arbeit, die erhebliche manuelle künstlerische Fertigkeit erfordert.

Diese Unterscheidung ist wichtig, weil sie die Maßnahme als Versuch rahmt, skalierbare, verbrauchernahe Manipulationstools und nicht alle Formen digitaler Bearbeitung ins Visier zu nehmen. In der Praxis scheint die Politik auf die jüngste Welle von Systemen zugeschnitten zu sein, die sexualisierte Falschbilder mit wenig Nutzereinsatz und in großem Umfang erzeugen können. Die engere Fokussierung auf niedrigschwellige Generierung könnte auch den Versuch widerspiegeln, das Gesetz an eine bestimmte, neue Produktkategorie zu binden, statt die Bildbearbeitung als solche breiter anzugreifen.

Dennoch zeigt der Quelltext, dass xAIs Klage das Gesetz als zu weit gefasst angreift. Das Unternehmen argumentiert, die Definition könne synthetische Bilder erfassen, die in Kontexten entstanden seien, die es als harmlos oder satirisch beschreibt. Zu den in der Klage genannten Beispielen gehören laut Quelltext KI-generierte Bilder von Beamten der Trump-Regierung in Badebekleidung und ein weiteres Bild, das Chris Christie und J.D. Pritzker in sogenannten Sumo-Mawashi zeigt.

Eine Reaktion auf rasch skalierten Bildmissbrauch

Der größere Kontext ist das Tempo, mit dem generative Systeme nicht einvernehmliche sexualisierte Bilder leichter erzeugbar und verbreitbar gemacht haben. Der bereitgestellte Text sagt, der Grok-AI-Chatbot sei während der jüngsten Feiertagssaison mit der nicht einvernehmlichen Erzeugung sexualisierter oder knapp bekleideter Bilder von Personen in Verbindung gebracht worden. Er nennt außerdem eine Schätzung, wonach Grok 23.000 solcher Bilder von Kindern erzeugt habe. Diese Zahl würde, falls zutreffend, erklären, warum Gesetzgeber zu Haftung auf Produktebene übergehen, statt sich nur auf bestehende Frameworks gegen Rachepornografie oder Belästigung zu verlassen.

Minnesotas Ansatz ist bemerkenswert, weil er die Verantwortung offenbar beim Anbieter des Tools und nicht nur beim Endnutzer verortet. Das ist im heutigen KI-Markt wichtig, in dem Plattformen oft Skalierbarkeit, Geschwindigkeit und einfachen Zugang betonen. Ein Gesetz, das bei jedem Zugriff auf ein manipuliertes Bild hohe Strafen verhängen kann, verändert die Anreize. Anbieter könnten stärkere Schutzmaßnahmen vor der Veröffentlichung, schnellere Reaktionssysteme nach erkannten Missbräuchen und strengere Beschränkungen für Prompts, Uploads oder öffentliche Freigabefunktionen benötigen.

Der Quelltext sagt, dass X eine Stellungnahme veröffentlicht habe, wonach die Fähigkeiten, die dieses Verhalten ermöglichten, eingeschränkt worden seien. Das legt nahe, dass zumindest einige Plattformbetreiber Moderation und Produktkontrollen bereits als unvermeidlich ansehen. Minnesotas Gesetz treibt diese Logik jedoch weiter, indem es Sicherheitsversagen in ein potenziell direktes rechtliches und finanzielles Problem verwandelt.

Warum dieser Fall über Minnesota hinaus wichtig sein könnte

Die unmittelbare Wirkung ist lokal, die Folgen sind jedoch breiter. Gesetzgeber andernorts ringen damit, generative Werkzeuge zu regulieren, die glaubwürdiges missbräuchliches Material in großem Maßstab erzeugen können. Minnesotas Modell scheint eine konkrete Produktdefinition mit privater Durchsetzung und hohen zivilrechtlichen Strafen zu verbinden. Wenn es künftige rechtliche Anfechtungen übersteht, könnte es zu einem Vorbild für andere Bundesstaaten werden, die einen schnelleren Weg als umfassendes Bundeshandeln suchen.

Der Rechtsstreit verdeutlicht auch eine bekannte Spannung in der KI-Governance. Unternehmen argumentieren oft, dass zu weit formulierte Regeln legitime Ausdrucksformen, Parodie oder Experimente erfassen könnten. Gesetzgeber und Opfervertreter entgegnen, dass die gesellschaftlichen Kosten der Technologie nicht mehr hypothetisch sind, besonders wenn Systeme schädliches Material über gewöhnliche Menschen mit kaum erforderlicher technischer Fertigkeit erzeugen können. Minnesota signalisiert zumindest, dass automatisierte Entkleidung in eine höher riskante Regulierungsgruppe gehört.

Was als Nächstes kommt, wird wahrscheinlich sowohl von Gerichtsverfahren als auch von Compliance abhängen. xAI konnte das Gesetz vor seinem Inkrafttreten nicht stoppen, aber das bedeutet nicht, dass der breitere verfassungs- oder gesetzesrechtliche Streit beendet ist. Für den Moment jedoch ist Minnesota vom Debattieren zur Durchsetzung übergegangen. In einem Politikfeld, in dem viele Regierungen das Problem noch untersuchen, ist das allein schon bedeutsam.

Dieser Artikel basiert auf einer Berichterstattung von Gizmodo. Originalartikel lesen.