Ein föderales Anti-Deepfake-Regime verlagert sich vom Gesetz zur Plattformdurchsetzung
Eine wichtige Frist zur Einhaltung des Take It Down Act ist nun erreicht und legt digitalen Plattformen, die nicht einvernehmliche intime Bilder hosten oder verbreiten, darunter auch KI-generierte Deepfakes, eine deutlich strengere rechtliche Last auf. Seit dem 19. Mai 2026 setzt die Federal Trade Commission Abschnitt 3 des Gesetzes durch, der betroffene Plattformen dazu verpflichtet, einen klaren Meldeweg bereitzustellen und gemeldetes Material sowie identische Kopien innerhalb von 48 Stunden zu entfernen.
Der Wandel ist bedeutsam, weil er das Gesetz davon wegführt, die Urheber und Verbreiter des Missbrauchs zu bestrafen, und stattdessen operative Pflichten für die Plattformen schafft, die ihn verbreiten. Seit Jahren argumentieren Betroffene und Befürworter, dass Löschsysteme zu zersplittert, zu langsam und zu sehr davon abhängig seien, dass Nutzer selbst immer wieder neu hochgeladene Kopien aufspüren. Die neue Regel soll diese Last verändern.
Was Plattformen tun müssen
Dem Quellentext zufolge müssen digitale Plattformen einen einfachen und zugänglichen Prozess anbieten, über den Betroffene die Entfernung nicht einvernehmlicher intimer Fotos oder Videos sowie identischer Kopien verlangen können. Dieser Prozess muss auch Menschen offenstehen, die kein Konto bei dem Dienst haben. Sobald ein Antrag eingereicht wird, muss die betroffene Person eine Kennnummer erhalten, die auch an Strafverfolgungsbehörden weitergegeben werden kann.
Die 48-Stunden-Frist für die Entfernung ist der konkretste operative Maßstab. Sie gibt Plattformen ein festes Antwortfenster und schafft einen messbaren Compliance-Standard. FTC-Vorsitzender Andrew Ferguson warnte in einem im Quellmaterial genannten Schreiben vor möglichen zivilrechtlichen Geldstrafen von 53.088 US-Dollar pro Verstoß.
Die FTC hat diese Warnung Berichten zufolge an eine breite Gruppe großer Tech-Unternehmen gesendet, darunter Amazon, Apple, Alphabet, Bumble, Match Group, Discord, Meta, Microsoft, Reddit, TikTok und X.
Warum das Gesetz entstand
Der Take It Down Act wurde ein Jahr zuvor unterzeichnet und schuf bundesweite Haftung für das vorsätzliche Verbreiten von Deepfake- oder intimen Bildern, die Minderjährige oder nicht einwilligende Erwachsene betreffen. Die neue Durchsetzungsphase erweitert diesen Rahmen auf die Verantwortung der Plattformen. Die Dringlichkeit liegt auf der Hand: Generative Bild- und Videotools haben sexuellen Deepfake-Missbrauch billiger, schneller und leichter skalierbar gemacht.
Der Quellentext nennt den Fall eines 37-jährigen Mannes aus Columbus, Ohio, der als erste Person unter dem Gesetz verurteilt worden sei, nachdem er mehr als 120 KI-Plattformen und -Modelle genutzt habe, um sexuelle Bilder von Minderjährigen und nicht einwilligenden erwachsenen Frauen zu erstellen und zu verbreiten. Dieses Beispiel zeigt das fragmentierte Ökosystem, das Regulierer einzudämmen versuchen. Schaden ist nicht mehr an eine einzelne Website oder ein einzelnes Tool gebunden. Er kann sich gleichzeitig über Dutzende Dienste ausbreiten.
Das X- und Grok-Problem
Die Frist für die Einhaltung trifft auch inmitten einer genaueren Beobachtung von X ein, wo sich nicht einvernehmliche Deepfakes in den vergangenen Monaten Berichten zufolge weit verbreitet haben. Der Quellentext nennt Elon Musks Grok als ein sehr sichtbares Symbol in dieser Debatte. Unabhängig davon, ob ein einzelnes Modell das Problem allein verursacht, ist das größere Thema, dass generative Systeme missbräuchliche Inhalte liefern können, während Plattformen sie durch Auffindbarkeit, Weiterverbreitung und Empfehlungen verstärken.
Der rechtliche Fokus auf Plattformen erkennt an, dass Moderationsfehler Teil der Vertriebskette sind. Selbst wenn ein Modell ein Bild an anderer Stelle erzeugt, kann das soziale System, das es hostet und erneut verbreitet, das Ausmaß des Schadens bestimmen.
Was sich verbessern könnte und was vielleicht nicht
Der neue Rahmen könnte für Betroffene einen echten Unterschied machen, wenn Plattformen effiziente Systeme für Eingaben und Kopierabgleiche aufbauen. Besonders wichtig ist, dass Websites identische Kopien entfernen müssen und nicht nur die ursprünglich gemeldete konkrete URL. In Missbrauchsfällen ist häufig die erneute Verbreitung das Problem, und Betroffene dazu zu zwingen, jedes Duplikat einzeln aufzuspüren, macht die Durchsetzung zu einer zweiten Belastung.
Dennoch betont der Quellentext auch Skepsis. Kritiker befürchten, dass das Gesetz das Problem nicht wirksam lösen und breitere Streitigkeiten über Moderation, Meinungsfreiheit und Grenzfälle auslösen könnte. Das zugrunde liegende Missbrauchsökosystem ist anpassungsfähig. Akteure mit böser Absicht können auf kleinere Plattformen, ausländische Dienste oder verschlüsselte Vertriebskanäle ausweichen. Und die Durchsetzung gegen „identische Kopien“ ist einfacher als der Umgang mit leicht veränderten Derivaten oder verwandten synthetischen Inhalten, die nicht pixelgenau gleich sind.
Das vorliegende Material legt nicht fest, wie die FTC mit diesen schwierigeren Varianten umgehen wird, sondern nur, dass die Behörde nun die zentralen Entfernungspflichten durchsetzt.
Ein Test für die Einsatzbereitschaft der Plattformen
Für große Tech-Unternehmen ist die unmittelbare Herausforderung operativer und nicht philosophischer Natur. Können sie Meldungen schnell prüfen, doppelte Inhalte zuverlässig identifizieren, Anträge von Nichtnutzern verarbeiten und die Einhaltung unter einer engen Frist dokumentieren? Diese Systeme erfordern Moderationspersonal, Automatisierung und rechtliche Koordination. Große Unternehmen verfügen über die Mittel, doch das Ausmaß des Missbrauchs kann ihre Abläufe dennoch belasten.
Für kleinere Plattformen könnte die Last schwerer sein. Die Regel verschwindet nicht einfach, weil ein Unternehmen weniger Personal hat. Das könnte manche Dienste dazu bringen, ihre Trust-and-Safety-Infrastruktur auszubauen oder sich stärker auf Moderationstools von Drittanbietern zu stützen.
Der größere Wandel
Die wichtige Entwicklung ist, dass die US-Regulierung von KI-gestütztem Bildmissbrauch nicht mehr theoretisch ist. Ein Jahr nach der Unterzeichnung des Gesetzes richtet sich die Durchsetzung nun auf die Infrastruktur der Verbreitung. Das spiegelt in Washington die wachsende Auffassung wider, dass Plattformdesign und Reaktionssysteme untrennbar mit den Schäden durch generative Medien verbunden sind.
Die nächste Phase wird zeigen, ob die FTC eine formale 48-Stunden-Regel in echte Abschreckung übersetzen kann. Wenn Plattformen schnell und konsequent handeln, könnten die neuen Pflichten die Dauerhaftigkeit einiger der schädlichsten Formen synthetischen Missbrauchs verringern. Wenn nicht, könnte der 19. Mai weniger als saubere Lösung in Erinnerung bleiben als der Beginn eines längeren Streits darüber, wie viel Verantwortung Vermittler im Zeitalter der Deepfakes tragen müssen.
Dieser Artikel basiert auf einer Berichterstattung von Gizmodo. Den Originalartikel lesen.
Originally published on gizmodo.com
