Apple verschärft App-Store-Regeln für KI-Apps zum „Entkleiden“

Apple hat seine App-Store-Regeln aktualisiert, um Anwendungen, die mithilfe künstlicher Intelligenz nicht einvernehmliche intime Bilder erstellen, ausdrücklich zu erfassen. Die Änderungen legen Entwicklern klarer die Verantwortung auf, solches Material zu verhindern und zu entfernen. Außerdem warnen sie, dass eine App aus dem Store entfernt werden kann, wenn ihr Entwickler keine ausreichenden Schutzmaßnahmen umsetzt oder Verstöße nach einer Benachrichtigung nicht behebt.

Das Update betrifft eine Kategorie, die häufig als „Entkleidungs“-Apps bezeichnet wird: Software, die ohne Zustimmung sexualisierte oder intim wirkende Bilder von Personen erzeugen soll. Apples überarbeitete Formulierung macht dieses Verbot direkter, während generative KI-Tools die Verbreitung von Bildmanipulationen über Verbrauchersoftware erleichtert haben.

Eine ausdrücklichere Moderationspflicht

Nach den aktualisierten Regeln müssen Entwickler nicht einvernehmliche sexuelle Bilder proaktiv verhindern und entfernen – als Teil ihrer Verantwortung für die Inhaltsmoderation. Diese Formulierung ist relevant, weil sie das Problem als mehr als nur das Verbot einer eng definierten Funktion einordnet. Zugleich entsteht die Erwartung, dass Betreiber entsprechender Apps wirksame Systeme zur Erkennung, Reaktion auf und Unterbindung verbotener Nutzung einsetzen.

Apple erklärt, dass Entwickler, die keine ausreichenden Schutzmaßnahmen einrichten oder Verstöße nach einer Benachrichtigung nicht beheben, aus dem App Store entfernt werden können. Die Richtlinie schafft damit ein Compliance-Risiko für Entwickler, deren Produkte es Nutzern ermöglichen, solche Bilder zu erstellen, zu hosten oder zu verbreiten.

Apple hat außerdem seine Regeln gegen Apps mit „Bait-and-Switch“-Prinzip präzisiert. Nach Angaben des Unternehmens darf eine App nach der Genehmigung im App Store keine Funktionen hinzufügen oder verändern, wenn dadurch verbotene Fähigkeiten eingeführt werden – darunter das Entkleiden. Die Klarstellung zielt auf ein praktisches Durchsetzungsproblem: Der Prüfstatus einer App kann wenig über ihr späteres Verhalten aussagen, wenn der Entwickler die Funktionen nach ihrer Veröffentlichung ändert.

Auf den Deepfake-Streit folgte zusätzlicher Druck

Die Überarbeitung folgt auf Kritik an Apple, nachdem Nutzer von X Anfang dieses Jahres Grok verwendet hatten, um nicht einvernehmliche sexualisierte Deepfakes zu erzeugen, darunter Bilder mit Minderjährigen. Apple entfernte weder X noch Grok aus dem App Store, teilte Senatoren jedoch mit, dass das Unternehmen mit der Entfernung von Grok gedroht habe.

Auch auf Apples Worldwide Developers Conference im Juni wurde öffentlicher Druck sichtbar. Demonstranten forderten Apple auf, Grok, X und die Entkleidungstechnologie aus dem App Store zu entfernen. Im Juli ordnete der Stadtanwalt von San Francisco an, dass Apple 13 Entkleidungs-Apps entfernen solle; Apple erklärte, dies getan zu haben.

Die neue Formulierung beantwortet nicht alle Fragen, die dieser Vorfall aufgeworfen hat, darunter die Frage, wie weit Apple seine Regeln auf große Plattformen und KI-Dienste anwenden wird. Sie macht jedoch den erklärten Standard des Unternehmens leichter erkennbar: Apps dürfen sich bei der Prüfung nicht lediglich als etwas anderes als Entkleidungswerkzeuge darstellen. Sie müssen auch vor der Erstellung und Verbreitung nicht einvernehmlicher intimer Bilder schützen.

Vertriebskontrollen sind Teil der Richtlinie

Apples Update stellt außerdem klarer fest, dass Apps, die Menschenhandel oder die Ausbeutung von Kindern erleichtern, aus dem App Store entfernt und für den alternativen Vertrieb gesperrt werden. Diese Bestimmung verbindet die überarbeitete Moderationssprache mit Apples umfassenderer Kontrolle darüber, wie Software Nutzer erreicht.

Für App-Entwickler erhöht die Änderung die Bedeutung von Produktdesign und laufendem Betrieb. Ein Entwickler, der Bildgenerierung, soziale Freigaben oder von Nutzern hochgeladene Inhalte anbietet, muss prüfen, wie sich verbotene Nutzungen verhindern, verletzende Inhalte entfernen und Probleme beheben lassen, wenn Apple oder eine andere Stelle darauf hinweist. Die Richtlinie legt die Pflicht zum proaktiven Handeln ausdrücklich bei den Entwicklern ab.

Für Nutzer signalisiert die Änderung, dass Apple KI-gestützte nicht einvernehmliche intime Bilder als konkreteres Durchsetzungsthema im App Store behandelt. Die Regeln des Unternehmens benennen nun sowohl die schädlichen Inhalte als auch Wege, auf denen eine App gegen die Vorgaben verstoßen kann: unzureichende Schutzmaßnahmen, nicht behobene Verstöße oder nachträgliche Funktionsänderungen, die das Entkleiden ermöglichen.

Warum die Klarstellung wichtig ist

App-Stores sind ein wichtiges Eingangstor für verbraucherorientierte KI-Tools, und ihre Regeln können beeinflussen, welche Produkte weiterhin breit verfügbar sind. Apples Update beseitigt weder die zugrunde liegende Technologie noch das Missbrauchsrisiko außerhalb des eigenen Stores. Es macht die Erwartungen an Entwickler, die ihre Produkte über den App Store vertreiben wollen, jedoch konkreter.

Die Änderung zeigt außerdem, wie sich die KI-Politik von abstrakten Grundsätzen hin zu operativen Pflichten bewegt. Apple erklärt nicht lediglich, dass nicht einvernehmliche sexuelle Bilder unzulässig sind. Das Unternehmen verknüpft diesen Standard mit Moderationsanforderungen, Abhilfemaßnahmen, der Entfernung aus dem Store und Einschränkungen für den alternativen Vertrieb.

Wie konsequent diese Regeln durchgesetzt werden, wird ihre praktische Wirkung bestimmen. Die unmittelbare Änderung ist klar: Entwickler, deren Apps zur Erstellung oder Verbreitung nicht einvernehmlicher intimer Bilder genutzt werden können, sehen sich einer ausdrücklicheren Pflicht gegenüber, dies zu verhindern. Apple hat zudem strengere Konsequenzen für diejenigen formuliert, die dieser Pflicht nicht nachkommen.

Dieser Artikel basiert auf einer Berichterstattung von The Verge. Originalartikel lesen.