Das Vereinigte Königreich bereitet die Einführung von Gesetzen vor, die Apple und Google verpflichten würden, technische Maßnahmen zu implementieren, die darauf abzielen, Minderjährige daran zu hindern, Nacktbilder auf ihren Smartphones und Tablets aufzunehmen, zu teilen oder anzusehen. Der Plan, der erstmals am Dienstag von Bloomberg berichtet wurde, signalisiert eine Eskalation der Aufsicht der britischen Regierung darüber, wie die weltweit größten Mobilplattformbetreiber die Sicherheit von Kindern angehen.
Laut dem Bericht zielen die kommenden Gesetze sowohl auf Hardware- als auch auf Softwareebene ab. Apples iPhone und Googles Android sind die dominierenden mobilen Ökosysteme weltweit, und jede neue gesetzliche Verpflichtung würde beide Unternehmen zwingen, ihre Betriebssysteme, Messaging-Apps und Standarddienste mit altersbezogenen Schutzmaßnahmen zu entwerfen, die direkt in die Benutzererfahrung integriert sind. Die berichtete Absicht besteht nicht nur darin, Online-Inhalte zu filtern, sondern die Erstellung expliziter Bilder auf Geräteebene zu verhindern, was bedeutet, dass Maßnahmen sogar bei Offline- oder Peer-to-Peer-Interaktionen gelten könnten.
Was die neuen Regeln abdecken könnten
Der berichtete Umfang der Gesetzgebung umfasst drei verschiedene Handlungen: das Aufnehmen von Nacktbildern, das Teilen und das Ansehen. Um ein solches Mandat zu erfüllen, müssten Apple und Google Fähigkeiten entwickeln und bereitstellen, die erkennen, wenn ein Kind versucht, sensible Bilder aufzunehmen oder zu verarbeiten. Dies würde wahrscheinlich eine Kombination aus On-Device-Klassifizierung, maschinellem Lernen und kontextuellen Warnungen beinhalten. Da die Regeln Berichten zufolge sowohl für Telefone als auch für Tablets gelten würden, müssten die Hersteller Schutzmaßnahmen über eine breite Palette von Hardware integrieren, die iOS und Android ausführt.
Es bleibt unklar, ob die Gesetzgebung die Unternehmen verpflichten würde, alle Bilder auf Nacktheit zu scannen oder nur die von Kindern. Die Unterscheidung ist entscheidend, da pauschales Scannen auf persönlichen Geräten in der Vergangenheit intensive Debatten über Datenschutz und Ende-zu-Ende-Verschlüsselung ausgelöst hat. Der Bloomberg-Bericht spezifizierte nicht, ob die britische Regierung einen bestimmten technischen Ansatz erwartet, was Apple und Google Raum lässt, Designs vorzuschlagen, die sowohl die Einhaltung als auch ihre bestehenden Datenschutzverpflichtungen erfüllen.
Herausforderungen und Kompromisse
Für beide Unternehmen wird die Nachhaltigkeit solcher Maßnahmen vom Gleichgewicht zwischen Kindersicherheit und Benutzerdatenschutz abhängen. Apple hat lange seine standardmäßigen Datenschutzfunktionen beworben und sich ausdrücklich gegen Hintertüren in verschlüsselter Kommunikation ausgesprochen. Google hat ähnliche Zusagen für Android gemacht. Jedes System, das automatisch das Gerät eines Kindes auf Nacktbilder untersucht, könnte unbeabsichtigt die Privatsphäre anderer Benutzer verletzen, wenn es nicht sorgfältig auf erkannte Kinderkonten oder Funktionen beschränkt ist.
Es gibt auch die Frage, ob die Regeln für alle Benutzer, altersverifizierte Erwachsene oder nur für Benutzer unter 18 Jahren gelten würden. Die Altersverifizierung ist auf persönlichen Geräten notorisch schwierig. Der berichtete Plan scheint speziell auf Kinder abzuzielen, aber die Implementierung einer Alterssicherungsschicht über ein ganzes mobiles Ökosystem wäre eine erhebliche Aufgabe für beide Plattformanbieter. Es könnte Änderungen auf Betriebssystemebene, in App-Stores und innerhalb von Millionen von Drittanbieter-Apps erfordern, die benutzergenerierte Medien verarbeiten.
Mögliche Mechanismen
Mehrere technische Wege könnten von den Unternehmen erkundet werden, obwohl keiner im Bloomberg-Bericht offengelegt wurde:
- On-Device-Bildklassifizierung, bei der Medien lokal ohne Cloud-Übertragung analysiert werden, wodurch die Privatsphäre der Benutzer gewahrt bleibt und dennoch Nacktheit erkannt wird.
- Kontextuelle Warnungen, die erscheinen, wenn ein Benutzer versucht, ein als explizit eingestuftes Bild zu senden, ähnlich den bestehenden Kommunikationssicherheitsfunktionen in Apples Messages-App, aber auf alle Apps ausgeweitet.
- Eingeschränkte Kameramodi, die die Bildaufnahme blockieren, wenn ein explizites Bild erkannt wird – ein weitaus komplexerer Prozess, der Echtzeit-Computervision beinhaltet.
- Kontostandardwerte für minderjährige Benutzer, die eingehende Medien proaktiv filtern oder den Absender mit einer zusätzlichen Warnung auffordern.
Jeder dieser Ansätze würde eine erhebliche Erweiterung der aktuellen Kinderschutzwerkzeuge darstellen. Apple bietet derzeit in den USA eine Funktion an, die iCloud-Einreichungen auf bekanntes Material über sexuellen Kindesmissbrauch scannt, aber dieses Programm wurde von Datenschutzgruppen kritisiert und wurde nicht im Vereinigten Königreich eingesetzt. Google hingegen hat stark in künstliche Intelligenz investiert, um missbräuchliche Inhalte zu kennzeichnen, aber seine Tools arbeiten im Allgemeinen auf Cloud-Servern, nachdem Inhalte geteilt wurden.
Verbraucher- und Betreuergerspektive
Für Eltern und Erziehungsberechtigte könnten die berichteten Regeln eine zusätzliche Sicherheitsebene bieten, wenn sie einem Kind ein Smartphone oder Tablet geben. Derzeit müssen sich Eltern auf Einstellungen von Apple, Google oder Drittanbieter-Apps verlassen. Eine gesetzliche Anforderung würde eine Basiserwartung festlegen, dass jedes in Großbritannien verkaufte kindgerechte Gerät ab dem ersten Einschalten mit integrierten Schutzmaßnahmen ausgestattet ist. Das könnte die Belastung für einzelne Familien verringern, komplizierte Datenschutz- und Kindersicherungsmenüs zu konfigurieren.
Gleichzeitig könnten neue Verpflichtungen zu Verzögerungen bei Produktveröffentlichungen oder Funktionsausrollungen führen, da Apple und Google neue Fähigkeiten entwickeln und zur behördlichen Genehmigung einreichen müssten. Das Vereinigte Königreich hat historisch seine digitale Souveränität mit Gesetzen wie dem Online Safety Act behauptet, der Technologieplattformen bereits Pflichten zum Schutz Minderjähriger auferlegt. Die berichtete neue Gesetzgebung scheint darauf abzuzielen, Lücken zu schließen, die nach diesen breiteren Regeln bestehen bleiben.
Reaktionen und nächste Schritte
Der Bloomberg-Bericht enthielt keine unmittelbaren Antworten von Apple oder Google, und die Gesetzgebung befindet sich vermutlich in einem frühen Stadium. Wenn sie eingeführt wird, würde sie einer parlamentarischen Prüfung unterzogen, bevor ein Implementierungszeitplan festgelegt wird. Regulierungsbehörden würden wahrscheinlich mit den Unternehmen, Kinderschutzorganisationen und Bürgerrechtsorganisationen konsultieren, um die endgültigen Anforderungen zu gestalten.
Es gibt auch die Frage der Durchsetzung und Strafen. Das Vereinigte Königreich hat gezeigt, dass es bereit ist, erhebliche Geldstrafen gegen große Technologieunternehmen zu verhängen, die gesetzliche Schwellenwerte nicht erfüllen. Da die vorgeschlagenen Regeln jedoch spezifische technische Eingriffe beinhalten, muss die Regierung möglicherweise messbare Ergebnisse definieren – wie den Prozentsatz der versuchten expliziten Übertragungen, die blockiert oder gekennzeichnet werden – bevor Geldstrafen verhängt werden können. Bis diese Details festgelegt sind, werden Apple und Google wahrscheinlich genau beobachten und weiterhin freiwillige Funktionen entwickeln, die der Beschreibung des Berichts entsprechen.
Die Geschichte bleibt im Fluss, und weitere Details werden in den kommenden Wochen erwartet. Klar ist, dass das Vereinigte Königreich sich darauf zubewegt, die Verantwortung direkt auf Betriebssystemanbieter zu legen, um die Exposition von Kindern gegenüber Nacktbildern zu verhindern, anstatt sich nur auf App-Ebene-Kontrollen oder elterliche Aufsicht zu verlassen. Wenn umgesetzt, könnte eine solche Anforderung einen Präzedenzfall für andere Gerichtsbarkeiten schaffen, die ähnliche gesetzliche Mandate erkunden.
Dieser Artikel basiert auf einer Berichterstattung von 9to5Mac. Lesen Sie den Originalartikel.
Originally published on 9to5mac.com