Die Sicherheitsreaktion von NHS England hat einen Streit um Transparenz ausgelöst
NHS England sieht sich wachsendem Widerstand ausgesetzt, nachdem Mitarbeitende angewiesen wurden, bestehende und künftige Software bis zum 11. Mai aus der öffentlichen Sichtbarkeit zu nehmen, weil KI-Systeme Schwachstellen in offenem Code erkennen könnten. Der Schritt, den Kritiker als ineffektiv und schädlich bezeichnen, stößt auf zunehmenden Widerstand von Technologen, Aktivisten und ehemaligen Amtsträgern, die argumentieren, dass das Schließen von Code wenig zur Verbesserung der Sicherheit beiträgt und zugleich Transparenz und Wiederverwendung untergräbt.
Im Zentrum des Streits steht eine neue Form KI-gestützter Softwareanalyse. Dem Ausgangsbericht zufolge verschärfte sich die Sorge, nachdem bekannt wurde, dass Mythos, eine von Anthropic entwickelte KI, in praktisch jeder Software Fehler aufspüren könne. Die Reaktion von NHS England bestand darin, den Mitarbeitenden mitzuteilen, dass mit öffentlichen Mitteln entwickelte Software hinter verschlossenen Türen bleiben solle, statt offen online verfügbar zu sein.
Die Entscheidung steht im Widerspruch zur bestehenden Politik
Der Schritt ist auch deshalb umstritten, weil er dem NHS-Service-Standard direkt widerspricht, der verlangt, dass von Mitarbeitenden entwickelte Software Open Source sein muss, damit sie ohne doppelte Arbeit wiederverwendet, verbessert und weiterentwickelt werden kann. Befürworter von Open Source argumentieren, dass dieser Ansatz nicht nur für den öffentlichen Sektor effizienter sei, sondern oft auch sicherer, weil mehr Prüfer den Code einsehen und verbessern können.
Ein offener Brief, der NHS England aufforderte, die Entscheidung rückgängig zu machen, sammelte rasch Hunderte von Unterschriften, darunter von Autor Cory Doctorow und dem ehemaligen britischen Gesundheitsminister Matt Hancock. In dem Bericht hervorgehobenen Kommentaren nannte Hancock die Politik einen großen Fehler und argumentierte, dass öffentlich finanzierter Code der Öffentlichkeit zugänglich bleiben sollte, die ihn bezahlt hat.
Kritiker sagen: Geheimhaltung ist keine Sicherheit
Der stärkste Einwand ist technischer und nicht ideologischer Natur. Im Bericht zitierte Experten sagen, dass das Entfernen des Codes aus öffentlichen Repositorien die Sicherheit nicht spürbar verbessern werde. Wenn KI-Tools helfen können, Schwachstellen zu finden, können Verteidiger sie ebenso nutzen. Entscheidend ist zudem: Private Software beseitigt die Fehler nicht, sie ändert nur, wer sie überprüfen kann.
Vlad-Stefan Harbuz von der University of Edinburgh, Mitautor des offenen Briefs, sagte, seine Gruppe habe Mythos eingesetzt, um Open-Source-Code des NHS zu scannen, und dabei eine kleine Zahl relativ schwerer Schwachstellen gefunden, die vor dem aktuellen Kurswechsel verantwortungsvoll offengelegt worden seien. Dieses Detail verkompliziert die Lage. Es zeigt, dass die Bedrohung real genug ist, um verwertbare Befunde zu erzeugen, stützt aber zugleich die Kritiker in der Ansicht, dass Audits und Behebung die praktischen Antworten sind, nicht Verbergen.
Eine größere Frage zu öffentlicher Software im KI-Zeitalter
Der NHS-Fall legt ein breiteres Dilemma offen, dem sich viele öffentliche Institutionen stellen müssen. Open-Source-Software wurde lange mit Effizienz, Interoperabilität, Rechenschaftspflicht und Sicherheit durch Prüfung verteidigt. KI-gestützte Codeanalyse verändert die Ökonomie der Prüfung, indem sie die Kosten für das Finden von Bugs sowohl für Verteidiger als auch für Angreifer senkt. Die Frage ist, ob dieser Wandel die alte Open-Source-Logik obsolet macht oder disziplinierte Wartung noch wichtiger macht.
NHS England scheint davon auszugehen, dass öffentliche Sichtbarkeit nun zu viel Risiko erzeugt. Gegner halten dagegen: Wenn KI die Schwachstellensuche erleichtert, dann ist die Antwort stärkere Fehlerbehebung, Prüfung und Governance, nicht ein Rückzug von Offenheit.
Warum das über den NHS hinaus wichtig ist
Der Streit ist auch außerhalb des britischen Gesundheitswesens relevant, weil Regierungen weltweit digitale Risiken unter dem Druck immer leistungsfähigerer KI-Tools neu bewerten. Wenn eine große öffentliche Institution entscheidet, dass Codeoffenheit nicht mehr tragfähig ist, könnten andere folgen. Sollte der Widerstand Erfolg haben, könnte das die Vorstellung stärken, dass Transparenz mit stärkerer Sicherheit vereinbar bleibt, sofern Institutionen in moderne Abwehrpraktiken investieren.
Derzeit hat NHS England eine technische Sicherheitsfrage in einen hochkarätigen Politiktest verwandelt. Die zugrunde liegende Sorge ist nachvollziehbar: KI könnte das Auffinden von Schwachstellen in großem Maßstab erleichtern. Doch Kritiker stellen eine härtere Frage. Ist das Verstecken von Code eine echte Verteidigung oder nur eine sichtbare Reaktion auf eine schnell voranschreitende Bedrohung? Die Antwort könnte prägen, wie öffentliche Software weit über den NHS hinaus gesteuert wird.
Dieser Artikel basiert auf einer Berichterstattung von New Scientist. Den Originalartikel lesen.
Originally published on newscientist.com
