Ein verfolgbares Signal für KI-entworfene Proteine
Künstliche Intelligenz wird zu einem leistungsfähigen Instrument für das Proteindesign: Sie kann Forschenden helfen, Proteine zu entwickeln, die bisher nicht in der Natur vorkamen, und damit Wege zu neuen Medikamenten und anderen nützlichen biologischen Werkzeugen eröffnen. Dieselbe Fähigkeit wirft jedoch eine schwierigere Frage auf: Wie können ein Labor, ein Datenbankverantwortlicher oder eine Sicherheitsprüfung feststellen, woher ein entworfenes Protein stammt und ob es einer zusätzlichen Prüfung bedarf?
Forschende von Google DeepMind haben eine Technik entwickelt, die einen Teil dieses Problems angehen soll, indem sie ein Wasserzeichen in KI-generierte Proteine einfügt. Die Markierung soll insofern unsichtbar sein, als sie in der Struktur des Proteins codiert ist und nicht als herkömmliches Etikett erscheint. Ziel ist es, die Herkunft leichter nachvollziehbar zu machen und zugleich die Funktion des Proteins zu erhalten.
Der Vorschlag liegt an der Schnittstelle zwischen einem sich schnell entwickelnden technischen Feld und einer anhaltenden Sorge um die Biosicherheit. Proteine bestehen aus Aminosäuren, und die Art, wie sie sich zu einer dreidimensionalen Form falten, bestimmt ihre Funktion. KI-Systeme können inzwischen sowohl beim Verständnis dieser Strukturen als auch beim Entwurf neuer Sequenzen helfen. Das schafft Chancen für nützliche Forschung, bedeutet aber auch, dass Systeme zur Erzeugung neuartiger Designs für Versuche zur Herstellung schädlicher biologischer Materialien relevant sein könnten.
Warum die Herkunft wichtig ist
Ein Wasserzeichen könnte nachgelagerten Nutzern ein praktisches Signal geben, dass ein Protein mit KI entwickelt wurde. Roy Sleator, Biologieprofessor an der Munster Technological University in Irland, der nicht an der Arbeit beteiligt war, sagte, ein solches System könne helfen, die Herkunft eines Designs nachzuverfolgen, entwickelte Proteine für zusätzliche Biosicherheitsprüfungen zu markieren und irreführende Behauptungen darüber zu verringern, wie ein Protein hergestellt wurde.
Das könnte an mehreren Stellen nützlich sein. Datenbankverantwortliche möchten möglicherweise künstliche Designs von natürlich vorkommenden Sequenzen unterscheiden, damit entwickelte Materialien in Standardreferenzsammlungen keine Verwirrung verursachen. Organisationen, die ein Proteindesign bewerten, könnten einen Hinweis für eine weitere Prüfung benötigen. Und kooperierende Forschende könnten eine dauerhaftere Möglichkeit erhalten, anzuzeigen, dass ein Kandidat aus einem bestimmten Designprozess stammt.
Die zugrunde liegende Idee besteht nicht darin, wissenschaftliche Arbeit zu stoppen. Vielmehr soll ein Verantwortungsrahmen zu einem Arbeitsablauf hinzukommen, der zunehmend neue biologische Designs erzeugen kann. Ein Herkunftssignal könnte es erleichtern, vor dem Teilen, Synthetisieren oder Einbeziehen eines Designs in spätere Forschung die richtigen Fragen zu stellen.
Ein technischer Fortschritt mit klaren Grenzen
Die beschriebene Technik ist keine vollständige Sicherheitsmaßnahme. Fachleute warnten, dass die derzeit zum Hinzufügen von Wasserzeichen verwendeten Arten von KI-Technologien diese auch entfernen können. Diese Einschränkung ist entscheidend: Ein Markierungssystem ist besonders wertvoll, wenn die Markierung auch dann zuverlässig bleibt, wenn jemand einen Anreiz hat, sie zu umgehen.
Die Arbeit sollte daher als Werkzeug zur Rückverfolgbarkeit verstanden werden, nicht als Garantie dafür, dass gefährliche Designs erkannt oder blockiert werden können. Ein Wasserzeichen kann den Umgang mit kooperativer, routinemäßiger oder regulierter Forschung verbessern, bietet aber möglicherweise weniger Schutz, wenn jemand bewusst versucht, ein Design zu verändern oder zu verbergen. Diese Unterscheidung ist für die Biosicherheit wichtig, da Abschreckung, Erkennung und Verantwortlichkeit das Problem vorsätzlichen Missbrauchs nicht unbedingt allein lösen.
Das bedeutet auch, dass die Leistungsfähigkeit des Ansatzes davon abhängt, wie er eingesetzt wird. Ein transparentes Verfahren zur Prüfung von Wasserzeichen, klare Regeln für den Fall einer Entdeckung und angemessene Schutzmaßnahmen für Arbeiten mit hohem Risiko würden bestimmen, ob das technische Signal praktisch nutzbar wird. Ohne diese Komponenten kann ein Wasserzeichen zwar Informationen liefern, aber nur geringe Auswirkungen auf reale Entscheidungen haben.
Protein-KI hat den Kontext verändert
Die rasante Entwicklung der Protein-KI erklärt, warum solche Vorschläge Aufmerksamkeit erhalten. AlphaFold, 2020 vorgestellt, zeigte, wie maschinelles Lernen die dreidimensionale Struktur eines Proteins aus seiner Aminosäuresequenz vorhersagen kann. Die Proteinfaltung wird häufig mit Origami verglichen, weil die endgültige Form für die Funktion eines Proteins so wichtig ist. Die Technologie trug dazu bei, KI als wichtiges Werkzeug der Strukturbiologie und Proteintechnik zu etablieren.
Dieser Fortschritt hat die Diskussion von der Vorhersage vorhandener Proteine auf die Entwicklung neuer Proteine ausgeweitet. Das Potenzial ist groß: Entworfene Proteine könnten wissenschaftliche und medizinische Anwendungen unterstützen. Neuartige Designs erschweren jedoch auch Fragen der Zuordnung, Datenbankqualität und Sicherheitsprüfung. Eine Methode, die ein Design nach seiner Erstellung identifizierbar hält, könnte Institutionen helfen, einige dieser Schwierigkeiten zu bewältigen.
Die technische Herausforderung, Wasserzeichen robust zu machen, bleibt dennoch untrennbar mit der politischen Frage verbunden, was mit den von ihnen offengelegten Informationen geschehen soll. Die neue Methode bietet eine Möglichkeit, Herkunft zu codieren, ohne nach dem Ziel der Forschenden die Funktion zu opfern. Der eigentliche Test wird sein, ob die Markierung in einer Welt sinnvoll bleibt, in der Designsysteme weit verbreitet sind und Nutzer versuchen könnten, Schutzmechanismen zu umgehen.
Wie es weitergeht
Vorerst sollten KI-Wasserzeichen für Proteine als Bestandteil eines umfassenderen Sicherheitsansatzes betrachtet werden. Sie könnten bei der Kuration helfen und einen frühen Hinweis für eine Prüfung liefern. Ihre bekannte Anfälligkeit für Entfernung spricht jedoch dagegen, sie als eigenständige Verteidigung zu betrachten. Die Arbeit weist auf eine praktische Richtung für verantwortungsvolles Proteindesign hin: Rückverfolgbarkeit in die Ergebnisse integrieren und sie mit Prozessen verbinden, die darauf reagieren können.
Je größer durch KI die Bandbreite der von Forschenden erzeugbaren Proteine wird, desto wichtiger wird die Fähigkeit, diese Designs zu unterscheiden, nachzuverfolgen und angemessen zu bewerten. Wasserzeichen beseitigen die Herausforderung der dualen Nutzung nicht. Sie sind jedoch ein konkreter Versuch, die Herkunft von KI-entworfenen Proteinen weniger undurchsichtig zu machen.
Dieser Artikel basiert auf einer Berichterstattung von Live Science. Originalartikel lesen.
Originally published on livescience.com
