Ein schnell wachsendes klinisches KI-Tool steht vor einer rechtlichen Prüfung
Eine neue Klage in Kalifornien stellt eine der am schnellsten voranschreitenden Anwendungen künstlicher Intelligenz im Gesundheitswesen unter schärfere rechtliche und ethische Beobachtung. Mehrere Kalifornier haben Sutter Health und MemorialCare verklagt und behaupten, ein KI-Transkriptionssystem habe ihre Arztbesuche ohne ihre Zustimmung aufgezeichnet. Die vorgeschlagene Sammelklage, die beim Bundesgericht in San Francisco eingereicht wurde, argumentiert, dass die Patienten nicht klar darüber informiert wurden, dass ihre Arzt-Patient-Gespräche erfasst, außerhalb des klinischen Umfelds weitergeleitet oder über Systeme von Drittanbietern verarbeitet würden.
Im Zentrum des Falls steht Abridge AI, eine Plattform für medizinische Dokumentation, die Gesundheitssysteme nutzen, um Gespräche zwischen Klinikern und Patienten zu erfassen, zu transkribieren, zusammenzufassen und in klinische Notizen umzuwandeln. Das Tool gehört zu einer breiteren Welle sogenannter KI-Schreiber, die versprechen, den Dokumentationsaufwand für Ärzte zu verringern und die Effizienz der Arbeitsabläufe zu verbessern. Krankenhäuser und Kliniken in den gesamten USA haben dieses Versprechen angenommen, während administrative Lasten das Klinikpersonal weiter belasten.
Die Klage richtet sich nicht abstrakt gegen die Idee des automatisierten Notierens. Stattdessen stellt sie eine engere und folgenreichere Frage: Welches Maß an Offenlegung und Zustimmung ist erforderlich, wenn ein zutiefst sensibles medizinisches Gespräch von einer künstlichen Intelligenz verarbeitet wird und nicht nur vom anwesenden Behandlungsteam im Raum?
Was die Kläger vorwerfen
Laut der in der bereitgestellten Berichterstattung beschriebenen Klage erhielten die Kläger in den vergangenen sechs Monaten in verschiedenen Sutter- und MemorialCare-Einrichtungen Behandlung. Während dieser Besuche soll medizinisches Personal Abridge AI verwendet haben, das laut Klageschrift vertrauliche Arzt-Patient-Kommunikation erfasst und verarbeitet habe. Die Kläger machen geltend, dass sie nicht klar darüber informiert wurden, dass ihre Gespräche aufgezeichnet und extern verarbeitet würden.
Die Vorwürfe gehen über beiläufige Informationen hinaus. Die Klageschrift sagt, die Aufnahmen hätten individuell identifizierbare medizinische Informationen umfasst, etwa Krankengeschichten, Symptome, Diagnosen, Medikamente, Behandlungsbesprechungen und andere sensible Gesundheitsangaben, die während vertraulicher Konsultationen gemacht wurden. Praktisch gesehen stellt die Klage den Einsatz des Systems nicht bloß als interne Workflow-Entscheidung dar, sondern als Datenverarbeitungsvorgang, der einige der am stärksten geschützten Kategorien personenbezogener Daten betrifft.
Diese Unterscheidung dürfte im weiteren Verlauf des Verfahrens wichtig sein. Medizinische Privatsphäre wird nicht nur durch die Erwartungen der Patienten geregelt, sondern auch durch überlappende rechtliche Pflichten. Wenn KI-Systeme gesprochene Worte aus dem Untersuchungsraum in eine Kette aus Transkription, Zusammenfassung und Drittverarbeitung übertragen, können sie die Zahl der technischen und vertraglichen Stellen erhöhen, an denen sensible Informationen gehandhabt werden. Die Position der Kläger ist laut Berichterstattung, dass die Patienten klar hätten darüber informiert werden müssen, dass dies geschah.
Krankenhäuser und Anbieter handeln schnell
Die rechtliche Auseinandersetzung kommt zu einem Zeitpunkt, an dem KI-Schreiber sich rasch in großen Gesundheitssystemen verbreiten. Die Berichterstattung weist darauf hin, dass Abridge-Software unter anderem bei Kaiser Permanente, Mayo Clinic und Duke Health eingeführt wurde. Diese Größenordnung ist Teil dessen, was den Fall über die beiden genannten Gesundheitssysteme hinaus bedeutsam macht. Ein Urteil oder ein Vergleich, der Erwartungen an Hinweis oder Einwilligung klärt, könnte einen wesentlich größeren Markt betreffen als nur die Beklagten.
Sutter Health sagte, man sei sich der Klage bewusst. In einer im Ausgangstext zitierten Stellungnahme sagte die Sprecherin Liz Madison, die Organisation nehme den Schutz der Patientendaten sehr ernst und verpflichte sich, Patientendaten zu schützen; außerdem werde die in klinischen Umgebungen eingesetzte Technologie sorgfältig geprüft und in Übereinstimmung mit den geltenden Gesetzen und Vorschriften implementiert. MemorialCare sagte, man äußere sich nicht zu anhängigen Rechtsstreitigkeiten.
Die Berichterstattung merkt außerdem an, dass der Journalist, der den Artikel geschrieben hat, während mehrerer medizinischer Besuche bei Kaiser-Einrichtungen in Nordkalifornien in den vergangenen zwei Jahren der Nutzung von Abridge persönlich zugestimmt habe. Dieses Detail ist relevant, weil es darauf hindeutet, dass Offenlegungspraktiken je nach Einrichtung oder Umständen variieren können. Die entstehende Frage ist also womöglich nicht nur, ob KI-Schreiber rechtmäßig eingesetzt werden können, sondern ob jedes sie einsetzende Gesundheitssystem einen Einwilligungs- und Kommunikationsprozess aufgebaut hat, den Patienten tatsächlich verstehen können.
Die größere Spannung in der Gesundheits-KI
Dieser Fall liegt an der Schnittstelle zweier starker und konkurrierender Kräfte in der Medizin. Auf der einen Seite steht der Reiz der Automatisierung. Kliniker verbringen viel Zeit mit Dokumentation, und KI-Tools, die Gespräche in strukturierte Notizen verwandeln, versprechen, diese Last zu verringern. Befürworter argumentieren, dass weniger Papierarbeit Ärzten ermöglichen kann, sich direkter auf die Patientenversorgung zu konzentrieren.
Auf der anderen Seite steht die langjährige Erwartung, dass medizinische Gespräche zu den privatesten Interaktionen gehören, die Menschen erleben. Patienten geben im Untersuchungsraum oft Informationen preis, die sie anderswo nicht teilen würden. Selbst wenn ein Tool die Effizienz verbessert, sehen viele Patienten die Einführung eines KI-Systems eines Drittanbieters als eine bedeutsame Veränderung darin, wie dieses Vertrauensverhältnis funktioniert. Das gilt besonders dann, wenn das System Sprache aufzeichnet, identifizierbare Gesundheitsdetails verarbeitet und in maschinell erzeugte Ausgaben umwandelt.
Die Klage macht diese Lücke zwischen betrieblicher Bequemlichkeit und informierter Patientenwahrnehmung deutlich. Krankenhäuser sehen KI-Schreiber womöglich als administrative Infrastruktur. Patienten erleben sie vielleicht als neuen Zuhörer im Raum. Wenn die Technologie zur Normalität wird, bevor die Offenlegungspraxis ausgereift ist, dürfte ein Rechtsstreit folgen.
Warum dieser Fall überproportional wichtig sein könnte
- Er zielt auf eine KI-Kategorie, die sich bereits in großen Gesundheitsnetzwerken verbreitet.
- Er konzentriert sich auf Einwilligung und Hinweis, also Fragen, die breit gelten können, auch wenn die zugrunde liegende Software unterschiedlich ist.
- Er wirft Fragen dazu auf, wie vertrauliche medizinische Sprache übertragen und verarbeitet wird, sobald KI-Tools aktiviert sind.
- Er könnte Anbieter dazu zwingen, vor dem Einsatz von Ambient-Dokumentationssystemen klarere patientenfreundliche Erklärungen zu standardisieren.
Für die Gesundheitsbranche ist die Botschaft klar. KI-Dokumentation kann effizient sein, aber Effizienz allein ist keine ausreichende Antwort, wenn geschützte Gesundheitsinformationen betroffen sind. Wenn Patienten Aufnahme und automatisierte Verarbeitung in klinischen Umgebungen akzeptieren sollen, müssen Anbieter zeigen, dass die Zustimmung nicht vermutet, versteckt oder lediglich stillschweigend angenommen wurde. Sie wurde klar eingeholt. Dieser Standard könnte zu einer der prägenden Bedingungen für die nächste Phase der KI-Einführung in der Medizin werden.
Dieser Artikel basiert auf einer Berichterstattung von Ars Technica. Den Originalartikel lesen.
