KI-Gesundheitsvorhersagemodelle, die auf nicht verifizierbaren Datensätzen basieren, geben Anlass zu ernster Besorgnis

Studie deckt beunruhigende Lücken in der Herkunft von KI-Gesundheitsdaten auf

Künstliche Intelligenz-Modelle, die dazu entwickelt wurden, Gesundheitsrisiken wie Schlaganfall und Diabetes vorherzusagen, könnten auf Datensätzen basieren, deren Ursprünge nicht verifiziert werden können, so eine neue Studie, die in BMC Medicine veröffentlicht wurde. Die Studie, geleitet von Forschern der Queensland University of Technology (QUT) und des Australian Center for Health Services Innovation (AusHSI), untersuchte zwei weit verbreitete Gesundheitsdatensätze, die auf Kaggle gehostet werden, einer beliebten Online-Plattform zum Teilen von Datensätzen und maschinellen Lernressourcen. Die Ergebnisse zeigen einen kritischen Fehler in der Grundlage einiger KI-gesteuerter klinischer Werkzeuge auf.

Datensätze in über 125 Peer-Review-Studien verwendet

Die beiden fraglichen Datensätze wurden in 125 Peer-Review-Studien verwendet, obwohl sie fast keine Informationen darüber liefern, woher die Daten stammen, wie sie gesammelt wurden oder ob sie echte Patienten repräsentieren. Hauptautor Alexander Gibson von der QUT School of Public Health and Social Work und AusHSI zeigte sich schockiert über die Entdeckung. „Es war eine enorme Überraschung, auf so etwas zu stoßen“, sagte Gibson. „Diese Datensätze weisen ungewöhnliche Muster auf, die ernsthafte Fragen zu ihrer Authentizität und Eignung für die klinische Forschung aufwerfen.“

Klinische Auswirkungen und Patentzitate

Drei auf den Daten basierende Vorhersagemodelle zeigten Hinweise auf eine Verwendung in der klinischen Praxis. Ein Modell wurde in einem Medizinproduktpatent zitiert, und die Modelle wurden in 86 Übersichtsartikeln referenziert. Dies deutet darauf hin, dass diese Modelle trotz der fragwürdigen Herkunft der zugrunde liegenden Daten reale medizinische Entscheidungen und Innovationen beeinflusst haben.

Null Punkte bei wesentlichen Datenherkunftskriterien

Die Studie bewertete die Datensätze anhand des international anerkannten TRIPOD+AI-Berichtsrahmens, der die Transparenz und Vollständigkeit von Vorhersagemodellstudien bewertet. Die Datensätze erzielten 0 von 9 Punkten bei wesentlichen Datenherkunftskriterien, was auf ein völliges Fehlen verifizierbarer Informationen über ihre Ursprünge hinweist. Gibson warnte, dass dies eine rote Flagge für Zeitschriften, Entwickler und Kliniker sein sollte. „Vorhersagemodelle, die auf Daten unbekannter Herkunft basieren, haben in der klinischen Entscheidungsfindung nichts zu suchen. Ohne vertrauenswürdige Daten sind die Ergebnisse unzuverlässig und riskieren, Kliniker in die Irre zu führen und Patienten zu schädigen“, sagte er.

Forderung nach strengeren Offenlegungsanforderungen

Die Autoren empfehlen, dass Zeitschriften, Förderer und Datenrepositorien die Anforderungen an die Offenlegung von Datenquellen verschärfen. Sie schlagen auch vor, die beiden Kaggle-Datensätze zu entfernen, um weiteren Missbrauch zu verhindern. Sieben Artikel, die diese Datensätze verwendeten, wurden bereits aus Zeitschriften zurückgezogen, da sie als unzuverlässig galten. Die Ergebnisse der Studie haben auch die Sammlung von Open Science Integrity Guides aktualisiert, die Ressourcen zur Sicherstellung der Forschungsintegrität bereitstellt.

Breitere Auswirkungen auf KI im Gesundheitswesen

Gibson merkte an, dass das Problem eine breitere Herausforderung widerspiegelt, da KI-Tools im Gesundheitswesen immer häufiger eingesetzt werden. Ohne robuste Datenherkunftsstandards steigt das Risiko, fehlerhafte Modelle in die klinische Praxis zu bringen. Die Studie unterstreicht die Notwendigkeit einer rigorosen Validierung von Datensätzen, bevor sie zum Trainieren von KI-Modellen verwendet werden, die die Patientenergebnisse beeinflussen könnten.

Empfehlungen für das Fachgebiet

• Zeitschriften sollten detaillierte Informationen zur Datenherkunft für jede Studie verlangen, die KI-Vorhersagemodelle verwendet.
• Förderer sollten Transparenz bei der Datenerhebung und -weitergabe vorschreiben.
• Datenrepositorien wie Kaggle sollten Verifizierungsprozesse implementieren, um sicherzustellen, dass Datensätze Mindeststandards für die Herkunft erfüllen.
• Kliniker sollten bei der Übernahme von KI-Tools ohne klare Nachweise für die Datenzuverlässigkeit vorsichtig sein.

Die Ergebnisse dienen als warnendes Beispiel für die KI- und Medizingemeinschaften und betonen, dass das Versprechen der KI im Gesundheitswesen nur verwirklicht werden kann, wenn die Daten, die diesen Modellen zugrunde liegen, vertrauenswürdig sind.

Dieser Artikel basiert auf einer Berichterstattung von Medical Xpress. Lesen Sie den Originalartikel.