Generative KI ist für junge Erwachsene zu einer verbreiteten Möglichkeit geworden, Informationen und Ratschläge zu suchen. Eine Studie von Rutgers Health ergab, dass mehr als 32 Prozent der 18- bis 29-Jährigen unter fast 1.000 Befragten Chatbots wie ChatGPT für Informationen über Substanzkonsum genutzt hatten.
Die im Journal of Medical Internet Research Formative Research veröffentlichte Studie zeigte, dass die häufigste Motivation darin bestand, Risiken und Folgen zu verstehen. Etwa die Hälfte der Nutzer griff mindestens monatlich auf KI zurück.
Die Forschenden warnen, dass Chatbots Fehlinformationen wiedergeben können und junge Erwachsene besonders von negativen Folgen des Substanzkonsums betroffen sind.
KI wird Teil der Suche nach Gesundheitsinformationen
Das Team untersuchte, wie oft junge Erwachsene generative KI zu substanzbezogenen Fragen nutzen, welche Merkmale die Nutzer haben und wie sie die Antworten bewerten. Generative KI bezeichnet Systeme, die auf Eingaben hin synthetische Inhalte erzeugen.
Frühere Daten zeigten, dass 66 Prozent der jungen Erwachsenen KI für die Informationssuche oder medizinische Ratschläge nutzen. Fragen zum Substanzkonsum verdienen besondere Aufmerksamkeit, weil falsche Informationen unmittelbare Folgen haben können.
Etwa jeder dritte Befragte berichtete von einer solchen Nutzung. Das beweist nicht, dass jede Interaktion schädlich ist, zeigt aber, dass sie für öffentliche Gesundheitskommunikation und KI-Entwicklung relevant ist.
Warum die Ergebnisse Anlass zur Sorge geben
Chatbots erzeugen flüssige und scheinbar sichere Antworten. Dadurch wird es schwierig, zuverlässige Empfehlungen von Fehlern oder Fehlinformationen zu unterscheiden.
Mireia Triguero Roura, Erstautorin und Postdoktorandin an Rutgers, erklärte, dass diese Werkzeuge bei jungen Menschen zu falsch informiertem oder riskantem Verhalten beitragen könnten.
Die Befragten suchten vor allem Informationen über Risiken und Folgen. Das deutet darauf hin, dass sie den Chatbot bei komplexen und stigmatisierten Gesundheitsthemen als Beratungsquelle betrachten.
Wer KI für drogenbezogene Fragen nutzt
Schwarze Teilnehmer und Männer berichteten häufiger, KI für substanzbezogene Zwecke zu nutzen. Die Unterschiede könnten mit Zugang zur Gesundheitsversorgung, Stigmatisierung, Vertrauen und Suchverhalten zusammenhängen.
Diese Erklärung muss weiter untersucht werden, weist aber auf eine Gerechtigkeitsfrage hin: Schwächen der erzeugten Informationen könnten Gruppen ungleich treffen.
Was nun folgen sollte
Die Studie unterstreicht den Bedarf an größerer Aufmerksamkeit bei Entwicklern, Gesundheitsfachleuten und öffentlichen Gesundheitsinstitutionen. Entwickler sollten substanzbezogene Eingaben sorgfältig behandeln und Grenzen sowie Unsicherheiten deutlich machen.
Für Nutzer bedeutet das: Ein Chatbot sollte nicht als alleinige Autorität gelten. Antworten können ein Ausgangspunkt sein, müssen bei Gesundheits- oder Sicherheitsfragen aber mit qualifizierten klinischen oder öffentlichen Quellen überprüft werden.
Generative KI erreicht Bereiche, in denen Vertrauen, Genauigkeit und Kontext entscheidend sind. Dass bereits etwa ein Drittel der befragten jungen Erwachsenen sie für Informationen über Substanzkonsum nutzt, ist kaum zu ignorieren.
Dieser Artikel basiert auf einer Berichterstattung von Medical Xpress. Originalartikel lesen.
Originally published on medicalxpress.com
