KI-Zugang lässt die Bereitschaft, „Ich weiß es nicht“ zu sagen, nahezu verschwinden

Eine kleine Wendung, die der KI-Zugang offenbar auslöscht

Das Eingeständnis von Unsicherheit ist eines der billigsten intellektuellen Werkzeuge, die es gibt: „Ich weiß es nicht“ kostet nichts und verhindert sehr viele Fehler. Eine neue Forschungsarbeit legt nahe, dass dieses Werkzeug durch die bloße Verfügbarkeit eines Sprachmodells stillschweigend deaktiviert wird. In fünf Experimenten mit 3.132 Teilnehmenden fanden Forschende heraus, dass Personen, die KI-Rat konsultieren konnten, nahezu vollständig unwillig wurden, ein Urteil zurückzuhalten – selbst in einem Setting, in dem die KI absichtlich und zuverlässig unzuverlässig war.

Die Arbeit wird Marcoccia, Quattrociocchi und Capraro im Jahr 2026 zugeschrieben, und das Muster, das sie beschreibt, ist krass. In einem Experiment sank der Anteil der Fragen, die Teilnehmende nicht beantworten wollten, von 44 Prozent ohne KI-Zugang auf nur 3 Prozent mit KI-Zugang. Sie antworteten viel häufiger. Sie lagen viel seltener richtig.

Wie die Experimente aufgebaut waren

Das Design ist wichtig, denn es schließt die schmeichelhafteste Erklärung für das Verhalten aus. Die Forschenden testeten nicht, ob Menschen sich vernünftigerweise auf einen kompetenten Assistenten stützen. Sie testeten, was passiert, wenn der Assistent selbstsicher schlecht ist.

Fragen, die ausgewählt wurden, um das Modell zu überfordern

Das Team wählte Fragen aus, bei denen ihr gewähltes Modell, Step 3.5 Flash, fast immer falschlag. Diese betrafen feine visuelle Details aus Filmen – zum Beispiel die Farbe einer Teamuniform in Bend It Like Beckham. Die Autorinnen und Autoren merken an, dass solche Kleinigkeiten selten in Online-Texten auftauchen, was sie zu Hauptzielen für Halluzinationen macht: Das Modell hat wenig zum Abrufen und viel Raum zum Erfinden.

Um zu bestätigen, dass das Setup nicht einfach ein defektes Werkzeug testete, beobachteten die Forschenden außerdem, dass GPT-5.5, Claude 4.6 Sonnet und Gemini 3.5 Flash die meisten der anderen Fragen korrekt behandelten, obwohl sie bei den schwierigeren immer noch strauchelten. Der entscheidende Punkt ist, dass jegliche Ehrerbietung der Teilnehmenden, da der KI-Rat meist falsch war, nicht als vernünftige Delegation an ein verlässliches Instrument dargestellt werden kann.

Mehr Antworten, weniger richtige

In den Studien 1a und 1b konnten die Teilnehmenden selbst entscheiden, ob sie vor der Antwort eine KI fragen. In der Kontrollbedingung ohne verfügbare KI hielten sie ihr Urteil bei 36 Prozent bzw. 44 Prozent der Fragen zurück. Sobald eine KI verfügbar war, brachen diese Enthaltungsraten auf 6 Prozent und 3 Prozent zusammen.

Studie 2 fügte eine zweite Messung hinzu – das Vertrauen – und lieferte das möglicherweise unbequemste Ergebnis des Sets:

• Das Vertrauen mit KI-Zugang erreichte 75,9 Punkte auf einer 100-Punkte-Skala, verglichen mit 29,6 Punkten ohne – etwa zweieinhalb Mal höher.
• Die richtigen Antworten fielen im selben Vergleich von 27,6 Prozent auf 10,0 Prozent.
• Über alle Studien hinweg antworteten Teilnehmende ohne finanzielle Anreize, die KI-Zugang hatten, in 9,2 Prozent der Fälle richtig, gegenüber 27,5 Prozent ohne KI.

Mit anderen Worten: Die Menschen beantworteten mit KI zur Hand mehr Fragen und lagen etwa ein Drittel so oft richtig. Die Forschenden charakterisieren die Verschiebung in Studie 2 als drei gleichzeitige Bewegungen: Die Urteilsenthaltung sank auf nahezu null, das Vertrauen stieg stark, und die Korrektheit nahm ab. Gewissheit und Genauigkeit bewegten sich in entgegengesetzte Richtungen.

Vertrauen ohne Kompetenz

Die Kombination ist aus der menschlichen Psychologie bekannt – wer am wenigsten weiß, fühlt sich oft am sichersten –, doch hier scheint sie auf Abruf durch ein Werkzeug hervorgerufen zu werden, statt aus langjähriger Expertise zu entstehen. Die Teilnehmenden berichteten nicht über Vertrauen in die KI; sie berichteten über Vertrauen in ihre eigenen Antworten, die sie nach der Konfrontation mit einem Rat gaben, den die Forschenden so konstruiert hatten, dass er meist falsch war.

Diese Dynamik hilft zu erklären, warum der Effekt über das Labor hinaus verfolgt werden sollte. Reale KI-Assistenten halluzinieren am wahrscheinlichsten genau dort, wo Informationen dünn, obskur oder selten dokumentiert sind – dieselben Bedingungen, mit denen die Studie das Modell in den Fehler lockte. Die Lücke zwischen Sprachgewandtheit und Faktizität ist nicht gleichmäßig verteilt; sie ballt sich genau in dem Terrain, in dem die eigene Unsicherheit einer Person normalerweise am größten wäre.

Anreize helfen, beheben das Problem aber nicht

Die Studien 2 bis 4 führten Geld ein. Die Teilnehmenden verdienten 10 Cent für jede richtige Antwort, verloren 10 Cent für jede falsche und erhielten gar nichts für die Aussage „Ich weiß es nicht“. Dieses Bewertungsschema macht Enthaltung in relativer Hinsicht wirklich kostspielig, doch die Forschenden wollten dennoch wissen, ob die Strafstruktur für Fehler die Menschen zurück zur Anerkennung von Unwissen drängen würde.

Sie präregistrierten die Hypothese, dass finanzielle Anreize die Bereitschaft zur Enthaltung erhöhen würden, dass die Verfügbarkeit von KI diesen Effekt aber abschwächen würde. Die verfügbare Darstellung der Ergebnisse weist in eine gemischte Richtung: Anreize reduzierten zwar, wie oft Teilnehmende KI-Rat suchten, und die Forschenden beschreiben sie als hilfreich, aber nicht als Heilmittel. Die Anziehungskraft einer sofortigen Antwort scheint ein direktes finanzielles Argument gegen das Raten zu überleben.

Was ungewiss bleibt

Die Forschenden sehen weiterhin eine allgemeine Tendenz, dass Menschen sich KI-Ausgaben beugen, doch sie räumen offen ein, dass die Grenzen ihres Ergebnisses unbewiesen sind. Ob derselbe Zusammenbruch der Enthaltung außerhalb von Filmtrivia – in Medizin, Recht, Technik oder alltäglichen Faktenfragen – ebenso stark gilt, ist eine offene Frage. Es ist möglich, dass einige Domänen genug Wachsamkeit aktivieren, um den Instinkt zu bewahren, „Ich weiß es nicht“ zu sagen. Es ist auch möglich, dass der Effekt dort stärker ist, wo die Einsätze höher sind und Antworten folgenreicher erscheinen.

Was die Studie jedoch belegt, ist ein Mechanismus, den es zu beobachten lohnt: Die Anwesenheit einer Antwort verändert die Psychologie der Person, die sonst vielleicht zugegeben hätte, keine zu haben. Der Preis ist messbar. Mit KI im Raum tauschten die Teilnehmenden einen großen Teil ihrer Genauigkeit gegen einen großen Teil ihres Vertrauens ein – und gaben die eine Antwort auf, die immer ehrlich ist.

Dieser Artikel basiert auf einer Reportage von The Decoder. Lesen Sie den Originalartikel.