Menschen halten persönliche Nachrichten weiterhin für menschlich, selbst wenn KI sie hätte schreiben können

Ein aufschlussreicher Widerspruch darin, wie Menschen KI-generierte Kommunikation bewerten

Mit der Verbreitung generativer KI im alltäglichen Schreiben wird eine grundlegende soziale Frage immer schwerer zu beantworten: Wie reagieren Menschen, wenn eine persönliche Nachricht von einer Maschine geschrieben wurde? Zwei neue, von Fast Company besprochene Experimente legen nahe, dass die Antwort widersprüchlicher ist, als viele erwarten würden. Menschen bestrafen KI-generierte persönliche Nachrichten deutlich, wenn sie wissen, dass KI verwendet wurde, aber sie vermuten im Allgemeinen nicht automatisch KI, selbst wenn der Text, den sie lesen, von einem Modell erzeugt wurde.

Die Studie, an der mehr als 1.300 Teilnehmende in den USA im Alter von 18 bis 84 Jahren teilnahmen, untersuchte, wie Empfänger Absender anhand von Nachrichten wie einer per E-Mail oder Text gesendeten Entschuldigung bewerten. Die Teilnehmenden wurden in vier Gruppen aufgeteilt. Einige sahen die Nachrichten ohne Angaben zur Urheberschaft. Andere wurden darüber informiert, dass die Nachrichten definitiv von einem Menschen geschrieben, definitiv von KI generiert oder möglicherweise von beidem verfasst worden waren.

Die Ergebnisse zeigten eine klare soziale Strafe, die mit offengelegter KI-Autorschaft verbunden ist. Wenn Menschen wussten, dass eine Nachricht von KI generiert wurde, bewerteten sie den Absender negativer und verwendeten Begriffe wie faul, unehrlich und wenig bemüht. Wenn sie glaubten, derselbe Text stamme von einem Menschen, beschrieben sie ihn dagegen als authentisch, dankbar und nachdenklich.

Der überraschende Teil: Die meisten Menschen scheinen nicht misstrauisch zu sein

Das überraschendste Ergebnis war nicht, dass offengelegte KI die Meinungen veränderte. Es war, dass nicht offengelegte KI dies nicht tat. Teilnehmende, die keine Informationen zur Urheberschaft erhalten hatten, bildeten sich ebenso positive Eindrücke wie Personen, denen ausdrücklich gesagt worden war, die Nachrichten seien von einem Menschen geschrieben worden.

Dieser Befund weist auf eine wichtige Asymmetrie in der heutigen Kommunikationsumgebung hin. Viele Menschen sind bereit, den Einsatz von KI zu bestrafen, sobald er sichtbar wird, gehen persönliche Texte aber noch nicht mit grundsätzlicher Skepsis an. Im Alltag nehmen Empfänger möglicherweise weiterhin an, dass gefühlvolle Nachrichten die eigene Mühe einer Person widerspiegeln, selbst wenn KI-Systeme in der Lage sind, detaillierten und emotional passenden Text zu erzeugen.

Die Forschenden hatten offenbar erwartet, dass die wachsende öffentliche Vertrautheit mit generativer KI die Menschen bereits vorsichtiger machen würde. Stattdessen blieb die Standardannahme überwiegend menschlich. Praktisch bedeutet das, dass KI soziale Urteile beeinflussen kann, ohne überhaupt als Faktor erkannt zu werden, solange ihre Rolle nicht offengelegt wird.

Vielnutzer von KI unterschieden sich kaum

Die Forschenden prüften anschließend, ob Vertrautheit mit generativer KI die Reaktionen der Teilnehmenden verändert. Sie verglichen Vielnutzer, Wenignutzer und Menschen, die die Technologie selten oder nie verwenden. Auch hier widersprachen die Ergebnisse einer verbreiteten Annahme.

Vielnutzer bestrafen offengelegte KI-Nutzung zwar etwas weniger stark. Sie waren aber nicht wesentlich skeptischer, wenn die Urheberschaft nicht angegeben wurde. Selbst Menschen, die generative KI jeden zweiten Tag nutzen, neigten dazu, anzunehmen, dass die Nachrichten von einer Person geschrieben wurden. Über alle Nutzergruppen hinweg zeigte sich dasselbe Grundmuster: Offenlegung löste eine negative Reaktion aus, aber fehlende Offenlegung bewahrte im Allgemeinen positive Eindrücke.

Das ist bedeutsam, weil es nahelegt, dass bloße Erfahrung womöglich nicht ausreicht, um soziale Normen rund um KI-geschriebene Kommunikation zu verändern. Menschen können diese Werkzeuge selbst nutzen und sie dennoch bei der Bewertung eingehender Nachrichten nicht mitdenken. Die Gewohnheit, eine menschliche Autorschaft anzunehmen, scheint vorerst stark zu bleiben.

Warum die soziale Strafe wichtig ist

Die Implikationen der Studie gehen über akademische Neugier hinaus. Persönliche und berufliche Beziehungen werden davon geprägt, wie Menschen schriftliche Mühe interpretieren. Eine durchdachte Entschuldigung, ein herzlicher Dank, ein sorgfältig formulierter Stand-up oder eine diplomatische Arbeitsnachricht können beeinflussen, wie der Absender wahrgenommen wird. Empfänger betrachten die in einer Nachricht sichtbare Zeit und Sorgfalt oft als Beweis für Aufrichtigkeit, Authentizität oder Kompetenz.

Wenn KI-generierter Text bei Offenlegung härter bewertet wird, können Menschen, die KI nutzen, einen Reputationsverlust erleiden, sobald dieser Einsatz sichtbar wird. Gleichzeitig kann die Technologie, wenn nicht offengelegte KI-Nachrichten weiterhin genauso positiv aufgenommen werden wie menschlich geschriebene, zwischenmenschliche Kommunikation stillschweigend verändern, ohne dass sich die Erwartungen entsprechend anpassen.

Das erzeugt eine neue Spannung. Personen mögen praktische Gründe haben, KI zu nutzen, besonders bei schwierigen oder emotional sensiblen Nachrichten. Doch die soziale Bedeutung davon ist noch ungeklärt. Die Experimente deuten darauf hin, dass viele Empfänger persönliche Texte noch immer durch eine ältere Linse lesen, in der die Qualität einer Nachricht als Ausdruck direkter menschlicher Arbeit gilt.

Ein Offenlegungsproblem ohne gefestigte Norm

Die Ergebnisse werfen auch eine komplexere Frage zu Politik und Etikette auf: Sollte man KI-Unterstützung in persönlicher Kommunikation offenlegen? Die von Fast Company zusammengefasste Forschung beantwortet diese Frage nicht direkt, zeigt aber die Kosten der Offenlegung unter den gegenwärtigen sozialen Bedingungen. Sobald Leser wissen, dass KI beteiligt war, sehen sie den Absender weniger positiv, selbst wenn der Text unverändert bleibt.

Das ist eine schwierige Grundlage, um Transparenznormen aufzubauen. Wenn Offenlegung das Image beschädigt, Nicht-Offenlegung aber unbemerkt bleibt, entsteht ein starker Anreiz, über den KI-Einsatz zu schweigen. Mit der Zeit könnte das die Lücke zwischen der Produktion von Nachrichten und ihrer Interpretation vergrößern.

Das kann auch die Kommunikation am Arbeitsplatz, beim Dating, in Freundschaften und in anderen Zusammenhängen erschweren, in denen schriftliche Nachrichten emotional oder reputationsbezogen Gewicht haben. Je leistungsfähiger Modelle werden, desto leichter lässt sich überzeugender Text in großem Umfang erzeugen. Doch die Studie legt nahe, dass die sozialen Erwartungen mit dieser technischen Realität noch nicht Schritt gehalten haben.

Was das für die nächste Phase der KI-Adoption bedeutet

Die wichtigste Erkenntnis ist, dass KI-Nutzung beim Schreiben nicht nur ein technisches, sondern auch ein soziales Thema ist. Die Technologie kann bereits Nachrichten erzeugen, die viele Leser positiv aufnehmen. Sobald ihre Beteiligung jedoch offengelegt wird, kann dieselbe Nachricht als weniger aufrichtig bewertet werden. Diese Lücke dürfte prägen, wie KI in der alltäglichen Kommunikation angenommen wird.

Derzeit scheint die Öffentlichkeit in einer instabilen Übergangsphase zu sein. Menschen wissen, dass KI existiert, und viele nutzen sie selbst, interpretieren persönliche Texte aber dennoch oft so, als kämen sie direkt von einer anderen Person. Solange sich diese Annahme nicht ändert, wird KI-gestützte Kommunikation weiterhin eine Diskrepanz zwischen Erzeugung und Wahrnehmung erzeugen.

Deshalb sind diese Experimente wichtig. Sie zeigen, dass die nächste Phase generativer KI nicht nur durch das bestimmt wird, was Modelle schreiben können, sondern auch dadurch, ob sich soziale Normen, Offenlegungsstandards und Erwartungen an Authentizität schnell genug weiterentwickeln, um mit dem Schritt zu halten, was die Werkzeuge bereits leisten.

• Teilnehmende bewerteten offengelegte, von KI geschriebene persönliche Nachrichten negativer als identische Nachrichten, von denen sie dachten, sie seien von Menschen geschrieben.
• Wenn die Urheberschaft nicht offengelegt wurde, nahmen die meisten an, die Nachricht stamme von einer Person, und reagierten positiv.
• Selbst Vielnutzer von KI waren nicht deutlich skeptischer, was darauf hindeutet, dass soziale Normen hinter den technischen Möglichkeiten zurückbleiben.

Dieser Artikel basiert auf einer Berichterstattung von Fast Company. Zum Originalartikel.