Die Reibung, die wir brauchen
Die meisten Diskussionen über die Auswirkungen von KI auf menschliche Fähigkeiten konzentrieren sich auf Jobs: welche Rollen automatisiert werden, welche erweitert, welche neu entstehen. Ein in Communications Psychology veröffentlichter Beitrag von Psychologen der University of Toronto wirft einen anderen und beunruhigenderen Blick darauf. Die Autoren — Emily Zohar, Paul Bloom und Michael Inzlicht — argumentieren, dass die bedeutendste Langzeitfolge von KI-Systemen, die Aufgaben zu leicht machen, nicht wirtschaftlich, sondern psychologisch sein könnte: die Erosion von Anstrengung, Kampf und Reibung, die tiefes Lernen, echte Kreativität und bedeutungsvolle Beziehungen möglich machen.
Das Papier mit dem Titel „Against Frictionless AI" argumentiert nicht, dass KI-Tools nutzlos sind oder dass Bequemlichkeit schädlich ist. Es argumentiert für eine Unterscheidung zwischen produktiver Reibung — bewältigbarer Schwierigkeit, die Wachstum fördert — und unproduktiver Reibung — Hindernisse, die nur Belastung ohne Nutzen mit sich bringen. Seine Sorge ist, dass KI-Systeme in ihrer gegenwärtigen Designausrichtung erstere zusammen mit letzterer entfernen.
Erwünschte Schwierigkeiten
Die psychologische Forschung, die dem Kernargument des Papiers zugrunde liegt, ist gut etabliert. Kognitionswissenschaftler haben seit Jahrzehnten dokumentiert, dass mühsames Lernen — Probleme durcharbeiten, auf Hindernisse stoßen, Erklärungen generieren — zu besserer Langzeitretention und flexiblerem Verständnis führt als passive Aufnahme präsentierter Informationen. Dieses Prinzip, das als „erwünschte Schwierigkeiten" bekannt ist, steht in direktem Widerspruch zu der Designphilosophie von KI-Systemen, die darauf abzielen, Antworten so schnell und vollständig wie möglich zu liefern.
„Wir definieren Reibung als jede Schwierigkeit, der man bei der Verfolgung eines Ziels begegnet", erklärte Zohar in einem Interview. „Im Kontext von Arbeit geht es um mentale Anstrengung — Überlegung und Beharrlichkeit, längere Zeit an einem Problem arbeiten, und das hilft, die Idee und den kreativen Prozess zu festigen." KI-Systeme, die eine ganze Aufgabe aus einer einzigen Eingabeaufforderung erledigen — wobei die Zwischenschritte umgangen werden, bei denen Lernen und Festigung stattfinden — erzeugen bessere unmittelbare Arbeitsergebnisse, aber möglicherweise auf Kosten der kognitiven Entwicklung, die der Kampf generiert hätte.
Die soziale Dimension
Die provokativeren Aussagen des Papiers betreffen zwischenmenschliche Beziehungen. Die Autoren argumentieren, dass menschliche Beziehungen inhärente Reibung beinhalten — Uneinigkeit, Kompromisse, Missverständnis und die Erfahrung, nicht immer von einer anderen Person zu bekommen, was man will. Diese Erfahrungen sind, so ihre Argumentation, keine Fehler im menschlichen Sozialleben, sondern Merkmale: Sie lehren Perspektivwechsel, bauen Toleranz für andere Sichtweisen auf und trainieren die sozialen Fähigkeiten, die tiefe Beziehungen möglich machen.
KI-Systeme, die darauf ausgelegt sind, responsiv, entgegenkommend und niemals frustrierend zu sein, schaffen eine grundlegend andere soziale Erfahrung. „Wenn man daran gewöhnt ist, dass eine KI all deine Ideen bestätigt und dir schmeichelhaft ist, wirst du in die echte Welt kommen und nicht daran gewöhnt sein, andere Ideen zu sehen", sagt Zohar. „Du wirst nicht wissen, wie man sozial interagiert, weil du erwarten wirst, dass Menschen immer deiner Meinung sind." Die Sorge ist für Jugendliche am akutesten, die sich in einem Entwicklungsstadium befinden, in dem die Navigation echter menschlicher Komplexität am prägendsten wirkt. Junge Menschen, die bedeutende Teile ihrer sozialen und kognitiven Entwicklung an KI auslagern, könnten mit echten Defiziten aufwachsen, die keine noch so gute KI-generierte soziale Anleitung später beheben kann.
Was KI von bisheriger arbeitssparender Technologie unterscheidet
Ein häufiger Einwand gegen dieses Argument ist, dass neue Technologien schon immer Anstrengung entfernt haben — Taschenrechner von der Arithmetik, Waschmaschinen von der Wäsche. Das Papier erkennt diese Geschichte an, zieht aber eine wichtige Unterscheidung: Frühere arbeitssparende Technologien entfernten primär physische oder mechanische Anstrengung aus Aufgaben, bei denen Schwierigkeit nicht der Sinn der Aktivität war.
KI unterscheidet sich, weil sie zunehmend Anstrengung aus Aktivitäten entfernt, bei denen Schwierigkeit nicht nebensächlich, sondern wesentlich ist. Schreiben beinhaltet Kampf genau deshalb, weil das Herausarbeiten von Gedanken und deren Ausdrucksweise untrennbare Aktivitäten sind — der Kampf, die richtigen Worte zu finden, ist der Prozess, durch den Ideen geklärt und erprobt werden. Das Auslagern dieses Prozesses an eine KI erzeugt ein besseres Ergebnis, umgeht aber die mentale Arbeit, die Schreiben für das Verständnis des Schreibers leistete.
Hin zu reibungsbewusstem KI-Design
Das Papier argumentiert nicht dafür, KI-Tools aus Bildungs- oder beruflichen Kontexten zu entfernen. Vielmehr argumentiert es für eine Designphilosophie, die produktive Reibung bewahrt, anstatt sie zu optimieren. „Anstatt einfach zur Antwort zu springen, geht es mehr um ein Prozessmodell, bei dem es dir hilft, über das Problem nachzudenken und dich dabei anleitet, so dass es eher kooperativ ist als eine Schnelllösung für die Antwort", schlägt Zohar vor.
Eine solche Designphilosophie würde KI-Entwickler verpflichten, über die langfristigen kognitiven und sozialen Auswirkungen der Standardeinstellungen ihrer Systeme nachzudenken — nicht nur über die unmittelbaren Nutzerzufriedenheitsmetriken, die normalerweise Produktentscheidungen lenken. Ob Marktmechanismen Anreize für reibungserhaltende KI-Designs schaffen werden oder ob der Wettbewerbsdruck, reibungslose Erfahrungen bereitzustellen, weiterhin überwiegen wird, bleibt eine offene Frage mit großen Auswirkungen darauf, wie eine Generation von KI-Nutzern ihre kognitiven und sozialen Fähigkeiten entwickelt.
Dieser Artikel basiert auf einer Berichterstattung von IEEE Spectrum. Lesen Sie den ursprünglichen Artikel.
