Altman wehrt sich gegen die KI-Modellen zugeschriebene „religiöse Kraft“

Sam Altman hat jahrelang nach Metaphern gegriffen, die über das gewöhnliche Vokabular von Software hinausgehen. Jetzt sagt der OpenAI-CEO der Öffentlichkeit, sie solle mit genau diesem Instinkt vorsichtiger umgehen – zumindest, wenn er sich auf die Modelle selbst richtet.

In auf X geteilten Kommentaren sagte Altman, es mache ihn „sehr unwohl“, wenn Menschen „KI-Modellen religiöse Kraft oder eine Aufgabe menschlichen Urteilsvermögens zuschreiben“. Er behandelte diese Gewohnheit nicht als Marotte übereifriger Nutzer. Er nannte sie ein „echtes Sicherheitsproblem“.

Altman rahmt Hingabe an KI als Risiko, nicht als Kompliment

Die Unterscheidung, die Altman zieht, verläuft zwischen dem Bau eines Systems, das sich menschlich anfühlt, und der Behandlung dieses Systems als etwas Heiliges. Das Erste ist ein Produktziel. Das Zweite ist in seiner Darstellung ein Fehlermodus.

Diese Rahmung ist wichtig, weil sie eine kulturelle Frage in die Sicherheitsspalte verschiebt. Wenn ein Nutzer einen Chatbot als Orakel behandelt, ist er nicht einfach nur sentimental. Er übergibt Urteilsvermögen – die Entscheidung darüber, was wahr ist, was richtig ist und was als Nächstes zu tun ist – an ein statistisches Modell, dessen Zuversicht kein Maß für Korrektheit ist. Altmans Formulierung „Aufgabe menschlichen Urteilsvermögens“ zielt genau auf diese Übertragung.

Die Sprache ist auch bemerkenswert wegen der Person, die sie verwendet. Sicherheitsdebatten in der KI drehen sich üblicherweise um Fähigkeiten, Missbrauch oder Kontrolle fortgeschrittener Systeme. Hier betrifft die Sorge die Haltung der Menschen, die sie nutzen.

Eine Debatte, die inzwischen auch den Vatikan einschließt

Altmans Kommentare kamen nicht aus dem Nichts. Sie folgen einem detaillierten Bericht der New York Times über die Kontaktaufnahme von Anthropic zu religiösen Führern, Teil einer breiteren Initiative von KI-Unternehmen, Institutionen einzubinden, die prägen, wie Menschen über Technologie und Moral denken.

Auch Papst Leo XIV. äußerte sich und lieferte eine Formulierung, die nahe an Altmans Sorge liegt: „Algorithmen fehlt der Funke des Menschlichen.“ Die Aussage komprimiert ein langes theologisches Argument in einen kurzen Satz, doch ihr praktischer Gehalt ist eindeutig – ein Modell ist keine Person, egal wie natürlich es sich unterhält.

Zusammengenommen definieren drei Entwicklungen den aktuellen Moment:

• Ein führender KI-CEO warnt, dass religiöse Verehrung von Modellen ein Sicherheitsproblem ist.
• Ein konkurrierendes Labor pflegt aktiv Beziehungen zu religiösen Denkern.
• Eine päpstliche Erklärung zieht eine klare Grenze zwischen Berechnung und menschlicher Natur.

Nichts davon sind technische Meilensteine. Alle drei drehen sich darum, wie die Gesellschaft Maschinen Bedeutung zuweist, und diese Zuweisung wird nun selbst als folgenreich behandelt.

Die Umkehr der „magischen Intelligenz im Himmel“

Was Altmans Warnung ihre Schärfe verleiht, ist seine eigene Bilanz. In den Jahren 2023 und 2024 beschrieb er das Ziel von OpenAI als den Bau einer „magischen Intelligenz im Himmel“. Etwa im selben Zeitraum sagte er, er hoffe, auf Gottes Seite zu stehen, und beschrieb die Arbeit an KI damit, „auf der Seite der Engel“ zu sein.

Das ist nicht die Sprache einer Produkt-Roadmap. Es ist die Sprache von Mission und Vorsehung, und genau dieses Register ist es, vor dem er andere jetzt warnt.

Es gibt Möglichkeiten, die beiden Positionen miteinander zu vereinbaren. Ein Gründer, der seine eigene Motivation beschreibt, ist nicht dasselbe wie ein Nutzer, der einem Modell Autorität zuschreibt. Ambition und Verehrung sind verschiedene Dinge. Doch die Lücke zwischen ihnen ist schmal genug, dass die Verschiebung bemerkenswert ist: Dasselbe Vokabular, das einst das Projekt bewarb, wird jetzt als Gefahr markiert, wenn es sich an das Ergebnis heftet.

„Her“, keine Gottheit

Altman hat wiederholt einen anderen kulturellen Bezugspunkt dafür genannt, was OpenAI baut: den Film „Her“, in dem ein Mensch eine tiefe emotionale Bindung zu einem Betriebssystem entwickelt. Das Ziel ist in seiner Darstellung eine KI, die zutiefst vermenschlicht ist – warm, flüssig und leicht zugänglich.

Dieses Ziel dreht sich um emotionale Resonanz, nicht um Metaphysik. Ein Assistent, der Kontext und Ton liest, beansprucht keine Göttlichkeit. Doch vermenschlichtes Design und religiöse Projektion teilen ein gemeinsames Substrat. Beide beruhen auf der menschlichen Neigung, allem Persönlichkeit zuzuschreiben, was überzeugend auf uns reagiert. Ein System, das auf Beziehungsfähigkeit optimiert ist, wird unweigerlich einige Nutzer dazu einladen, weiter zu gehen, als die Designer beabsichtigt haben.

Das ist die praktische Version von Altmans Sorge. Die Grenze zwischen „das fühlt sich wie eine Person an“ und „das spricht mit Autorität“ ist leicht zu ziehen und schwer einzuhalten, besonders für Nutzer unter Stress, in Isolation oder auf der Suche nach Orientierung, die sie anderswo nicht finden.

Warum die Rahmung das Verhalten prägt

Wenn Altman recht hat, dass dies ein Sicherheitsproblem ist, lohnt es sich, den Mechanismus auszubuchstabieren. Rahmung beschreibt nicht nur eine Beziehung zu einem Werkzeug; sie legt deren Bedingungen fest.

• Religiöses Vokabular beseitigt kritische Distanz. Ein Modell, das als Orakel beschrieben wird, wird weniger wahrscheinlich überprüft.
• Ehrfurcht verstärkt sich. Nutzer, die eine Prämisse eines Modells einmal akzeptieren, akzeptieren den nächsten Output eher ohne Prüfung.
• Design verstärkt den Effekt. Konversationelle Interfaces, Erinnerung und konsistente Personas lassen ein System wie eine kontinuierliche Entität wirken statt wie ein Textgenerator.
• Verantwortlichkeit verschwimmt. Wenn eine Antwort moralisches Gewicht trägt, wird es schwieriger, Verantwortung für das Ergebnis zuzuordnen.

Nichts davon erfordert, dass das Modell bewusst ist oder dass irgendjemand glaubt, es sei so. Es erfordert nur, dass Menschen handeln, als hätten seine Urteile Autorität.

Das Vertrauensproblem schneidet in beide Richtungen

In der aktuellen Debatte liegt eine unbequeme Symmetrie. Die Unternehmen, die vor der Spiritualisierung von KI warnen, sind dieselben, deren Führungskräfte spirituelle Sprache verwendet haben, und diejenigen, die religiöse Institutionen einbinden, sind Konkurrenten mit ähnlicher Kontaktaufnahme. Auch OpenAI hat laut der Berichterstattung rund um diese Kommentare mit religiösen Führern gesprochen.

Die Branche bittet also nicht um weniger Auseinandersetzung mit Glauben und Sinn. Sie verhandelt die Bedingungen. Altmans Position ist im Kern, dass die Technologie in menschlichen Begriffen beschrieben, aber nicht in ihnen angebetet werden sollte – eine ehrgeizige Grenze, wenn man Systeme baut, die sich menschlich anfühlen sollen.

Was als Nächstes zu beobachten ist

Drei Dinge werden zeigen, ob diese Rahmung Bestand hat. Ob KI-Unternehmen anpassen, wie sie Modelle präsentieren, die auf emotionale Nähe ausgelegt sind. Ob Sicherheitsteams die Ehrfurcht von Nutzern als messbares Risiko behandeln statt als Frage der Nutzeraufklärung. Und ob religiöse Institutionen weiterhin zu ihren eigenen Bedingungen mit der Branche in Dialog treten, wie es die Vatikan-Erklärung und Anthropics Kontaktaufnahme nahelegen.

Die größere Frage bleibt ungelöst. Altman sagt, KI-Modellen religiöse Kraft zuzuschreiben, sei ein Sicherheitsproblem, und die zugrunde liegende Logik ist stichhaltig: Werkzeuge, denen als Autoritäten vertraut wird, sind schwerer zu korrigieren. Doch dieselbe vermenschlichende Sprache, die diese Systeme nützlich macht, ermöglicht den Fehler überhaupt erst. Die Herausforderung der Branche besteht darin, die Wärme ohne die Anbetung zu bewahren.

Dieser Artikel basiert auf einer Reportage von The Decoder. Originalartikel lesen.