Papst Leo XIV. fordert in seiner ersten Enzyklika, KI zu „entwaffnen“

Ein großer moralischer Eingriff in die KI-Debatte

Papst Leo XIV. ist mit ungewöhnlich direkter Sprache in die weltweite Debatte über künstliche Intelligenz eingestiegen und fordert in seiner ersten Enzyklika Magnifica Humanitas, die KI zu „entwaffnen“. Das in Rom veröffentlichte Dokument rahmt KI nicht als enges technisches Thema, sondern als zivilisatorische Bewährungsprobe. Leo argumentiert, die Technologie müsse von Systemen befreit werden, die sie zu einem Instrument von Herrschaft, Ausgrenzung und Tod machen, und stattdessen in den Dienst des Gemeinwohls gestellt werden.

Die Kraft dieser Intervention liegt zum Teil in der Wortwahl. Leo sagt ausdrücklich, er habe die Sprache der Entwaffnung gewählt, weil der Moment Worte verlange, die stark genug seien, Aufmerksamkeit zu erregen, das Gewissen zu wecken und die Menschheit auf einen anderen Weg zu führen. Damit ist die Enzyklika mehr als eine allgemeine Warnung vor Ethik. Sie ist ein Versuch, die Bedeutung des KI-Zeitalters in moralischen und politischen Begriffen zu bestimmen.

Auch der Rahmen des Vatikans ist wichtig, weil es sich hier nicht um eine Randnotiz in der kirchlichen Lehre handelt. Leo unterzeichnete die Enzyklika am 15. Mai, dem Jahrestag der Enzyklika Rerum Novarum von 1891, dem Grundtext der modernen katholischen Soziallehre. Damit stellt er KI neben die industriellen Umwälzungen, die vor mehr als einem Jahrhundert Arbeit, Macht und gesellschaftliches Leben verändert haben. Er präsentiert künstliche Intelligenz als das „Neue“ unserer Zeit, mächtig genug, um eine frische Grundsatzerklärung zu erfordern.

Von autonomen Waffen bis zur Datenausbeutung

Die Kritik des Dokuments ist breit angelegt. Dem Ursprungstext zufolge befasst sich Leo mit KI-gestützten autonomen Waffen, ausbeuterischen Ansätzen bei Gesundheits- und Genetendaten sowie der Konzentration von Kontrolle in Patenten, Algorithmen, digitalen Plattformen, technischer Infrastruktur und Daten. Das ist eine bemerkenswerte Kombination. Statt KI nur als Arbeits-, Militär- oder Content-Thema zu behandeln, verbindet die Enzyklika diese Bereiche als Teile derselben Machtstruktur.

Diese Struktur wird in scharfen Worten beschrieben. Leo vergleicht heutige Tech-Eliten mit kolonialen Eroberern und warnt vor einer neuen Ausbeutungsmentalität, besonders in Regionen mit struktureller Fragilität und begrenztem geopolitischem Einfluss. Das Argument lautet, dass datenintensive Systeme alte Dominanzmuster unter einem digitalen Etikett reproduzieren können. In diesem Rahmen ist KI nicht bloß Software. Sie ist auch eine institutionelle Anordnung, die Asymmetrien zwischen denen vertiefen kann, die Systeme bauen und besitzen, und denen, die von ihnen vermessen, gesteuert oder verdrängt werden.

Hier entfernt sich die Enzyklika von weicheren Versionen der KI-Ethik. Statt ausschließlich Transparenz, Bias-Minderung oder freiwillige Schutzgeländer in den Mittelpunkt zu stellen, scheint sie grundlegendere Fragen nach Macht, Eigentum und Zweck zu stellen. Wer profitiert von KI-Systemen? Wer trägt das Risiko? Wer wird umgangen? Diese Fragen rücken die Intervention des Vatikans näher an die politische Ökonomie als an die Sprache der Unternehmens-Compliance.

Eine konkurrierende Vorstellung davon, was Bauen bedeutet

Eine der auffälligsten Eigenschaften des Ausgangsberichts ist, dass Leo nicht bei der Kritik stehen bleibt. Er übernimmt auch die Sprache des Bauens, lenkt sie jedoch um. In seiner Vision ist Bauen nicht auf Code, Start-ups, Plattformen oder Fabriken beschränkt. Es ist Teil eines umfassenderen Aufrufs, das zu schaffen, was er eine „Zivilisation der Liebe“ nennt, eine soziale Ordnung, in der Technologie der Menschheit dient und sie erweitert, statt sie zu beherrschen.

Diese Unterscheidung ist wichtig, weil die dominante öffentliche Rhetorik rund um KI immer noch dazu neigt, Beschleunigung als Hauptmaßstab der Seriosität anzunehmen. Schneller bauen, früher ausrollen, breiter skalieren. Leos Eingriff legt einen anderen Test nahe: Bewahren die Systeme menschliche Würde, soziale Teilhabe und moralische Verantwortung? Wenn nicht, ist technische Raffinesse keine Verteidigung.

Hier liegt auch eine implizite Warnung an Institutionen, die Urteilsfähigkeit auslagern wollen. Eine Maschine kann optimieren, empfehlen, sortieren, anvisieren oder automatisieren, aber die Enzyklika scheint darauf zu bestehen, dass keine dieser Funktionen menschliche Handlungsfähigkeit aushöhlen darf. Die Forderung ist nicht schlicht technikfeindlich. Sie richtet sich gegen Unterordnung. Das Problem ist nicht, dass Werkzeuge existieren; das Problem ist, dass sie in Logiken eingebettet werden können, die Menschen von Entscheidungen ausschließen, welche ihr Leben prägen.

Warum dieser Eingriff jetzt kommt

Das Timing ist bedeutsam. Die Debatten über KI sind in den vergangenen zwei Jahren konkreter geworden, mit wachsender Sorge über Arbeitsverdrängung, militärische Autonomie, konzentrierte Infrastruktur und grenzüberschreitende Datenausbeutung. Leos Enzyklika betritt diesen Moment mit einer Wortwahl, die die Einsätze erhöhen soll. Indem er KI mit der Soziallehre verknüpft, sagt er im Grunde, dass dies nicht länger ein Spezialistengespräch ist, das Ingenieuren, Führungskräften und Regulierern vorbehalten bleibt.

Das könnte das Publikum für Argumente zur KI-Governance erweitern. Religiöse Institutionen schreiben keine technischen Standards, können aber den öffentlichen moralischen Rahmen beeinflussen, in dem solche Standards verhandelt werden. Ein Aufruf, KI zu „entwaffnen“, bleibt im Gedächtnis, weil er eine komplexe Kritik in einer einzigen Forderung verdichtet: Technologie darf keine Macht anhäufen, ohne sich menschlichen Zielen gegenüber verantworten zu müssen.

Die Anwesenheit von Anthropic-Mitgründer Dario Amodei bei der Veranstaltung, wie im Ursprungstext vermerkt, unterstrich zudem die Überschneidung von moralischer Autorität und Macht der Spitzenindustrie. Der Vatikan versteht offenbar sehr wohl, dass er Entwickler und Führungskräfte ebenso anspricht wie Gläubige. Die Botschaft lautet nicht, dass Innovation aufhören soll. Sie lautet, dass Innovation ohne moralische Orientierung gefährlich wird, gerade wenn sie am leistungsfähigsten erscheint.

Die lange Auseinandersetzung liegt noch vor uns

Ob Leos Eingriff Politik direkt verändert, ist offen. Er verleiht jedoch einer wachsenden Ansicht Gewicht: KI-Governance kann nicht auf enges Risikomanagement reduziert werden. Die in der Enzyklika angesprochenen Fragen reichen von Krieg und Arbeit über Ausbeutung und Eigentum bis zur Form des gesellschaftlichen Lebens selbst.

Vielleicht ist genau das der Punkt. Industrielle Revolutionen verändern nicht nur Werkzeuge; sie reorganisieren Gesellschaften. Mit dem Verweis auf Rerum Novarum argumentiert Leo, dass KI in diese Kategorie gehört. Die zentrale Frage ist nicht mehr, ob die Technologie beeindruckend ist. Es geht darum, ob die Welt, die um sie herum entsteht, Menschen besser schützt, befähigt und umfassender einbezieht als zuvor.

In diesem Sinne ist „entwaffnen“ weniger eine Ablehnung von Intelligenz in Maschinen als eine Zurückweisung der politischen und wirtschaftlichen Arrangements, die diese Systeme zu Werkzeugen der Zwangsausübung machen können. Die Enzyklika erinnert daran, dass die Zukunft der KI nicht allein durch Technik bestimmt wird. Sie wird auch von den Werten geprägt, die Institutionen zu verteidigen bereit sind.

Dieser Artikel basiert auf einer Berichterstattung von Ars Technica. Den Originalartikel lesen.