レオ教皇のトールキン引用が、AI警告を文化的な論点へ変えた

思いがけない文学的シグナルを帯びたAI回勅

レオ14世の人工知能に関する最初の回勅が注目を集めるのは、当然のことだった。Magnifica humanitasと題されたこの書簡は、教皇がAI時代における人間の尊厳の保護と呼ぶものを扱い、被造物も人間も効率のための手段に還元しかねないテクノクラート的な論理に警鐘を鳴らしている。この論点だけでも、この文書は重要だったはずだ。

それをより広い文化的な出来事にしたのは、思いがけない引用だった。J.R.R.トールキンだ。指輪物語のガンダルフを引き合いに出すことで、レオは神学文書に有名な文学名を添えただけではない。テクノロジー業界の最も影響力のある人物たちの一部が育ててきた自己像とは鋭く対立する形で、AIに道徳的な枠組みを与えたのだ。

批判の焦点は道具ではなく権力にある

Wiredの報道によれば、レオの回勅は、技術的能力が自らの拡大を自動的に正当化するわけではないという懐疑を、教皇就任後の最初の1年を通じて彼が強調してきた流れを継続している。彼は「技術官僚的パラダイムの増大する支配」に明確に警鐘を鳴らし、AIの局面を産業革命に伴う以前の変動と結び付けている。

この比較が重要なのは、議論の焦点を製品の新しさから、労働、尊厳、政治権力へと移すからだ。この系譜はまた、1891年の回勅で産業変革のさなかの労働者の権利を擁護したレオ13世をも想起させる。実質的には、レオ14世はAIを、何を最適化できるかだけでなく、人間の生活の中で何を再編成するのかによって判断すべきだと主張している。

それは、速度、規模、能力向上を本質的に文明的な善として提示しがちなフロンティアAIをめぐる支配的なレトリックへの、すでに十分な挑戦である。この回勅は、根底にあるインセンティブが本当に人間の繁栄へ向いているのか、それとも利益と支配の集中へ向いているのかを問いかけている。

なぜトールキンがこれほど強く響くのか

トールキンへの言及は、その批判に文化的な切れ味を与える。レオはガンダルフの、支配の限界と、自らの時代と場所で善く行動する義務についての言葉を引用している。文脈上、この引用は支配ではなく、節度、責任、道徳的な務めを強調している。

その読み方は、一部の有力なテクノロジー関係者が公にトールキン的なイメージをまとってきたあり方と緊張関係にある。Wiredが指摘するように、ピーター・ティールはサーガに登場する見通し石にちなみPalantirと名付け、イーロン・マスクもこの神話を参照してきた。批評家たちは長年、こうした引用がトールキン作品から反権力的な感性を剥ぎ取り、エリートの野心のためのブランディングへと作り替えてしまうと主張してきた。

レオによるトールキンの使い方は、その逆だ。物語を謙虚さ、奉仕、そして権力に伴う腐敗への抵抗へと引き戻している。意図的かどうかにかかわらず、それは教会のAI警告を、技術進歩の意味を誰が定義するのかをめぐるより広い闘いの中で読み取れるものにしている。

宗教的な文書が世俗のAI議論に入る

宗教的な介入は、特にエンジニア、投資家、政策立案者が支配する分野では、テクノロジー論争の中で過小評価されやすい。しかし、この回勅は、AIを主にイノベーションのエンジンとして統治すべきか、それとも労働、文化、人間の主体性に深い意味を持つ力として扱うべきかという、現に進行中の議論に入っている。

AIを人間の尊厳という観点から捉えることで、レオは、この会話を性能ベンチマークや、将来の治療法や効率向上に関する主張だけで尽くすことはできないと主張している。この回勅は、こうしたシステムを取り巻いてどのような社会秩序が築かれているのか、そしてその中で誰が切り捨てられる存在になるのかを問うている。

それは、この文書にカトリックの読者を超える意義を与えている。「技術官僚的パラダイム」という言葉が響くのは、AIブームの批判者の多くがすでに感じていること、つまりこの技術は中立的な世界に現れているのではなく、価値を速度、規模、収奪によって測る傾向のある制度の中に現れていることを言い当てているからだ。

なぜこの瞬間が重要なのか

レオの介入で最も興味深いのは、教皇がファンタジー文学を引用したことそのものではない。その引用が機能したことだ。テクノロジーのリーダーたちがすでに借用している象徴的宇宙に、緻密な倫理的議論を結び付け、その道徳的な読みを彼らに対して反転させた。

その結果、この回勅はAI懐疑派に使える文化的語彙を広げた。AIへの最も深い懸念は、技術的でも経済的でもないと示唆したのだ。それは古い意味での文明的な問題であり、人格、責任、限界、そして能力を知恵と混同しないことに関わっている。

それでAI論争が決着するわけではなく、この回勅だけで大規模研究所の進路が変わる可能性も低い。しかし、業界批判がもはや規制文書や労働問題に限られていないことは示している。効率のために作られたシステムが、その内部にいる人間を再定義し始めるときに何が起こるのかという、神学、文学的伝統、そして長年の議論を通じて表現されているのだ。

この記事はWiredの報道に基づいています。原文を読む。