AI論争における大きな道徳的介入
レオ14世は、初の回勅Magnifica Humanitasの中でAIを「武装解除」すべきだと呼びかけ、通常とは異なる直接的な言葉で人工知能をめぐる世界的な議論に踏み込んだ。この文書はローマで公表され、AIを狭い技術課題ではなく、文明そのものの試金石として位置づけている。レオは、この技術を支配、排除、死の道具へと変えてしまう制度から解放し、共通善に奉仕するものとして再配置しなければならないと主張する。
この介入の力は、用いられている語彙にもある。レオは、注意を引き、良心を目覚めさせ、人類を別の道へ導くのに十分な強さを持つ言葉が必要な局面だとして、あえて「武装解除」という表現を選んだと明言している。そのため、この回勅は倫理についての一般的な警告以上のものになっている。AI時代の争点を道徳的・政治的な観点から定義しようとする試みなのだ。
バチカンによる位置づけが重要なのは、これが教会の教えの中で周縁的な注記ではないからである。レオは5月15日にこの回勅に署名したが、これは1891年の回勅Rerum Novarum、すなわち近代カトリック社会教説の基礎文書の記念日にあたる。彼はこれによって、AIを、1世紀以上前に労働、権力、社会生活を変えた産業の激変と同じ文脈に置いている。彼は人工知能を、現代における「新しいもの」として提示し、それに新たな原則声明を必要とするほどの力があると見なしている。
自律型兵器からデータ抽出まで
この文書の批判は幅広い。原文によれば、レオはAI搭載の自律型兵器、健康データや遺伝データに対する収奪的なアプローチ、そして特許、アルゴリズム、デジタル・プラットフォーム、技術インフラ、データにおける支配の集中に言及している。これは注目すべき組み合わせだ。AIを単なる労働問題、軍事問題、あるいはコンテンツ問題としてではなく、共通の権力構造の一部として結びつけている。
その構造は厳しい言葉で描かれている。レオは現代の技術エリートを植民地征服者になぞらえ、特に構造的に脆弱で地政学的影響力が限られた地域における、新たな収奪の発想に警鐘を鳴らしている。彼の論点は、データ集約型のシステムが、デジタルというラベルの下で旧来の支配のパターンを再生産しうるということだ。この見方では、AIは単なるソフトウェアではない。システムを構築し所有する者と、それによって測定され、統治され、あるいは排除される者との非対称性を深めうる制度的な配置でもある。
ここでこの回勅は、より穏当なAI倫理論から離れている。透明性、バイアス緩和、自主的な安全策だけを中心に据えるのではなく、権力、所有、目的についてのより根本的な問いを投げかけているように見える。誰がAIシステムから利益を得るのか。誰がリスクを負うのか。誰が迂回されるのか。これらの問いは、バチカンの介入を企業コンプライアンスの言語よりも、政治経済に近いものへと位置づける。
「つくる」ことの意味をめぐる競合するビジョン
原文の中でも特に印象的なのは、レオが批判で終わらないことだ。彼は「つくる」という言葉も用いるが、その意味を組み替えている。彼のビジョンでは、つくることはコード、スタートアップ、プラットフォーム、工場に限られない。それは彼が「愛の文明」と呼ぶものを築くという、より広い呼びかけの一部であり、テクノロジーが人間を支配するのではなく、仕え、拡張する社会秩序を指す。
この区別は重要だ。なぜなら、AIをめぐる支配的な公共言説はいまだに、加速こそが真剣さの主な尺度だと想定しがちだからだ。より速くつくり、より早く展開し、より広く拡大する。レオの介入は別の基準を示している。システムは人間の尊厳、社会参加、道徳的責任を守っているのか、という基準だ。もし守れていないなら、技術的な洗練は正当化にならない。
ここには、判断を機関に外注したい組織への暗黙の警告もある。機械は最適化し、推薦し、分類し、標的化し、自動化できるが、この回勅は、それらの機能がいずれも人間の主体性を空洞化させるべきではないと主張しているように見える。求められているのは単純な意味での反テクノロジーではない。従属への反対だ。問題は道具が存在することではなく、その道具が、人々を自分たちの人生を形づくる意思決定から排除する論理に組み込まれうることにある。
なぜ今、この介入なのか
タイミングは重要だ。過去2年間で、AIをめぐる議論はより具体的になり、労働の混乱、軍事的自律性、集中的なインフラ、国境を越えたデータ抽出への懸念が高まっている。レオの回勅は、論点の重大さを引き上げるための語彙をもって、その瞬間に入ってきた。AIを社会教説と結びつけることで、彼は事実上、これはもはや技術者、経営者、規制当局だけに限定された専門的な会話ではないと述べている。
それは、AIガバナンスをめぐる議論の受け手を広げる可能性がある。宗教機関は技術標準を作らないが、標準が議論される際の公共的な道徳的枠組みに影響を与えることはできる。AIを「武装解除せよ」という呼びかけが記憶に残るのは、複雑な批判を一つの要求に圧縮しているからだ。すなわち、テクノロジーは人間の目的への説明責任なしに権力を蓄積してはならない。
原文が示すように、このイベントにAnthropicの共同創業者ダリオ・アモデイが参加していたことも、道徳的権威とフロンティア産業の権力が重なっていることを浮き彫りにした。バチカンは、信徒だけでなく開発者や経営者にも語りかけていることを明確に理解している。メッセージは、革新を止めるべきだということではない。道徳的な方向づけのない革新は、それが最も有能に見える瞬間にこそ危険になる、ということだ。
これから長く続く論争
レオの介入が直接政策を変えるかどうかは、まだ分からない。しかしそれは、AIガバナンスを狭いリスク管理に還元できないという見方に、重みを加えている。回勅で提起されている問題は、戦争、労働、搾取、所有、そして社会生活そのものの形にまで及ぶ。
それこそが要点なのかもしれない。産業革命は道具を変えるだけではなく、社会を再編する。Rerum Novarumの伝統を引きながら、レオはAIもそのカテゴリーに属すると主張している。中心的な問いは、もはや技術が印象的かどうかではない。それが取り巻く世界が、人間を以前よりも守り、力づけ、より完全に包摂するものになっているかどうかだ。
その意味で「武装解除」は、機械の知性そのものの否定というより、そのシステムを強制の道具に変えうる政治的・経済的な仕組みへの拒否である。この回勅は、AIの未来が工学だけで決まるわけではないことを思い出させる。それは、機関が守る覚悟のある価値によっても形づくられる。
この記事は Ars Technica の報道に基づいています。元記事を読む。
Originally published on arstechnica.com
