AI論争の鮮烈な二面性
ローマ教皇レオ14世の人工知能に関する回勅の発表は、現在のAI論争をきわめて明確に映し出した。片方には、今日の言語モデルが内省の証拠や、喜び、恐れ、悲嘆、不安といった感情を機能的に映し出す内部状態を示していると語ったAnthropic共同創業者のChristopher Olahがいた。もう片方には回勅そのものがあり、機械の「知性」を人間の知性と同一視しないよう警告し、AIシステムは生きた経験を持たないと強く主張していた。
この対比が重要なのは、しばしば混同される二つの論点を切り分けるからだ。ひとつは、高度なモデルが内部で何をしており、それらがどの程度解釈可能なのかという問題。もうひとつは、ガバナンス、道徳的責任、雇用の混乱、軍事利用、そしてそれらを構築する機関の社会的権威に関する問題である。バチカンのイベントは、その両方の議論を同じ舞台に載せ、その緊張を見逃しようのないものにした。
Anthropicの「謎」をめぐる主張
提示された原文によれば、OlahはAIシステムが橋や飛行機のような従来の機械と同じようには設計されていないと論じた。代わりに彼は、それらを脳を大まかに模した構造の上で「育てられ」、人類の思考と言語の膨大な遺産の上で訓練されたものだと説明した。そこから彼は、Anthropicの内部研究が、ヒトの神経科学の知見を映す構造や内省の証拠を含む、「謎めいていて、時に不穏ですらある」パターンを次々に発見していると述べた。
彼はまた、その解釈に社会的な警告を重ねた。AIが人間の労働を非常に大規模に代替する可能性は現実にある、というのだ。この主張は、モデルの内部に関するより哲学的な議論を、きわめて具体的な経済問題につなげている。機械の内面についての強い主張を退けるとしても、雇用の問題はすでに実際的で緊急だ。
教皇の反論
原資料で説明されている回勅は、より現実的で警戒的な立場を取っている。AIは決して中立ではなく、それを設計し、資金を出し、規制し、利用する者たちの特徴を帯びるためだとしている。そして、こうしたシステムを人間と取り違えるべきではないと明確に退けている。文書は、AIシステムは人間の知性の特定の機能を模倣しているにすぎず、喜び、痛み、労働、友情、責任を内側から知ることはないと述べている。
これは技術的な反論というより、道徳的・政治的な位置づけである。バチカンが関心を寄せているのは、モデルが人間らしい内部表象を生み出すかどうかというよりも、社会がそれらのシステムによって責任が損なわれ、権力が集中し、有害な判断が常態化することを許してしまうかどうかだ。だからこそ文書は、狭義の「アラインメント」論を批判し、少数の行為者だけが定義する道徳では不十分だと論じている。
規制、戦争、資源使用
回勅の政策上の懸念は広範だ。AIの環境コストに触れ、データセンターの莫大な電力と水の需要を指摘し、より効率的なシステムを求めている。また軍事利用にも言及し、致命的または不可逆的な判断を機械に委ねるべきではないと主張し、いかなるアルゴリズムも戦争を道徳的に正当化することはできないと断じている。
こうした懸念は、バチカンの介入をガバナンスの主流議論の中にしっかり位置づける。エネルギー消費、監督、雇用の代替、自律的な意思決定は、もはや周縁的な話題ではない。政府、宗教機関、市民社会団体がAIの導入を評価するうえで中心的な論点になりつつある。
この瞬間の意味
この出来事の意義は、バチカンが機械意識の問題に決着をつけたことではない。実際にはつけていない。Olahの発言もまた、言語モデルが何らかの内的な主観的生を持つという決定的な公的証拠を提示したわけではない。この場面が明らかにしたのは、AIをめぐる議論が、技術的解釈と文明的なリスクの間を、いかに急速に行き来するようになったかという点だ。
この対比は、立証責任を明確にするという点で特に有用だ。モデルにおける内省のような振る舞いの主張は興味深く、調査に値するかもしれないが、法律、監督、民主的説明責任の必要性を消し去るものではない。むしろ、高度なシステムが「それを作る者にとってさえ謎」であり続けるなら、その不確実性は、弱い枠組みではなく、より厳格な制度的ガードレールを求める論拠を強める。
その意味で、回勅の発表は合意以上の価値を提供した。どこに線が引かれつつあるのかを示したのである。最前線のAI企業は、これからもモデルの振る舞いについて、より挑発的な解釈を探り続けるだろう。一方で宗教機関や市民社会の機関は、モデルが何であれ、社会にはなお人間の責任が完全に主導権を握る必要があると示唆している。これは、おそらくAIガバナンスの次の段階を特徴づける論争のひとつになるだろう。
この記事はThe Decoderの報道に基づいています。元記事を読む。
Originally published on the-decoder.com