レオ14世の初の回勅、AIを道徳と政治の問題に変える

バチカンはAIを政策論争から社会教義へと引き上げた

レオ14世教皇は最初の回勅で、人工知能を権力、労働、真実、そして人間の尊厳をめぐる、より大きな議論の中心に据えた。提供された原文によれば、5月25日に発表されたMagnifica Humanitasは、AIを専門的な技術問題として扱っていない。むしろ、アルゴリズム的なシステムを、日常生活、社会関係、集団的意思決定を形づくる目に見えない基盤の一部として位置づけている。

この選択は重要だ。回勅は製品発表でも会見コメントでもない。人間社会の大きな変化をカトリック教会がどう解釈するかを示す、長く残る教導文書である。ここでは、レオ教皇はAIを、かつて制度に労働、権威、正義の再考を迫った産業革命級の大変動と同じカテゴリーに置いている。

原文はこの歴史的なつながりを明確にしている。回勅は、産業革命期の労働と産業資本主義を扱ったレオ13世の1891年文書Rerum Novarumを直接引用している。かつての社会危機を定義したのが工場と工業労働であったなら、この文脈での新たな「res novae」は、デジタル・プラットフォーム、アルゴリズム、自動化システム、そしてデータである。ここでのポイントは単なる類推ではない。AIがすでに人間の生活に対して十分な力を持つに至り、同等の道徳的応答を必要としている、ということだ。

AIはガジェットではなくインフラとして描かれている

提供資料の最も強い考えの一つは、AIを個別の道具ではなく、社会全体を横断するオペレーティング層として理解すべきだという点である。本文は、アルゴリズムが人々に何を見せるかを決め、何を読むかをふるいにかけ、仕事、情報、集団的選択を統べるプロセスに入り込んでいると描写している。この枠組みは、議論を新奇性から構造へと移す。

AIをインフラとして見ると、中心的な問いが変わる。もはやモデルが正確か、有用か、革新的かだけではない。注意、労働、社会組織を形づくるシステムが、人間の価値に対して説明責任を持つのかが問題になる。原文は、レオ教皇が、ますます不透明でありながら、ますます決定的でもあるシステムを通じて行使される権力集中に特に焦点を当てていると述べている。

これは明確な懸念だ。回勅は技術そのものを全面的に否定してはいない。原文では、教皇が技術を人間の創造性と歴史の一部として説明しており、本質的に悪だとは扱っていないことが明らかにされている。しかし同時に、現在の局面は規模と深さが異なるとも述べている。なぜなら、人類はいまや、意思決定、集合的想像力、社会生活そのものを広範囲に形づくれる道具を手にしているからだ。

「技術を武装解除する」が文書の核心概念

原文は、「技術を武装解除する」という表現を、回勅の広い意味を開く鍵として挙げている。この文脈でAIを武装解除するとは、開発を止めることでも、有益な用途の可能性を否定することでもない。技術システムが、人間の統制、社会正義、共通善を奪うような形で組織されるのを防ぐことを意味する。

これは重要な区別だ。教会を、単純な賛美一辺倒でも、単純な禁止一辺倒でもない位置に置くからである。議論はAIを止めるべきだというものではない。むしろ、AIは人間の尊厳の条件を強めるのか弱めるのかによって、制限され、方向づけられ、評価されるべきだということだ。提供資料では、回勅を貫く懸念として、真実、労働、平和、そして意思決定がアルゴリズム的論理へ移されることが挙げられている。

その結果、AIガバナンスは単なる技術問題ではなく、道徳的・政治的問題へと変わる。もしシステムが雇用、情報、公共生活における決定を行ったり形づくったりしているなら、モデル性能や革新の速度についての議論だけでは不十分だ。問うべき中心は、誰が権力を持ち、どのような条件で、何のためにそれを使うのかである。

集中した技術権威への警告

原文によれば、レオ教皇は少数のグローバルプレイヤーへの技術権力の集中を非難している。この懸念は、AIラボ、プラットフォーム、インフラ提供者をめぐる現在の広範な議論につながる。そうした主体の決定は、情報へのアクセス、労働市場、市民的言論を左右しうる。文書は、そのようなシステムが少数の主体に支配され、不透明な仕組みによって運営されるとき、人間の自由と社会正義には何が残るのかを問うているように見える。

この強調は、回勅に実際的な役割と象徴的な役割の両方を与える。バチカンを単なる技術倫理の論評者ではなく、AIの政治経済に踏み込む意思のある機関として位置づけているのだ。問題はシステムがどう振る舞うかだけではなく、誰がそれを作り、誰が所有し、誰の利益に奉仕するかである。

原文は、これがバチカンの戦略のより広い変化の一部だと示唆している。AIはもはや生命倫理の周辺にある狭い倫理問題として扱われていない。現代の権力がどのように機能するかを左右する中心的な力として解釈されつつある。これだけでも、回勅はカトリック圏を超えて重要だと言える。

大きな制度が、AI統治は利便性ではなく文明の問題だと主張している

Magnifica Humanitasが重要なのは、人工知能を生産性や新奇性の議論に還元することを拒んでいるからだ。提供された原文によれば、この回勅は、AIが社会生活の目に見えない構造を変え、尊厳、真実、労働、共通善について緊急の問いを生じさせる形で権力を集中させていると主張する。

それはバチカンを反技術の主体にするわけではない。技術進歩は何のためにあるのか、というより深い論争の当事者にする。レオ14世の初の回勅は、AI時代はシステムが何をできるかだけでなく、それが人間をより自由にし、より公正に扱い、共同の生活を共に統治する力を高めるかどうかで判断されるべきだと言っている。

• レオ14世の初の回勅は人工知能を中心に据えている。
• 文書は、現在のAI変革をRerum Novarumが扱った産業時代の社会問題と結びつけている。
• AIを、労働、情報、集団的選択を形づくる目に見えないインフラとして描いている。
• 回勅は、集中した技術権力と不透明な意思決定システムへの警告を発している。
• その核心は、AIを人間の尊厳と共通善へ向けて導くべきだという主張だ。

この記事はWiredの報道に基づいています。元記事を読む。