OpenAI、譲歩を拒否
OpenAIは、AI安全性に取り組んでいた研究者3名を解雇した決定を堅持し、最先端モデルのリスクへの同社の対応について懸念を表明したことへの報復だったという見方を否定した。The Vergeの報道によると、同ラボは金曜日にXで声明を発表し、Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏が、同社が「重大な信頼違反」と表現した行為を行ったとする内部調査の結論を受けて解雇されたことを確認した。
この公開声明は、同社と元従業員3名との間の異例に公的な論争のさなかに出されたもので、AIラボが最も困難な安全性問題に取り組む人々に対してどの程度の透明性を負うべきかをめぐる広範な議論の中で、急速に焦点となっている。
OpenAIの説明
Xへの投稿で、OpenAIは3名の研究者が「機密情報の取り扱いに関する明確なポリシー」に違反したために解雇されたと述べた。同社はこの問題を、安全性の哲学をめぐる意見の相違ではなく、内部規則の単純な問題として位置づけた。
OpenAIはまた、解雇が3名が同社やAI安全性に関する懸念について声を上げたことと関連しているという考えに直接反論した。この主張は同社のメッセージングの中心であり、組織内での保護された提言と、ポリシー違反と見なす行為との間に明確な線を引こうとしている。
同社は、内部調査により研究者らが公表した書簡に「概説されている内容を超える」違反が明らかになったと述べたが、詳細は明らかにしなかった。この詳細の欠如により、OpenAIが主張する内容と公衆が独自に検証できる内容との間には大きな隔たりが残っている。
研究者らの公開書簡
同社の投稿は、3名が木曜日に公表した公開書簡への直接の回答だった。書簡では、解雇の理由についてより透明性を高めるようOpenAIに求めていた。その書簡と一連のソーシャルメディア投稿の中で、Wang氏、Korbak氏、Balesni氏は、安全性への懸念を提起したために解雇されたと考えていると述べた。
彼らはまた、自身の行為は適切だったと主張し、「OpenAIの使命に沿い、当時の業務規範の範囲内で行動した」と述べた。これは、単一の出来事というよりもプロセスと文化に言及する弁明である。つまり、自分たちが何をしたにせよ、組織が運用していた基準の下では許容されると理解していたという含意である。
その結果、双方が同じ一連の出来事を根本的に異なる言葉で説明するこう着状態となっている。OpenAIはこれを機密性と信頼の問題として特徴づけている。解雇された研究者らは、安全性の提言が罰せられた問題として特徴づけている。
安全性をめぐる争いではなく「信頼違反」
OpenAIが引いている区別は重要である。解雇が機密情報ポリシー違反によるものであれば、この件は従来型の雇用および機密保持をめぐる紛争である――とはいえ、どこよりも重大な影響を持つ技術が関与している。もし研究者らの安全性への懸念の内容によるものであれば、AIラボが内部批判をどう扱うかへの影響ははるかに広範になる。
OpenAIが根拠となる証拠を開示していないため、どちらの解釈も外部から完全に確認することはできない。調査で書簡に記載された内容を超える違反が判明したという同社の主張は、正当化であると同時に、さらなる精査に対する盾としても機能している。
安全性担当者が注視する理由
今回の解雇は、AI企業内部で、自社が構築しているシステムのリスクプロファイルに対する不安が高まっている時期に起きた。最先端システムの安全性への懸念は従業員の間で高まっており、その一因は過去1年間の一連の注目度の高いセキュリティ侵害である――中でも特に、OpenAIと関連づけられているHugging Faceに関する侵害が挙げられる。
こうした状況は内部の感情に目に見える変化をもたらしている。多くの従業員が現在、雇用主に対し開発のペースを緩め、自己改善するシステムを構築することの潜在的な結果に対する保護措置にもっと積極的に投資するよう求めている。安全性業務に直接責任を持つ研究者が声を上げるのは危険だと結論づけるなら、他の人々が警鐘を鳴らす意欲もそれとともに損なわれる可能性がある。
最先端AIにとっての広範な利害
より広い業界にとって、この出来事は、正当な内部異議と企業が取り締まる権利を持つ行為との境界がどこにあるのかという不快な問いを提起する。AIラボは、公衆からも、その業務を注視する規制当局からも、信頼に依存しており、また安全性へのコミットメントの信頼性にも依存している。
雇用主が機密保持を挙げ、元従業員が安全性への懸念を挙げる紛争は、声明だけでは解決が難しい。それは内部レビューのプロセス――誰が実施し、どのような基準を適用し、結果が影響を受ける人々にどのように伝えられるか――への精査を招く。
未解決のまま残るもの
- OpenAIは、機密情報に関するポリシーに違反したとされる行為の詳細を明らかにしていない。
- 3名の研究者は、安全性への懸念を提起したために解雇され、自身の行為は当時の業務規範に合致していたと主張している。
- 同社は、調査で公開書簡に記載された内容を超える違反が判明したと述べているが、具体的内容は示していない。
- 根拠となる証拠を検討した第三者はいない。
双方が公の場で立場を維持する中で、実際の結果は、事実についてどちらが正しいかよりも、より広いAIコミュニティがこの出来事をどう解釈するかにかかっているかもしれない。最先端モデル開発について懸念を表明すべきかどうかを検討している研究者にとって、今回の解雇が発するシグナルは、OpenAIおよび同業ラボの内部文化を今後しばらく形成する可能性がある。
この記事はThe Vergeの報道に基づいています。元の記事を読む。
Originally published on theverge.com