好意的なAIの物語が証拠を先走った
ここ一週間でもっとも広く共有されたAIの逸話の一つは、余命わずかな犬、個別化mRNAワクチン、そしてOpenAIの著名な幹部たちがそれを医療の未来を垣間見るものとして称賛する、という内容だった。しかしThe Decoderによれば、中心となる科学的主張は依然として未証明であり、反発はAIの物語がいかに簡単に証拠を追い越してしまうかを示す格好の例になっている。
この話の中心にいるのは、オーストラリアのAIコンサルタント、Paul Conynghamだ。彼の犬Rosieは治療不能の肥満細胞がんを患っていた。報道によると、ConynghamはChatGPT、AlphaFold、Grokなどのツールに加え、ゲノム解析や研究者たちの協力を得ながら、可能な治療法を探った。OpenAIのCEOであるSam Altmanと、同社の科学担当バイスプレジデントKevin Weilは、この話を公に増幅した。WeilはこれをAIで加速する個別化医療の一端と説明し、Altmanはその週で「いちばんクールな会議」だったと述べ、この取り組みが会社になる可能性を示唆した。
欠けていたのは、そのワクチンが効いたという証明だった
中心的な批判は、AIがプロセスで一切役割を果たさなかったということではない。問題は、公開された語り方が、入手可能な証拠では裏付けられない治療成功を示唆していたことだ。The Decoderによれば、AltmanもWeilも、個別化ワクチンが実際に効いた、あるいはRosieのがんに何らかの違いをもたらしたという証拠はないことに触れていなかった。
この見落としが重要なのは、Rosieが同時にPD-1阻害薬、つまり承認済みの免疫療法を受けていたからだ。報道によれば、批評家のEgan Peltanは、改善が見られたとすれば最もありそうな説明は従来の薬であり、AI支援のワクチン設計ではないと主張した。記事ではPD-1阻害薬を、利用可能ながん免疫療法の中でも最も効果的なものの一つとして説明している。
要するに、この話はAIが情報整理や標的探索、あるいは既存治療への案内に使われることを示している可能性はある。しかし、それは、チャットボットの案内で作られた特注ワクチンががんを治した、あるいは病状を実質的に変えたという証拠とは、はるかに限定的で、ドラマ性も低い主張だ。
AIが何をしたか、そして何を示していないか
The Decoderの報道は、よりニュアンスのある解釈を許している。Conynghamは、チャットボットが最初にPD-1へ導いたとも述べている。もしそれが事実なら、話のバイラル版が新規性や医学的検証の度合いを誇張していたとしても、AIが彼の進んだ道筋に寄与したことになる。
まさにこの点で、多くのAIストーリーは崩れる。AIを研究補助として使うことと、AI生成の介入が成功結果をもたらしたと示すことの間には、実際の違いがある。前者はもっともで、しかもますます一般的だ。後者には、精査に耐える証拠が必要だ。Rosieの件では、提示された報道によると、その基準は満たされていない。
The Decoderが引用したPeltanの批判は、とりわけ辛辣だった。彼はこの件を「AGI真信者のためのストーリーテリング」と呼び、「ベンチャー資金を探す物語」と評した。この言葉は、なぜこの出来事が強い共感を呼んだのかをよく表している。問題は一匹の犬だけではない。感情に強く訴える逸話が、証拠が揃う前に、プロダクトと市場の運命を示唆するために使われるという、より広いパターンなのだ。
この反発がAI業界にとって重要な理由
この出来事は、AI企業が世間の信頼、規制上の余地、投資家の熱意を支えるために、最も説得力のある物語を探している時期に起きた。医療や生物学が特に魅力的なのは、最先端モデルを人間の切実な利害と結び付けられるからだ。だがそれは同時に、誇張の代償が高いことも意味する。
上級幹部が不確実性を十分に示さないまま話を公に持ち上げると、着想と証明の区別を曖昧にしてしまう。医療では、それが特に有害になり得る。絶望した患者、ペットの飼い主、投資家が、AIトップの熱意を「すでに検証済み」のサインと受け取ってしまうからだ。
The Decoderによれば、Conynghamはその後、手順を詳細に記録し、その手法をオープンソースとして公開した。これにより、実際に何が行われたのかを他者が評価しやすくなるかもしれない。しかし、オープンであることだけでは、有効性という核心的な問いは解決しない。重要なのは、物語としての整合性よりも証拠だ。
AI医療の主張への警鐘
Rosieの話は、AIが医療発見に役立たないことを示しているわけではない。むしろ逆のリスクを示している。研究を整理するというAIの実際的で有用な役割が、結果が確立される前に、画期的治療の主張へと膨らんでしまうのだ。これは技術業界では見慣れたパターンだが、医療は消費者向けソフトウェアほど寛容ではない。証明より先に物語が走ると、その代償は大きい。
提供されたソース資料に基づく、この出来事の最も強く、かつ控えめな言い方は次のとおりだ。あるAIコンサルタントが、いくつかのAIツール、ゲノム解析、研究者との協力を用いて、犬のための可能な治療法を探った。別途、その犬は承認済みの免疫療法薬を投与された。犬は良くなったが、この記事には、その個別化ワクチンが原因だった証拠はない。
それでも興味深い話ではある。ただ、多くの人が共有したような奇跡の物語ではない。そして長期的には、この二つを区別することが、AI業界にとって最も重要な信頼性テストの一つになるかもしれない。
この記事はThe Decoderの報道に基づいています。元記事を読む。
