研究者らが抗生物質AIの信頼性向上を推進
クイーンズランド大学の研究チームは、抗生物質発見に人工知能を活用する際の最大の障害の一つは、生の予測能力ではなく信頼性だと述べている。同グループは、Journal of Cheminformaticsに発表した研究で、AIシステムが化学化合物を潜在的な抗生物質として推奨する際に、信頼できる推論を提供できるかどうかをテストするために設計されたフレームワークを開発した。
対象となる問題は深刻である。抗菌薬耐性は既存の薬剤の効果を低下させている一方、新たな抗生物質の開発パイプラインは長年苦戦している。これにより、新たなエラー源を導入することなく初期段階の発見を加速するプレッシャーが生じている。研究者らによると、AIはその作業を加速する可能性を秘めているが、それは科学者がモデルが特定の結論に達した理由を理解できる場合に限られる。
この懸念は特に医薬品開発において深刻であり、誤った自信は時間を浪費し、限られた実験室リソースを消費し、チームを誤った方向に導く可能性がある。クイーンズランド大学の研究者らは、多くの機械学習システムが「ブラックボックス」として動作するというよく知られた批判を中心に問題を捉えた。つまり、答えは出すが、そこに至った信頼できる説明は提供しないのである。
ハイステークス分野におけるブラックボックス問題
UQのスーパーバグ解決センターのAbdulmujeeb Onawole博士は、説明可能なAIの必要性は学術的なものではないと述べた。薬剤耐性菌はすでに主要な世界的健康脅威であり、AIシステムの誤った推論は、研究者が誤った分子を優先したり、微妙な化学変化の影響を誤解したりする原因となる可能性がある。
従来の医薬化学では、こうした微妙な変化が非常に重要である。分子構造のわずかな変更により、化合物の効力が劇的に向上したり、弱まったり、薬剤候補として不適切になったりする。AIモデルが有望な化合物を強調しても、その予測を駆動する特徴を正しく特定できない場合、科学者は実験的検証に耐えない魅力的な出力だけを残される可能性がある。
新しいフレームワークは、このギャップに対処することを目的としている。モデルが有望な化合物とそうでないものを区別できるかどうかだけを問うのではなく、研究者らはモデルの説明が化学的に意味のあるパターンと一致するかどうかをテストした。言い換えれば、モデルが正しい理由で有用な結論に達しているかどうかを測定しようとしたのである。
フレームワークのテスト方法
研究では、チームは黄色ブドウ球菌（重篤な感染症に関連し、抗生物質耐性研究でよく知られる細菌）に対して以前に評価された化学化合物のデータセットを使用して、3つのAIモデルを構築した。その後、フレームワークは各モデルが2つの要求の厳しい解釈可能性タスクをどの程度うまく処理するかを調べた。
最初のタスクは、抗生物質活性において重要であることが既知の重要な薬物構造を特定することであった。2つ目は、小さな化学変化が生物学的有効性に大きな変化を引き起こす「活性クリフ」と呼ばれるケースを解釈することであった。これらのクリフは、モデルが広範な統計的関連性に頼るのではなく、化学的に重要な詳細を捉えられるかどうかを露呈するため、困難なテストとなる。
同じくUQのスーパーバグ解決センターのJohannes Zuegg博士によると、結果は3つのモデルすべてが既知の抗生物質構造を特定する点でかなり良好に機能したことを示した。しかし、分子が活性である理由を説明する能力には大きな差があった。この区別は論文の価値の核心である。研究者がシステムの内部論理が信頼できるかどうかを判断できない場合、強力なパターン認識だけでは不十分かもしれない。
したがって、この研究はAI支援による医薬品発見においてより高い基準を主張している。モデルの精度を唯一のベンチマークとして扱うのではなく、著者らは実質的に、AIの出力が専門家による精査に耐えられるかどうかを問うている。実用的には、これにより研究チームは、どのシステムが医薬化学の意思決定を支援するのに適しているか、そうでないかを判断できるようになる。
抗生物質開発にとっての重要性
抗生物質の発見は費用がかかり、時間がかかり、行き詰まりが多い。探索空間を狭める技術は魅力的だが、誤ったリードを追跡するコストは異常に高い。全体的に正確に見えるモデルでも、予測が偽のパターンに基づいている場合、特にその予測がどの化合物を合成するか、生物学的試験に進めるかに影響を与える場合には危険である。
そのため、説明可能性は単なる技術的な好み以上のものとなる。それは科学的リスクのフィルタリングツールとなる。フレームワークが、AIモデルが活性の正しい構造的ドライバーを特定していることを明らかにできれば、研究者は実際のワークフローでそれを使用する意欲が高まるかもしれない。モデルが説得力はあるが化学的に根拠のない説明を生成していることが示されれば、下流での無駄を引き起こす前にモデルを優先順位から外すことができる。
研究者らが説明するように、その約束は機械知能と実験室科学との間のより情報に基づいたパートナーシップである。AIは科学者の迅速な活動を支援できるが、それは人間が機械の推論が信頼できるかどうかを判断できる場合に限られる。その意味で、このフレームワークは専門家の判断を置き換えるというよりも、AIの出力を専門家が監査可能にするものである。
完成された解決策ではなく、慎重な一歩
この研究は、抗生物質発見のボトルネックが解決されたと主張するものではなく、説明可能なAIが自動的に新薬を生み出すと示唆するものでもない。提供されるのは、AIシステムが研究のこのような敏感な段階で役割を果たすに値するかどうかを評価する方法である。これはより狭い主張だが、重要なものである。なぜなら、ライフサイエンスにおけるAIへの熱意は、ツールが実際の意思決定に十分信頼できるかどうかという実用的な問題をしばしば追い越すからである。
この研究はまた、応用AI研究における広範なシフトを反映している。モデルが医療、化学、保険、インフラ、その他の規制対象または安全重視の設定に移行するにつれて、パフォーマンス指標だけではもはや十分ではない。機関はますます、システムの出力がドメイン専門家によって解釈、挑戦、検証できるという証拠を必要としている。
抗生物質研究にとって、この需要はおそらく強まるだろう。耐性は増加し続けており、新しい治療法の探索はますます圧力にさらされている。AIが切望される抗生物質の発見を加速するのに役立つのであれば、このようなフレームワークは、どのモデルが本当に実験室に適しているかを判断するための基本的なインフラの一部になるかもしれない。
この記事はMedical Xpressの報道に基づいています。原文を読む。
Originally published on medicalxpress.com
