研究が明らかにするAI健康データの出所に関する憂慮すべきギャップ
脳卒中や糖尿病などの健康リスクを予測するために設計された人工知能モデルは、その出所が検証できないデータセットに基づいて構築されている可能性があることが、BMC Medicineに掲載された新たな研究で明らかになった。クイーンズランド工科大学（QUT）とオーストラリア医療サービスイノベーションセンター（AusHSI）の研究者らが主導したこの研究では、データセットと機械学習リソースを共有する人気プラットフォームであるKaggleでホストされている、広くダウンロードされた2つの健康データセットを調査した。この発見は、一部のAI駆動型臨床ツールの基盤における重大な欠陥を浮き彫りにしている。
125以上の査読付き研究で使用されたデータセット
問題の2つのデータセットは、データの出所、収集方法、実際の患者を代表するかどうかについてほとんど情報を提供していないにもかかわらず、125の査読付き研究で使用されていたことが判明した。QUT公衆衛生・社会福祉学部およびAusHSIの筆頭著者であるAlexander Gibson氏は、この発見に衝撃を受けたと述べている。「このようなものに出くわしたのは非常に驚きでした」とGibson氏は語る。「これらのデータセットは異常なパターンを示しており、その信頼性と臨床研究への適合性に深刻な疑問を投げかけています」
臨床への影響と特許引用
このデータに基づく3つの予測モデルは、臨床現場での使用の証拠を示していた。1つのモデルは医療機器特許で引用され、モデルは86のレビュー記事で参照されていた。これは、基礎データの出所に疑問があるにもかかわらず、これらのモデルが実際の医療判断やイノベーションに影響を与えたことを示唆している。
必須データ出所基準でゼロスコア
この研究では、予測モデル研究の透明性と完全性を評価する国際的に認知されたTRIPOD+AI報告フレームワークを用いてデータセットを評価した。データセットは必須データ出所基準で9点中0点を獲得し、その出所に関する検証可能な情報が完全に欠如していることを示した。Gibson氏は、これはジャーナル、開発者、臨床医にとって警告信号であるべきだと警告する。「出所不明のデータに基づく予測モデルは、臨床判断に使用されるべきではありません。信頼できるデータがなければ、出力は信頼できず、臨床医を誤解させ、患者に害を及ぼすリスクがあります」と同氏は述べた。
より強力な開示要件の呼びかけ
著者らは、ジャーナル、資金提供機関、データリポジトリがデータソースの開示要件を強化することを推奨している。また、さらなる悪用を防ぐために、2つのKaggleデータセットを削除することも提案している。これらのデータセットを使用した7つの論文は、信頼性がないとしてすでにジャーナルから撤回されている。この研究結果は、研究の完全性を確保するためのリソースを提供するCollection of Open Science Integrity Guidesも更新している。
医療におけるAIへの広範な影響
Gibson氏は、この問題はAIツールが医療で普及するにつれて、より広範な課題を反映していると指摘した。堅牢なデータ出所基準がなければ、欠陥のあるモデルを臨床現場に導入するリスクが高まる。この研究は、患者の転帰に影響を与える可能性のあるAIモデルを訓練する前に、データセットの厳格な検証が必要であることを強調している。
分野への提言
- ジャーナルは、AI予測モデルを使用する研究について、詳細なデータ出所情報を要求すべきである。
- 資金提供機関は、データ収集と共有の実践における透明性を義務付けるべきである。
- Kaggleのようなデータリポジトリは、データセットが最低限の出所基準を満たしていることを確認するための検証プロセスを実施すべきである。
- 臨床医は、データの信頼性に関する明確な証拠なしにAIツールを採用することに慎重であるべきである。
この発見は、AIと医療コミュニティへの警告の物語として機能し、医療におけるAIの約束は、これらのモデルを支えるデータが信頼できる場合にのみ実現できることを強調している。
この記事はMedical Xpressの報道に基づいています。原文を読む。
Originally published on medicalxpress.com
