急成長する臨床AIツールが法的審査に直面
カリフォルニアで新たに起こされた訴訟は、医療分野で最も急速に広がる人工知能アプリケーションの一つを、より厳しい法的・倫理的精査の対象にしている。複数のカリフォルニア住民が Sutter Health と MemorialCare を提訴し、AIベースの文字起こしシステムが同意なく診察を録音したと主張している。サンフランシスコの連邦裁判所に提出されたこの提案集団訴訟は、患者に対して、自分たちの医師-患者間の会話が記録され、診療現場の外へ送られ、第三者のシステムで処理されることが明確に通知されていなかったと訴えている。
この訴訟の中心にあるのは Abridge AI だ。これは、医療機関が医師と患者の会話を記録・文字起こし・要約し、臨床メモへ変換するために使う医療文書作成プラットフォームである。このツールは、医師の文書作業負担を減らし、業務効率を高めるとされる「AI scribes」と呼ばれる広い潮流の一部だ。病院やクリニックは、事務負担が医療従事者を圧迫し続けるなかで、この売り込みを受け入れてきた。
この訴訟は、自動記録そのものの是非を抽象的に問うものではない。むしろ、より狭く、しかし重要な問いを投げかけている。非常に機微な医療会話が、室内にいる医療チームだけでなく、人工知能プラットフォームによって処理される場合、どの程度の説明と同意が必要なのか、という点だ。
原告が主張していること
提供された報道で説明されている訴状によると、原告らは過去6か月以内に Sutter と MemorialCare の複数施設で診療を受けた。その際、医療スタッフが Abridge AI を使用し、訴状はそれが機微な医師-患者間コミュニケーションを記録・処理したと述べている。原告らは、自分たちの会話が録音され、外部で処理されることについて明確な通知を受けていなかったと主張している。
訴えは、たまたま含まれた情報にとどまらない。訴状によれば、録音には病歴、症状、診断、服薬、治療に関する話し合い、その他機密性の高い健康情報が含まれていたという。実務上、この訴訟は当該システムの利用を、単なる内部の業務フローの選択ではなく、最も保護されるべき個人情報カテゴリーの一部が関与するデータ処理イベントとして位置づけている。
この区別は、訴訟の進展に伴い重要になる可能性が高い。医療プライバシーは、患者の期待だけでなく、重なり合う法的義務にも左右される。AIシステムが診察室での発話を文字起こし、要約、第三者処理という連鎖に移すとき、機微情報が扱われる技術的・契約上の接点が増える。報道を要約すると、原告側の立場は、患者にそのことが明確に伝えられるべきだった、というものだ。
病院とベンダーは急速に導入を進めている
この法的争いは、AI scribes が大規模医療システムに急速に広がっている時期に起きた。報道によれば、Abridge のソフトウェアは Kaiser Permanente、Mayo Clinic、Duke Health など多くの組織で導入されている。こうした規模の大きさが、この訴訟を名前の挙がった2つの医療機関だけにとどまらない重要事案にしている。通知や同意の基準を明確化する判決や和解は、被告側だけではなく、はるかに広い市場に影響を及ぼしうる。
Sutter Health は訴訟を認識していると述べた。ソース記事で引用された声明の中で、広報担当の Liz Madison 氏は、同機関は患者のプライバシーを非常に重視しており、患者情報の保護に尽力しているとし、臨床環境で使われる技術は適用法令に従って慎重に評価・導入されていると付け加えた。MemorialCare は係争中の訴訟にはコメントしないとしている。
また報道は、この記事を書いた記者自身も、過去2年間に北カリフォルニアの Kaiser 施設で複数回診療を受ける際に Abridge の使用に同意していたと伝えている。この点は、説明の実務が施設や状況によって異なる可能性を示しているため重要だ。したがって、浮かび上がる争点は、AI scribes を合法的に使えるかどうかだけではなく、導入する各医療機関が、患者が実際に理解できる同意・説明のプロセスを構築しているかどうか、ということかもしれない。
医療AIをめぐるより大きな緊張
この訴訟は、医療における二つの強い力がぶつかる地点にある。一方には自動化の魅力がある。臨床医は診療記録作成に多くの時間を費やしており、会話を構造化されたメモに変えるAIツールは、その負担を軽減すると約束する。支持者は、事務作業を減らせば医師がより直接的に患者ケアに集中できるようになると主張する。
他方には、医療上の会話が人々にとって最も私的なやり取りの一つだという長年の期待がある。患者は診察室で、他の場所では話さないような情報を明かすことが多い。たとえ効率が向上したとしても、第三者のAIシステムの導入を、その信頼関係のあり方を大きく変えるものと受け取る患者は少なくないだろう。特に、そのシステムが発話を録音し、特定可能な健康情報を処理し、機械生成の出力へ変換する場合はなおさらだ。
この訴訟は、運用上の利便性と、患者による十分な理解との間にあるギャップを示している。病院は AI scribes を管理インフラと見なすかもしれない。患者はそれを診察室にいる新しい聞き手として経験するかもしれない。説明実務が成熟する前に技術が当たり前になれば、法的紛争は避けがたい。
この訴訟が大きな影響を及ぼしうる理由
- すでに大規模な医療ネットワークで広がっているAIのカテゴリーを対象にしている。
- 同意と通知に焦点を当てており、基盤ソフトが異なっても広く適用されうる論点である。
- AIツールが有効化された後、機微な医療上の発話がどのように伝送・処理されるかという問題を提起している。
- 環境記録システムを使う前に、医療提供者により明確な患者向け説明を標準化させる可能性がある。
医療業界へのメッセージは明快だ。AI文書作成は効率的かもしれないが、保護対象の医療情報が関わる以上、効率だけでは十分な答えにならない。患者に臨床環境での録音と自動処理を受け入れてもらうなら、提供者は同意が想定でも、埋もれていても、暗黙でもなく、明確に得られたことを示す必要がある。その基準が、医療における次のAI導入段階を定義する条件の一つになるかもしれない。
この記事は Ars Technica の報道に基づいています。元の記事を読む。
