AIへのアクセスが人々の「わからない」と言う意欲をほぼ消滅させる

AIへのアクセスが消し去る小さなフレーズ

不確実性を認めることは、利用できる最も安価な知的ツールの一つだ。「わからない」と言うのは何のコストもかからず、多くの誤りを防ぐ。新たな研究群は、言語モデルが利用可能であるというだけで、そのツールが静かに無効化されていることを示唆している。3,132人の参加者を対象とした5つの実験で、研究者たちは、AIの助言を参照できる人々が判断を保留する意欲をほぼ完全に失うことを発見した。しかも、AIが意図的に、そして確実に信頼できない設定においてさえ、そうだった。

この研究は2026年にMarcoccia、Quattrociocchi、Capraroによるものとされ、そこに描かれるパターンは際立っている。ある実験では、参加者が回答を拒否した質問の割合は、AIへのアクセスがない場合は44%だったが、ある場合はわずか3%に落ち込んだ。彼らははるかに多く回答した。そしてはるかに少なく正解した。

実験はどのように構築されたか

設計は重要だ。なぜなら、この行動に対する最も好意的な説明を排除するからである。研究者たちは、人々が有能なアシスタントに賢明に頼るかどうかをテストしたのではない。アシスタントが自信満々に間違っているときに何が起こるかをテストしたのだ。

モデルを打ち負かすために選ばれた質問

チームは、選択したモデルであるStep 3.5 Flashがほぼ常に間違える質問を選んだ。これらは映画の細かな視覚的ディテールに関するものだった。例えば『ベッカムに恋して』のチームユニフォームの色などである。著者らは、そのような細事はオンラインテキストにほとんど現れないため、ハルシネーションの格好の標的になると指摘する。モデルには検索できるものがほとんどなく、捏造する余地が十分にあるのだ。

この設定が単に壊れたツールをテストしているのではないことを確認するため、研究者たちはGPT-5.5、Claude 4.6 Sonnet、Gemini 3.5 Flashが他のほとんどの質問を正しく処理することも観察した。ただし、より難しい質問では依然としてつまずいた。重要な点は、AIの助言がほとんど間違っていたため、参加者が示した従順さは、信頼できる道具への合理的な委任として位置づけることができないということだ。

より多くの回答、より少ない正解

研究1aと1bでは、参加者は回答する前にAIに尋ねるかどうかを自分で決めることができた。AIが利用できない対照条件では、彼らはそれぞれ36%と44%の質問で判断を保留した。AIが利用可能になると、これらの棄権率は6%と3%に崩壊した。

研究2では、2つ目の測定値である自信が追加され、このセットの中でおそらく最も居心地の悪い結果が生じた。

• AIへのアクセスがある場合の自信は100点満点で75.9点に達し、ない場合の29.6点と比較して約2.5倍高かった。
• 同じ比較で、正解は27.6%から10.0%に減少した。
• 全研究を通じて、金銭的インセンティブのない参加者でAIにアクセスできた者は9.2%の確率で正解したが、AIなしでは27.5%だった。

言い換えれば、人々はAIを手元に置いてより多くの質問に回答し、正解率はおよそ3分の1になった。研究者たちは研究2におけるこの変化を、3つの同時進行の動きとして特徴づけている。判断の保留はほぼゼロに低下し、自信は急上昇し、正確さは低下した。確信と正確さは反対方向に動いたのだ。

能力なき自信

この組み合わせは人間の心理学では馴染み深いものである。最も知らない人が最も確信を抱くことが多い。しかしここでは、長年培われた専門知識から生じるのではなく、ツールによってオンデマンドで誘発されているように見える。参加者たちはAIへの自信を報告していたのではなく、研究者たちがほとんどの場合間違うように仕組んだ助言に触れた後に下した、自分自身の回答への自信を報告していたのだ。

この力学は、なぜこの効果が実験室を超えて追跡する価値があるのかを説明するのに役立つ。現実世界のAIアシスタントは、情報が乏しく、不明瞭で、ほとんど記録されていない場所でこそハルシネーションを起こしやすい。それはまさに、この研究がモデルを誤りに誘い込むために用いた条件と同じである。流暢さと事実性の間のギャップは均等に分布しているわけではない。それはまさに、人の不確実性が通常最も高くなる領域に集中している。

インセンティブは助けになるが、問題を解決しない

研究2から4では金銭が導入された。参加者は正解ごとに10セントを獲得し、不正解ごとに10セントを失い、「わからない」と言った場合は何も受け取らなかった。この採点方式は、相対的に見て棄権を真にコストの高いものにする。それでも研究者たちは、誤りに対するペナルティ構造が人々を無知を認める方向に押し戻すかどうかを知りたかった。

彼らは、金銭的インセンティブが棄権への意欲を高めるが、AIの利用可能性がその効果を弱めるという仮説を事前登録した。入手可能な知見の説明は混合した方向を示している。インセンティブは参加者がAIの助言を求める頻度を確かに減らし、研究者たちはそれを有益だと述べているが、治療法ではない。即座の答えの引力は、推測に反対する直接的な金銭的議論を生き延びるように見える。

依然として不確実なこと

研究者たちは、人々がAIの出力に従う一般的な傾向を依然として認めているが、自分たちの結果の境界が証明されていないことについては率直である。棄権の同じ崩壊が、映画のトリビア以外、つまり医学、法律、工学、あるいは日常的な事実問題においても同じほど強く当てはまるかどうかは未解決の問いである。一部の領域では、「わからない」と言う本能を保つのに十分な警戒心が活性化する可能性もある。また、利害がより高く、回答がより重大に感じられる場面で効果がより強い可能性もある。

この研究が確立しているのは、注目に値するメカニズムである。答えが存在することが、そうでなければ答えを持たないことを認めたかもしれない人の心理を変えるのだ。コストは測定可能である。AIが同席する中で、参加者たちは正確さの大部分を自信の大部分と引き換えにし、常に正直である唯一の答えを諦めたのだ。

この記事はThe Decoderの報道に基づいています。元の記事を読む。