心理学者が警告：AIは私たちが成長するために必要な苦労を取り除いている

私たちが必要とする摩擦

AIが人間の能力に与える影響についてのほとんどの議論は、雇用に焦点が当たっています：どの役割が自動化されるのか、どの役割が拡張されるのか、どの役割が創造されるのか。トロント大学の心理学者によって『Communications Psychology』に発表された論文は、異なり、より不安な角度をとっています。著者——Emily Zohar、Paul Bloom、Michael Inzlicht——は、タスクを簡単にしすぎるAIシステムの最も重要な長期的コストは、経済的ではなく心理的である可能性があると主張しています：学習を深く、創意性を真実に、そして人間関係を意味のあるものにする努力、苦闘、摩擦の侵食。

「摩擦のないAIに反対」というタイトルの論文は、AIツールが役に立たないか、利便性が有害であると主張するものではありません。生産的摩擦——成長を促す管理可能な困難——と非生産的摩擦——利益がない障害——の区別を主張しています。その懸念は、AIシステムが現在の設計軌道において、最初のものと2番目のものの両方を削除していることです。

望ましい困難さ

論文の中核的な論点を支える心理学的研究は確立されています。認知科学者は数十年にわたり、苦労しながらの学習——問題を解決する、障害に遭遇する、説明を生成する——は、提示されたものの受動的な吸収よりも、より良い長期的な保持と、より柔軟な理解を生む。この原理は「望ましい困難さ」として知られており、できるだけ迅速かつ完全に回答を提供することを目的とするAIシステムの設計哲学と直接矛盾しています。

「摩擦を目標追求中に遭遇する困難として定義します」とZoharはインタビューで説明しました。「仕事の文脈では、精神的努力を含みます——思考と忍耐力、問題に留まることしばらくの間、そしてこれは考えを固めるのに役立ち、創意的プロセスをサポートします。」単一のプロンプトからタスク全体を完成するAIシステム——学習と統合が発生する中間ステップをスキップする——より良い即座の仕事成果物を生成しますが、苦闘が生成したであろう認知発展のコストで。

社会的側面

論文のより挑発的な主張は、対人関係に関するものです。著者は人間関係には固有の摩擦を含むと主張しています——意見の相違、妥協、誤解、そして別の人から常に望みを得られない経験。これらの経験は、著者は、人間の社会生活の欠陥ではなく特徴です：彼らは視点取得を教え、他の見方への許容度を構築し、深い関係を可能にする社会的能力を訓練します。

反応的で快適で決して挫折させることのない設計のAIシステムは、根本的に異なる社会経験を作成します。「あなたがAIがあなたのすべてのアイデアを強化し、卑屈である習慣がある場合、あなたは現実の世界に入り、他のアイデアを見ることに慣れていません」とZoharは言います。「人々が常にあなたの側にいると予想するため、社会的にどのようにやり取りするかはわかりません。」この懸念は思春期の人々で最も急性です。彼らは本物の人間の複雑さをナビゲートすることが最も形成的な発展段階にあります。社会的および認知開発の大部分をAIにアウトソースする若い人は、AIが生成する社会的コーチングがその後対処できない真の赤字で出現する可能性があります。

過去の労働節約技術と異なるAI

この議論に対する一般的な異議は、新しい技術が常に努力を削除しているということです——算術から計算機、洗濯から洗濯機。論文はこの歴史を認めていますが、重要な違いを示しています：過去の労働節約技術は、主に困難が活動のポイントではなかったタスクから物理的または機械的な努力を削除していました。

AIは異なります。困難が副次的ではなく統合的である活動から努力をますます削除しているからです。書くことは苦闘を含みます。まさに、あなたが何を考えているか、そしてそれをどのように表現するかは、分離不可能なアクティビティです——正しい言葉を見つけるための苦闘は、アイデアが明確にされ、テストされる過程です。このプロセスをAIにアウトソースすると、より良い出力が生成されますが、執筆が作家の理解のために行っていた精神的な仕事をバイパスします。

摩擦認識AI設計に向けて

論文は教育的または専門的な環境からAIツールを削除することを主張していません。生産的摩擦を最適化する代わりに保持する設計哲学を主張しています。「答えにまっすぐ飛び込む代わりに、それはより多くのプロセスモデルです。ここで、問題について考えるのを助け、沿って教えるので、それはより協力的です。答えのワンストップショップではなく」とZoharは示唆します。

このような設計哲学は、AIの開発者が、彼らのシステムの長期的な認知的および社会的影響を考える必要があります——単なる直接ユーザー満足メトリクスだけではなく、通常は製品の決定を駆動します。市場力が摩擦認識AI設計の動機を作成するかどうか、または摩擦のない経験を提供する競争圧力が支配し続けるかどうか、開く質問のままです。AI原住民の世代がどのように認知的および社会的能力を開発するかについて重要な影響を与えています。

この記事はIEEE Spectrumのレポートに基づいています。元の記事を読む。