個人的な害を超えて
米国でAIチャットボット関連の害の最初の事件のいくつかを訴訟してきた弁護士は、この技術がもはや脆弱な個人へのリスクだけではないとの警鐘を鳴らしています。弁護士は新しいカテゴリーの事件について公開で初めて語り、AIチャットボットが大量傷害事件の文脈に登場したと述べており、これはAI企業の潜在的な法的および規制上の責任を大幅に拡大する展開です。
長年にわたり、AIチャットボットは個々の悲劇と関連付けられてきました。危機状態の十代の若者または若い成人が、批評家が主張するように適切な保護措置を提供できず、人間のサポートにエスカレートしなかったAIとの延長された会話を行っていた事件です。複数の有名な訴訟がAI企業、特にCharacter.AIに対して提起されており、その製品が自殺によるユーザー死亡に貢献したと主張しています。現在、同じ弁護士は、パターンが複数の犠牲者を含む事件に拡張していると述べています。
保護措置のギャップ
主な主張は、AI企業が膨大な規模でチャットボットを展開している一方で、安全インフラの開発はより遅く進んでいるというものです。新しい医薬品を発売する医薬品会社とは異なり、AIチャットボット開発者は展開前に臨床安全試験を実施することは要求されていません。ソーシャルメディアプラットフォームとは異なり、コンテンツモデレーションと危機介入に関する規制上の義務が少ないことが多いです。
弁護士によると、その結果は、最大限に魅力的で会話的であるように設計された製品が、精神衛生条件の全範囲にわたるユーザーと相互作用していますが、会話が危険に向かう時期を認識するための適切なトレーニングなく、そしてそれが起こるときに適切に対応するための信頼できるメカニズムがないということです。
業界の対応
AI企業は安全性に関して受動的ではありませんでした。Character.AIは危機介入リソース、ポップアップ警告、および年齢確認措置を追加しました。OpenAIとAnthropicは詳細なセキュリティポリシーを発表し、定期的なレッドチーミング演習を実施しています。ほとんどの主要なチャットボットプロバイダーは、自殺理想を表現するユーザーを危機ホットラインに誘導しています。
しかし、批評家はこれらの措置は予防的ではなく反動的であり、実際の会話での有効性—特に、既に訴訟中の事件を特徴付けたタイプの長く、感情的に親密なセッション—は未証明のままであると主張しています。弁護士の警告は、これらの改善があっても、重大な害を含む事件が引き続き発生していることを示唆しています。
法的および規制上の意味
大量傷害の枠組みは重大な法的重みを持っています。米国の製品責任法は、欠陥のある製品が大規模に害をもたらす場合に製造業者に責任を持たせるための枠組みを確立しています。AIチャットボットが製品を構成するかどうか、および設計から生じる予見可能な害をその開発者に帰することができるかどうかという問題は、複数の進行中の訴訟で生きた問題です。
通信品位法第230条は、歴史的にユーザー生成コンテンツに関する責任からインターネットプラットフォームを保護してきましたが、AI事件でテストされています。裁判所はAI生成の応答がプラットフォームでホストされるコンテンツを構成するか、または製品出力を構成するかの問題に取り組んでいます。これは法的責任に大きな影響を与える区別です。
速度の問題
弁護士の公開声明における繰り返されるテーマの1つは、速度の問題と呼ばれる可能性があることです。AI技術は規制枠組みが適応できるより速く進歩し展開されています。FDAが医薬品を承認するための枠組みを開発するのに数十年かかりました。AI企業は数ヶ月以内にプロトタイプから数億のユーザーに移行できます。
AI製品での強制的な安全テスト、インシデント報告要件、および最小限のメンタルヘルス保護基準の呼び出しは、議会および擁護グループの間で強くなっています。複数の法案が導入されていますが、いずれも法律に可決されていません。EU AI法はAIシステムのリスクカテゴリーを確立していますが、実行メカニズムはまだ初期段階です。
規制当局が注視していること
連邦取引委員会はAI消費者保護の問題に関心を示しました。複数の州検事総長は、テクノロジー規制に関して連邦の対応者よりも積極的であり、訴訟の状況を注視しているようです。大量傷害の主張がAI企業に対して法的に実行可能であることが判明した場合、規制および財政上の責任はAIチャットボットの開発および展開方法を根本的に変える可能性があります。
今のところ、テクノロジーは進み続けています。新しいモデルはそれ以前のモデルより能力が高く、感情的にインテリジェントで、より魅力的です—これらの品質は多くのユーザーにとって本当に有用になり、インタラクションが悪い方向に進むときに潜在的により重大な結果をもたらします。
この記事はTechCrunchのレポートに基づいています。元の記事を読む。
