AIで詐欺師の時間を逆に利用する
人工知能は多くのオンライン詐欺を加速させている一方、詐欺を運営する者を妨害する道具にもなりつつある。拡大するサイバー犯罪対策では、会話型AIがもっともらしい標的を装い、詐欺師を時間のかかる電話やオンライン交流へ誘導しながら、活動に関する情報を収集する。
オーストラリア企業Apateはこの戦略に取り組む組織の一つだ。同社は過去2年間、電話詐欺師をAIボットへ転送し、金銭や機密情報を渡さずに会話を続けさせるシステムを開発してきた。発想は単純で、合成された被害者を説得するための1分は、詐欺師が現実の人に接触するために使えない1分となる。
大規模な詐欺活動は自動発信や大量メッセージに依存することがあるため、この発想は重要だ。説得力のある一つの会話が詐欺ネットワークを消滅させるわけではないが、ネットワークを困難にしている効率を妨げる可能性がある。また、銀行、通信事業者、捜査機関が活動中のキャンペーンを認識するための情報も生み出せる。
説得力はあるが無防備ではない標的を作る
Apateの創業者兼CEOであるDali Kaafarは、詐欺師の視点から「完璧な被害者」を作ることが目標だと説明する。つまり、やり取りを続けられるほど説得しやすく見えるが、実際には詐欺に遭わない標的だ。ボットは、支払いや口座情報などが手に入りそうだという希望を相手に与え、注意を引きつけ続ける。
同社によれば、同社のプラットフォームは銀行に利用され、通信会社の支援を受けており、約35万のボットを運用している。Kaafarによると、ボットは電話に応答するだけでなく、詐欺チャットグループに入り、テキストメッセージにも返信できるため、遅延と情報収集の手法を複数の経路に広げられる。
システムはさまざまな性格、言語能力、ユーザープロフィールを使い、返答が反復的になったり簡単に見抜かれたりしないようにする。WhatsAppを使う人格もいれば、使わない人格もいる。電話に出るものもあれば、後でかけ直すと伝えて切るものもある。この変化が戦術の中心だ。詐欺対策ボットは議論に勝つ必要はなく、潜在的な被害者から詐欺師の注意をそらす間、信頼できる存在であり続ければよい。
情報収集は時間稼ぎと同じくらい重要
時間を浪費させることはモデルの一部にすぎない。Apateは、詐欺URL、マネーミュール口座、銀行情報など、詐欺師に関するリアルタイム情報を25万件以上集めたとしている。詐欺活動は、電話番号、支払い経路、リンク、メッセージアカウントが変化するネットワークに依存することが多いため、こうした情報は役立つ可能性がある。
理論上、リアルタイムのやり取りから得た情報は防御システムの反応を速められる。銀行は疑わしい支払先を特定し、通信事業者は繰り返される番号やパターンを認識し、プラットフォームは詐欺リンクに対応できるかもしれない。記事は個々の情報がどのように検証・共有されるかを詳しく説明していないため、規模と運用上の効果は会社側の説明として扱うべきだ。しかし、対話と観察を同時に行えるシステムに防御側が関心を持つ理由は示している。
このモデルは、警告サインに気づき、怪しい要求を拒むよう人々に求める従来の啓発活動とは異なる。教育は重要だが、負担の多くを個々の利用者に置く。AIの囮は、24時間利用でき、大規模に対話できる標的を用い、その負担の一部を攻撃者側へ戻そうとする。
リアリティをめぐる競争
この方法の有用性は、ボットがプロの詐欺師に対して本物らしくあり続けられるかという難しい問題にかかっている。詐欺師は素早く適応し、不安な人や注意散漫な人を台本に沿って誘導する経験を持つ者も多い。ボットを簡単に見抜かれれば、抑止効果は薄れ、活動方法に関する情報を相手に与える可能性もある。
だからこそ、人格設計、言葉の変化、人間らしいが完全ではない行動が重要になる。磨かれすぎた声や同じ返答の繰り返しは、明白な拒否と同じように怪しまれる。効果的な囮は、交流を続けさせるほど説得力を持ちながら、現実の認証情報を提供したり、送金したり、正当な人に新たな危険を生じさせたりしない厳格な安全境界を守る必要がある。
欺瞞的な防御システムをいつ、どこで使うべきかという、より広い問題もある。価値ある情報を集められる一方、導入組織はデータの扱い、当局との協力、現実の利用者との意図しない接触を管理する仕組みを必要とする。記事は技術の可能性を強調するが、ガバナンスや独立した効果検証を完全には説明していない。
生成AIの新たな防御用途
AIを使った詐欺の拡大により、AIをサイバー犯罪の増幅器だけと捉えやすくなっている。詐欺活動は自動化で対象を広げ、リアルな文章や音声は操作を見抜きにくくする。AIの囮は別の側面を示す。同じ自然な会話能力を防御へ向け直せるのだ。
悪意ある電話が誰かに届く前にすべて止めようとするのではなく、これらのシステムは接触後の詐欺の経済性を変えようとする。詐欺師がボットと見込み被害者をすぐに区別できなければ、偽の手がかり一つ一つが活動の生産性を下げる可能性がある。十分な規模なら、大量詐欺キャンペーンはより高コストで、報酬の少ないものになり得る。
この戦術を法執行、より強いプラットフォーム保護、消費者保護の代替とみなすにはまだ早い。しかしサイバー防御が受動的なフィルタリングから能動的な関与へ移りつつあることを示している。AIは疑わしい活動を検査するだけでなく、その背後にいる人々を引き留めようとしている。
次の試験は測定可能な効果
会話型の詐欺対策システムを支持する最も強い根拠は、結果の証拠にかかっている。成功する詐欺の減少、キャンペーン期間の短縮、より有用な情報、誤検知や意図しない影響の明確な把握が必要だ。企業、銀行、通信事業者は、既存の報告・詐欺対応プロセスにこれらのシステムをどう組み込むかも判断しなければならない。
現時点で、Apateの取り組みは、AIが詐欺師の中核資源である時間を弱点へ変えられることを示している。サイバー犯罪者が接触を自動化する中、防御側も彼らを忙しくさせる行為を自動化し始めている。
この記事はWiredの報道に基づく。原記事を読む。
Originally published on wired.com
