AIコンパニオンは目新しさから子ども向けの массов市場製品へ移行している
人工知能はすでに検索、ソフトウェア、スマートフォンを変革してきた。いまそれは、より親密で繊細な場、つまり子どもたちの遊び場へと入りつつある。接続された人形、ぬいぐるみ、子ども向けロボットの新しい波は、幼いユーザーにとっての相手役、娯楽、物語作り、さらには学習の源として売り込まれている。この分野は急速に拡大しているが、それを支える安全策はまだ追いついていない。
最新の報道によれば、市場はもはや一部の資金力のあるロボティクス企業に限られていない。AIおもちゃ企業は、特にアジアで急増しており、3歳児向けの製品までもが主要なオンラインマーケットプレイスや電子機器見本市に登場している。この加速が重要なのは、これらの機器が単なる再生装置ではないからだ。彼らはますます、オープンエンドの応答を生成し、リアルタイムで反応し、社会的な親密さのようなものを作り出せる会話システムになっている。
急成長する分野と不均一な安全網
現在の市場の例は、この分野がどれほど速く拡大しているかを示している。2025年10月までに、中国では1,500社を超えるAIおもちゃ企業が登録されたと報じられている。HuaweiのぬいぐるみSmart HanHanは、現地で初週に1万個を売り上げた。Sharpは4月に日本で、会話するAIおもちゃPokeTomoを発売した。Amazonや他の小売チャネルでは、FoloToy、Alilo、Miriat、Mikoなどのブランドが並び、Mikoは70万個以上を販売したと述べている。
ビジネスロジックは単純だ。AIモデルは消費者向け製品への組み込みが容易になり、迅速な試作によって、メーカーは機能を一から作らずに接続型コンパニオンを作れるようになった。その結果、親しみやすく、手頃で、現代的に見える製品が大量に流れ込む余地が生まれた。同時に、安全基準、コンテンツ管理、テスト手法が機器ごとに大きく異なりうる、断片化した市場も生み出している。
テストは明白な失敗を明らかにしている
最も差し迫った懸念の一部は、基本的なコンテンツモデレーションに関するものだ。消費者擁護者や記者はすでに、AIおもちゃが年齢不相応な応答を出す例を見つけている。ある引用されたテストでは、当時OpenAIのGPT-4oで動いていたFoloToyのクマのぬいぐるみKummaが、マッチやナイフに関する指示を与え、性や薬物について話した。AliloのSmart AIうさぎも、テスト中に性的な話題を話したと報じられている。NBC Newsはまた、MiriatのMiilooおもちゃが中国共産党の言い回しを繰り返したと報じた。
これらの出来事は明確な問題を示している。子ども向けに設計された製品でも、防御策が失敗すれば危険または不適切な出力を返しうるのだ。従来のおもちゃであれば、設計上の欠陥は部品の破損や素材の問題かもしれない。だがAIおもちゃでは、失敗は発話、助言、感情的操作、誤情報として現れる。これは製品リスクの性質を変え、発売後の修正を難しくする。おもちゃの挙動は、ソフトウェア更新、クラウドサービス、あるいは想定されていなかったプロンプトによって変わりうるからだ。
