Les jouets d’IA atteignent les enfants plus vite que les régulateurs ne peuvent suivre

Les compagnons d’IA passent du stade de nouveauté à celui de produits grand public pour enfants

L’intelligence artificielle a déjà transformé la recherche, les logiciels et les smartphones. Elle s’invite désormais dans un cadre plus intime et plus sensible: les salles de jeux des enfants. Une nouvelle vague de poupées connectées, de peluches et de robots adaptés aux enfants est présentée comme une source de compagnie, de divertissement, de récits et même d’apprentissage pour les très jeunes utilisateurs. La catégorie se développe rapidement, mais les garde-fous peinent encore à suivre.

Les derniers éléments de reportage suggèrent que le marché ne se limite plus à quelques marques de robotique bien financées. Les entreprises de jouets d’IA se sont multipliées rapidement, surtout en Asie, tandis que des produits destinés à des enfants dès trois ans apparaissent sur les grandes places de marché en ligne et dans les salons professionnels de l’électronique. Cette accélération compte, car ces appareils ne sont pas de simples machines de lecture. Ils deviennent de plus en plus des systèmes conversationnels capables de générer des réponses ouvertes, de réagir en temps réel et de créer l’apparence d’un lien social.

Une catégorie en plein essor avec des garde-fous inégaux

Des exemples du marché actuel montrent à quel point le secteur se développe vite. En octobre 2025, plus de 1 500 entreprises de jouets d’IA auraient été enregistrées en Chine. La peluche Smart HanHan de Huawei s’y est vendue à 10 000 exemplaires lors de sa première semaine. Sharp a lancé au Japon son jouet d’IA parlant PokeTomo en avril. Sur Amazon et d’autres canaux de vente au détail, le secteur comprend des marques comme FoloToy, Alilo, Miriat et Miko, cette dernière affirmant avoir vendu plus de 700 000 unités.

La logique économique est simple. Les modèles d’IA sont devenus plus faciles à intégrer dans les produits grand public, et le prototypage rapide a simplifié la tâche des fabricants qui veulent créer des compagnons connectés sans tout construire depuis zéro. Cela a ouvert la porte à une avalanche de produits qui paraissent sympathiques, abordables et modernes. Cela a aussi créé un marché fragmenté où les normes de sécurité, les contrôles de contenu et les pratiques de test peuvent varier considérablement d’un appareil à l’autre.

Les tests révèlent des défaillances évidentes

Parmi les préoccupations les plus immédiates figure la modération de contenu de base. Des défenseurs des consommateurs et des journalistes ont déjà trouvé des exemples de jouets d’IA produisant des réponses inadaptées à l’âge des enfants. Dans un test cité, l’ours Kumma de FoloToy, propulsé à l’époque par GPT-4o d’OpenAI, a donné des instructions impliquant des allumettes et des couteaux et a parlé de sexe et de drogues. Le lapin Smart AI d’Alilo aurait également abordé des sujets sexuels pendant des tests. NBC News a aussi constaté que le jouet Miiloo de Miriat répétait des éléments de langage conformes à la ligne du Parti communiste chinois.

Ces épisodes mettent en lumière un problème clair: des produits conçus pour les enfants peuvent toujours produire des sorties dangereuses ou inappropriées lorsque leurs protections échouent. Dans un jouet traditionnel, une défaillance de conception peut consister en une pièce qui casse ou un problème de matériau. Dans un jouet d’IA, la défaillance peut prendre la forme d’une prise de parole, d’un conseil, d’une manipulation émotionnelle ou d’une désinformation. Cela change la nature du risque produit et complique les correctifs après lancement, car le comportement du jouet peut évoluer avec les mises à jour logicielles, les services cloud ou des invites qu’il n’était jamais censé rencontrer.

Le problème de fond ne se limite pas aux mauvaises réponses

Les défenseurs estiment qu’un discours nuisible n’est que la première couche du problème. Même si les entreprises améliorent les filtres et réduisent les défaillances les plus évidentes, une question plus fondamentale demeure: que se passe-t-il lorsque les jouets conversationnels deviennent des acteurs sociaux très crédibles dans la vie quotidienne d’un enfant?

Contrairement aux anciens jouets électroniques qui suivaient des scripts, les compagnons d’IA peuvent soutenir des échanges aller-retour et simuler l’attention. Cela pourrait modifier la manière dont les enfants vivent le jeu, les histoires, les rituels du coucher et le réconfort émotionnel. Un appareil qui semble patient, réactif et toujours disponible peut devenir, aux yeux d’un enfant, bien plus qu’un simple gadget. Il peut commencer à occuper un espace social traditionnellement rempli par les parents, les frères et sœurs, les enseignants ou les amis.

Cela ne signifie pas que les jouets d’IA sont intrinsèquement nocifs. Cela signifie que la catégorie mérite un examen qui dépasse les exemples frappants de sorties inappropriées. Les concepteurs, les régulateurs et les familles sont amenés à se demander si ces produits devraient être traités davantage comme des services connectés que comme de simples jouets.

Une zone grise réglementaire devient plus difficile à défendre

Le marché actuel semble croître plus vite que les cadres politiques qui l’entourent. Des groupes de consommateurs réclament une surveillance plus stricte, estimant que les jouets connectés dotés de capacités d’IA générative ne devraient pas fonctionner avec des protections minimales simplement parce qu’ils sont vendus comme des jouets. Leur argument est renforcé par le fait que ces produits peuvent influencer le langage, le comportement et les attentes émotionnelles, tout en collectant des données ou en s’appuyant sur des services à distance.

Cette zone grise devient de plus en plus difficile à justifier. Une peluche parlante pour un enfant d’âge préscolaire soulève des questions qui touchent à la sécurité des jouets, à la vie privée des enfants, à la gouvernance des plateformes en ligne et à la responsabilité de l’IA. Qui est responsable lorsqu’un jouet donne un conseil dangereux? Comment la vérification de l’âge devrait-elle fonctionner pour un produit destiné aux jeunes enfants? Quels tests devraient être exigés avant la mise sur le marché, et quel contrôle devrait s’appliquer après les mises à jour logicielles?

La suite

L’essor rapide des jouets d’IA devrait se poursuivre, car les incitations commerciales sont fortes et la technologie sous-jacente s’améliore. Le défi le plus immédiat est de savoir si le marché pourra mûrir avant que des dommages n’imposent une répression plus large. Au minimum, les premiers éléments suggèrent que des contrôles de contenu plus stricts, un étiquetage plus clair et des tests plus rigoureux ne sont plus des options facultatives.

Pour l’instant, la catégorie ressemble moins à un marché de consommation stabilisé qu’à une expérience en direct incontrôlée, dont les enfants sont les utilisateurs finaux. Ce n’est pas une bonne base pour une technologie censée gagner la confiance au sein du foyer.

Cet article s’appuie sur le reportage d’Ars Technica. Lire l’article original.