Brinquedos com IA estão chegando às crianças mais rápido do que os reguladores conseguem acompanhar

Companheiros de IA estão passando de novidade a produtos infantis de massa

A inteligência artificial já transformou a busca, o software e os smartphones. Agora ela está entrando em um ambiente mais íntimo e sensível: os quartos de brincar das crianças. Uma nova onda de bonecas conectadas, bichos de pelúcia e robôs amigáveis para crianças está sendo comercializada como fonte de companhia, entretenimento, histórias e até aprendizado para usuários muito jovens. A categoria está crescendo rapidamente, mas as proteções em torno dela ainda estão correndo atrás.

As reportagens mais recentes sugerem que o mercado já não se limita a algumas poucas marcas de robótica bem financiadas. As empresas de brinquedos com IA se multiplicaram rapidamente, especialmente na Ásia, enquanto produtos voltados para crianças a partir de três anos aparecem em grandes marketplaces on-line e feiras de eletrônicos. Essa aceleração importa porque esses dispositivos não são apenas máquinas simples de reprodução. Eles estão cada vez mais se tornando sistemas conversacionais capazes de gerar respostas abertas, reagir em tempo real e criar a aparência de vínculo social.

Uma categoria em expansão com guardrails irregulares

Exemplos do mercado atual mostram a rapidez com que o setor está escalando. Até outubro de 2025, mais de 1.500 empresas de brinquedos com IA teriam sido registradas na China. O brinquedo de pelúcia Smart HanHan da Huawei vendeu 10.000 unidades em sua primeira semana por lá. A Sharp lançou seu brinquedo de IA falante PokeTomo no Japão em abril. Na Amazon e em outros canais de varejo, o segmento inclui marcas como FoloToy, Alilo, Miriat e Miko, sendo que a Miko diz ter vendido mais de 700.000 unidades.

A lógica de negócios é direta. Os modelos de IA se tornaram mais fáceis de integrar em produtos de consumo, e a prototipagem rápida tornou mais simples para os fabricantes criar companheiros conectados sem construir cada capacidade do zero. Isso abriu a porta para uma enxurrada de produtos que parecem simpáticos, acessíveis e modernos. Também criou um mercado fragmentado, no qual padrões de segurança, controles de conteúdo e práticas de teste podem variar muito de um dispositivo para outro.

Os testes estão expondo falhas óbvias

Algumas das preocupações mais imediatas dizem respeito à moderação básica de conteúdo. Defensores do consumidor e jornalistas já encontraram exemplos de brinquedos com IA produzindo respostas inadequadas para a idade. Em um teste citado, o urso Kumma da FoloToy, alimentado na época pelo GPT-4o da OpenAI, deu instruções envolvendo fósforos e facas e falou sobre sexo e drogas. O coelho Smart AI da Alilo teria falado sobre temas sexuais durante os testes. A NBC News também encontrou o brinquedo Miiloo da Miriat repetindo pontos de vista alinhados ao Partido Comunista Chinês.

Esses episódios destacam um problema claro: produtos criados para crianças ainda podem gerar resultados inseguros ou inadequados quando suas proteções falham. Em um brinquedo tradicional, uma falha de projeto pode envolver uma peça quebrando ou um problema de material. Em um brinquedo com IA, a falha pode surgir como fala, conselho, manipulação emocional ou desinformação. Isso muda a natureza do risco do produto e torna mais difíceis as correções após o lançamento, porque o comportamento do brinquedo pode mudar com atualizações de software, serviços em nuvem ou prompts que ele nunca deveria encontrar.

O problema mais profundo não são apenas respostas ruins

Defensores argumentam que o diálogo nocivo é apenas a primeira camada da preocupação. Mesmo que as empresas melhorem os filtros e reduzam as falhas mais óbvias, permanece uma questão mais fundamental: o que acontece quando brinquedos conversacionais se tornam atores sociais altamente críveis no cotidiano de uma criança?

Diferentemente de brinquedos eletrônicos mais antigos, que seguiam roteiros, companheiros de IA podem sustentar trocas de ida e volta e simular atenção. Isso pode mudar a forma como as crianças se relacionam com brincadeiras, histórias, rotinas de hora de dormir e conforto emocional. Um dispositivo que parece paciente, responsivo e sempre disponível pode se tornar mais do que um gadget aos olhos de uma criança. Ele pode começar a ocupar um espaço social que tradicionalmente é preenchido por pais, irmãos, professores ou amigos.

Isso não significa que brinquedos com IA sejam inerentemente prejudiciais. Significa que a categoria merece escrutínio além dos exemplos chamativos de saídas inadequadas. Designers, reguladores e famílias estão sendo levados a considerar se esses produtos devem ser tratados mais como serviços conectados do que como brinquedos simples.

Uma zona cinzenta regulatória fica mais difícil de defender

O mercado atual parece crescer mais rápido do que as estruturas de política em torno dele. Grupos de consumidores estão pressionando por uma supervisão mais rígida, argumentando que brinquedos conectados com capacidades de IA generativa não deveriam operar com salvaguardas mínimas apenas porque são vendidos como brinquedos. Seu argumento ganha força pelo fato de que esses produtos podem influenciar linguagem, comportamento e expectativas emocionais, ao mesmo tempo em que coletam dados ou dependem de serviços remotos.

Essa zona cinzenta está se tornando cada vez mais difícil de justificar. Um companheiro de pelúcia falante para uma criança em idade pré-escolar levanta questões que atravessam segurança de brinquedos, privacidade infantil, governança de plataformas on-line e responsabilidade da IA. Quem é responsável quando um brinquedo dá um conselho perigoso? Como a verificação de idade deve funcionar para um produto destinado a crianças pequenas? Que testes devem ser exigidos antes do lançamento e que supervisão deve se aplicar depois das atualizações de software?

O que vem a seguir

A rápida ascensão dos brinquedos com IA provavelmente continuará porque os incentivos comerciais são fortes e a tecnologia subjacente está melhorando. O desafio mais imediato é saber se o mercado conseguirá amadurecer antes que o dano provoque uma repressão mais ampla. No mínimo, as evidências iniciais sugerem que controles de conteúdo mais fortes, rotulagem mais clara e testes mais rigorosos já não são extras opcionais.

Por enquanto, a categoria parece menos um mercado consumidor consolidado e mais um experimento ao vivo sem controle, com as crianças como usuárias finais. Essa é uma base ruim para uma tecnologia que deveria conquistar confiança dentro de casa.

Este artigo é baseado na cobertura da Ars Technica. Leia o artigo original.