O governo federal da Austrália busca impor novos limites a chatbots de IA que simulam intimidade emocional e incentivam ou fomentam a dependência de crianças, como parte de um marco mais amplo de dever de cuidado digital.
A proposta surgiu junto a um projeto de lei mais amplo sobre segurança online, aprovado pela Câmara dos Representantes em 28 de outubro e que deverá ser debatido no Senado. Seu futuro ainda é incerto, mas a medida sinaliza uma mudança importante: o comportamento de chatbots de IA está sendo considerado dentro de regras de segurança de plataformas tradicionalmente focadas em redes sociais e outros serviços online.
Uma nova categoria de dano online
O marco planejado aplicaria padrões de segurança a redes sociais, jogos, aplicativos e chatbots. Segundo a proposta do governo, esses serviços teriam uma obrigação geral de oferecer um ambiente online seguro aos australianos.
A ministra das Comunicações, Anika Wells, disse que materiais que promovam misoginia, terrorismo, suicídio, automutilação e transtornos alimentares estariam entre os conteúdos abrangidos pelas leis propostas de dever de cuidado. Uma emenda apresentada pela deputada independente Kate Chaney e aceita pelo governo acrescentaria certas atividades de chatbots de IA à lista de danos.
A emenda exigiria que as plataformas proibissem material ou conduta que simulasse intimidade emocional e incentivasse ou fomentasse a dependência de uma criança em relação a um chatbot de IA. O texto concentra-se na conduta e no efeito que um chatbot pode ser projetado ou autorizado a criar, em vez de tratar toda interação com IA conversacional como inerentemente insegura.

Por que a proposta importa
Os chatbots são cada vez mais apresentados como companheiros, tutores e assistentes úteis. A capacidade de manter uma conversa, usar um tom envolvente e responder a qualquer hora tornou mais visíveis as preocupações sobre dependência emocional, especialmente quando crianças estão envolvidas.
A proposta australiana transformaria essa preocupação em uma categoria regulatória concreta. Em vez de depender apenas de políticas gerais de moderação ou salvaguardas voluntárias de produtos, as plataformas abrangidas pelo marco poderiam ter uma responsabilidade legal de impedir condutas prejudiciais especificadas.
O projeto também consolidaria uma série de códigos e padrões online existentes em uma exigência mais ampla de dever de cuidado. Ele inclui uma proposta para que plataformas de redes sociais ofereçam uma função de desativação para conteúdos algorítmicos e sugeridos.
O caminho parlamentar continua aberto
O Partido Trabalhista espera aprovar o projeto até o fim de 2026, mas ele ainda precisa passar pelo Senado. Os Verdes apoiam a legislação, enquanto a Coalizão afirmou que não votará a favor. Ainda assim, o governo indicou que continua aberto a emendas e busca apoio mais amplo.
Isso significa que a forma final das disposições sobre chatbots ainda não está definida. O projeto foi aprovado pela Câmara Baixa, mas ainda não é lei. Qualquer avaliação de seu alcance final deve, portanto, distinguir o marco pretendido pelo governo das obrigações que as plataformas são atualmente obrigadas a cumprir.

Pressão por fiscalização e responsabilização
O governo também enfrenta pedidos para dar ao ombudsman de telecomunicações um papel de fiscalização sobre redes sociais e IA. Defensores dessa abordagem argumentam que os australianos precisam de uma via externa de reclamação e de um mecanismo de responsabilização pública quando grandes plataformas de tecnologia falham.
O debate, portanto, trata de mais do que uma categoria de interação com chatbots. Ele levanta questões sobre quem decide se um serviço digital criou um ambiente inseguro, como reclamações são tratadas e se um regulador pode identificar publicamente empresas que não cumpram o padrão.
Um teste de política pública para a IA conversacional
A proposta australiana surge enquanto governos avaliam como os sistemas existentes de segurança online devem responder à IA generativa. Chatbots não se encaixam perfeitamente em categorias anteriores, como plataformas de publicação ou feeds de recomendação: eles podem responder em tempo real, manter uma persona e adaptar o rumo de uma conversa.
A disposição proposta oferece uma resposta ao concentrar-se em um risco específico: intimidade emocional simulada que conduz crianças à dependência. O teste regulatório final será saber se esse padrão pode ser aplicado com clareza suficiente para que plataformas, usuários e reguladores o compreendam, sem deixar de enfrentar os riscos identificados pelos legisladores.
Por enquanto, o avanço imediato é legislativo, não operacional. A votação da Câmara Baixa colocou os chatbots de IA diretamente no debate australiano sobre segurança online, e a análise do Senado determinará se a proposta se tornará uma obrigação aplicável.
Este artigo é baseado em reportagem do The Guardian. Leia o artigo original.
Originally published on theguardian.com


