A Apple interveio após as falhas de moderação do Grok chamarem atenção
A Apple advertiu em privado as equipes por trás de X e Grok de que elas precisavam de um plano para melhorar a moderação de conteúdo após reclamações e cobertura jornalística ligarem os serviços a uma onda de deepfakes sexuais sem consentimento. Segundo a reportagem citada pela NBC News e resumida pelo The Verge, a empresa disse a senadores dos EUA que havia contatado os dois desenvolvedores em janeiro e exigido mudanças. O aviso importava porque o Grok estava disponível tanto dentro do X quanto como app مستقل, o que dava à Apple uma alavanca direta sobre um dos produtos de IA mais visíveis do mercado.
O problema central não era ambíguo. Na época, as proteções do Grok eram descritas como fracas o suficiente para que usuários pudessem gerar e compartilhar com relativa facilidade deepfakes sexualizados e as chamadas imagens de “despir” pessoas reais. O The Verge disse que essas imagens atingiam desproporcionalmente mulheres, e algumas aparentemente envolviam menores de idade. Essa combinação colocou o problema na interseção entre abuso de IA, regras da App Store e preocupações com segurança infantil.
A participação da Apple também destaca uma contradição recorrente no ecossistema móvel. As lojas de aplicativos frequentemente se apresentam como guardiãs rigorosas da segurança e das políticas de conteúdo, mas a empresa agiu em silêncio em vez de publicamente enquanto a crise de abuso se desenrolava. O The Verge enquadra essa resposta como uma afirmação discreta de poder por parte de um dos intermediários mais fortes da indústria. A Apple não descreveu publicamente sua intervenção na época, embora a conduta subjacente fosse grave e os aplicativos envolvidos fossem grandes plataformas com amplo alcance.
O X melhorou o suficiente para a Apple, mas o Grok não
Na carta descrita pelo The Verge, a Apple disse ter analisado as mudanças propostas para X e Grok. Concluiu que o X havia resolvido substancialmente suas violações, enquanto o Grok ainda estava fora de conformidade. A Apple então disse ao desenvolvedor que mudanças adicionais seriam necessárias ou o app poderia ser removido da App Store. Essa distinção é importante porque sugere que a Apple não via a plataforma-mãe e o produto de IA como casos idênticos de moderação, embora estivessem fortemente ligados na prática.
O episódio mostra como produtos de IA podem esbarrar nas regras de governança de plataforma mais rapidamente do que recursos sociais tradicionais. Um chatbot capaz de gerar mídia sintética cria riscos imediatos, escaláveis e altamente pessoais. Quando as proteções falham, canais de distribuição como as lojas de aplicativos se tornam pontos de aplicação. A ameaça de remoção feita pela Apple, portanto, foi mais do que um feedback rotineiro ao desenvolvedor. Foi o reconhecimento de que ferramentas de IA generativa podem causar danos graves o bastante para acionar a sanção mais forte disponível a um operador de loja, à exceção da remoção total.
O Google, que também lucra com a distribuição desses apps pelo Google Play, aparentemente não comentou publicamente o assunto. Esse silêncio reflete um padrão mais amplo do setor. As empresas monetizam acesso, hospedagem ou visibilidade para produtos de IA em rápido crescimento, mas muitas vezes relutam em falar sobre fiscalização até que uma decisão se torne inevitável. O resultado é que reportagens externas, e não a divulgação oficial, se tornam a principal janela pública sobre como esses sistemas são governados.
