#prompt-injection

Pesquisadores do Google alertam que páginas públicas maliciosas podem envenenar agentes de IA corporativos por meio de prompt injection indireta, transformando a navegação comum em risco de segurança.

Pesquisadores detalharam um problema de prompt injection já corrigido que permitiu ao modelo de linguagem grande no dispositivo da Apple contornar restrições e executar ações controladas por invasores.

OpenAI publishes its design principles for protecting AI agents against prompt injection and social engineering in agentic workflows.