#prompt-injection

يحذر باحثو جوجل من أن صفحات الويب العامة الخبيثة يمكنها تسميم وكلاء الذكاء الاصطناعي المؤسسيين عبر حقن المطالبات غير المباشر، مما يحول التصفح العادي إلى خطر أمني.

فصّل باحثون مشكلة حقن مطالبات تم تصحيحها الآن، وكانت تتيح لنموذج اللغة الكبير على الجهاز من Apple تجاوز القيود وتنفيذ إجراءات يسيطر عليها المهاجم.

OpenAI publishes its design principles for protecting AI agents against prompt injection and social engineering in agentic workflows.