#prompt-injection

Google शोधकर्ताओं का कहना है कि दुर्भावनापूर्ण सार्वजनिक वेब पेज indirect prompt injection के जरिए enterprise AI agents को poison कर सकते हैं, जिससे सामान्य browsing एक security risk बन जाती है।

शोधकर्ताओं ने एक अब-सुधारी गई प्रॉम्प्ट इंजेक्शन समस्या का विवरण दिया, जिसने Apple के डिवाइस-पर बड़े भाषा मॉडल को प्रतिबंधों को दरकिनार करने और हमलावर-नियंत्रित कार्रवाइयाँ करने की अनुमति दी।

OpenAI publishes its design principles for protecting AI agents against prompt injection and social engineering in agentic workflows.