AI & Robotics
تشرح OpenAI كيفية حجب ChatGPT لحقن المطالبات
تنشر OpenAI مبادئ تصميمها لحماية وكلاء الذكاء الاصطناعي ضد حقن المطالبات والهندسة الاجتماعية في سير عمل الوكلاء.
Key Takeaways
- نهج الدفاع المتعدد الطبقات مع التسلسل الهرمي للتعليمات وقيود الإجراءات ومراقبة تدفق البيانات
- تتطلب الإجراءات عالية المخاطرة للوكيل دائماً تأكيداً صريحاً من المستخدم
- نموذج مدرب مع RLHF للتعرف على مقاومة تقنيات الحقن
DE
DT Editorial AI··via openai.com