OpenAI تضع ضمانات السلامة البيولوجية في GPT-5.5 تحت اختبار ضغط مباشر عبر مكافأة أخطاء جديدة

عملية انتقائية عالية الثقة

البرنامج ليس مفتوحًا بالكامل. ووفقًا للنص المصدر، ستدعو OpenAI قائمة مُدققة من مختبري red team الموثوقين في المجال البيولوجي، وستراجع الطلبات الجديدة من الباحثين ذوي الخبرة في red teaming للذكاء الاصطناعي أو الأمن أو الأمن البيولوجي. ويجب على المشاركين والمتعاونين المقبولين امتلاك حسابات ChatGPT قائمة وتوقيع اتفاقية عدم إفصاح. وتشمل الـ NDA جميع الـ prompts والردود والنتائج والمراسلات.

يعكس هذا التصميم ذو الوصول المقيّد حساسية الموضوع. فبحث إساءة الاستخدام المرتبط بالبيولوجيا يحتل موقعًا غير معتاد: إذ تحتاج الأنظمة إلى اختبار ضغط، لكن النشر الواسع لأساليب هجومية قد يخلق خطرًا إضافيًا. ويشير شرط الـ NDA إلى أن OpenAI تحاول الموازنة بين التدقيق الخارجي والاحتواء التشغيلي.

كما يبرز هذا الإعداد تحولًا أوسع في حوكمة الذكاء الاصطناعي الحدودي. إذ تُدار مجالات القدرات عالية الخطورة بصورة متزايدة عبر نماذج وصول موثوق بدلًا من المسابقات المفتوحة بالكامل. وهذا النهج يحد من الرؤية الخارجية، لكنه قد يسمح أيضًا باختبارات هجومية أكثر واقعية مما يسمح به تحدٍ عام بالكامل.

ما الذي يقوله البرنامج عن أمان النماذج الحدودية

يأتي GPT-5.5 Bio Bug Bounty في وقت تتجه فيه شركات الذكاء الاصطناعي نحو تحقق أكثر تخصصًا من السلامة للنظم المتقدمة. ولا يزال red teaming العام مهمًا، لكن المجالات الأعلى خطورة تتطلب بشكل متزايد خبرة متخصصة في المجال. والبيولوجيا حالة مهمة بشكل خاص لأن الخط الفاصل بين المساعدة العلمية المشروعة والمعلومات التي قد تكون خطيرة يصعب ضبطه على نطاق واسع.

ومن خلال تضييق التحدي إلى jailbreaks شاملة، تسأل OpenAI فعليًا سؤالًا صعبًا عن المتانة: هل تستطيع ضماناتها الصمود أمام خصم مصمم وخبير يستخدم أساليب قائمة على prompts فقط؟ هذا أكثر تطلبًا من سؤال ما إذا كان المستخدم العادي قد يربك النموذج أحيانًا. إنه اختبار لمعرفة ما إذا كانت الدفاعات تفشل بطريقة قابلة للتكرار والتوسع.

وتشير صياغة الشركة أيضًا إلى أن هذا البرنامج جزء من بنية أوسع من مكافآت الأخطاء وأعمال السلامة. فالنص المصدر يوجّه المشاركين إلى برامج مكافآت السلامة والأمن المنفصلة لدى OpenAI، ما يدل على نموذج تقييم متعدد الطبقات لا على تجربة لمرة واحدة.

حدود ما تكشفه هذه المبادرة

في الوقت نفسه، يترك الإعلان بعض الأمور غير واضحة عن قصد. فبسبب خضوع التحدي لـ NDA، لن يرى المراقبون الخارجيون تلقائيًا الـ prompts التي جرى اختبارها أو الردود الناتجة أو الطبيعة الدقيقة لأي jailbreak ناجح. وهذا يقلل الشفافية، رغم أنه قد يكون غير قابل للتجنب في مجال قد يؤدي فيه النشر نفسه إلى خطر.

كما أن التركيز على Codex Desktop يضيّق النطاق. فالوضع الأمني لنموذج ما قد يختلف بحسب المنتج والواجهة وقيود النشر. ولا يعني النجاح أو الفشل في بيئة واحدة بالضرورة الشيء نفسه في كل البيئات. ومع ذلك، كما يوضح النص المصدر، فإن الشركة تضع ضمانات السلامة البيولوجية في GPT-5.5 تحت ضغط هجومي صريح في سياق منتج حقيقي واحد على الأقل.

تحول عملي في أمان الذكاء الاصطناعي

تكمن الأهمية الأكبر لهذه المكافأة في أنها تتعامل مع أمان النموذج بوصفه شيئًا يجب اختباره تشغيليًا، لا مجرد وصفه في بطاقات النظام أو بيانات السياسات. وبهذا المعنى، فالمبادرة أقل تعلقًا بتسويق ضمانة وأكثر تعلقًا بدعوة محاولات خبراء لكسرها ضمن قواعد ضيقة بما يكفي لتكون ذات معنى.

أما ما إذا كانت دفاعات OpenAI ستصمد، فذلك سؤال آخر. لكن الواضح بالفعل أن الشركة ترى إساءة الاستخدام المرتبطة بالبيولوجيا مهمة بما يكفي لتستحق هجومًا خارجيًا مدفوعًا وموجّهًا. وهذا تطور لافت بحد ذاته. ومع ازدياد قدرات أنظمة الذكاء الاصطناعي الحدودية، ستعتمد مصداقية ادعاءات السلامة بصورة متزايدة على برامج اختبار هجومية مثل هذا البرنامج، حيث لا يكون المعيار هو وجود سياسة، بل ما إذا كانت تصمد عند الاحتكاك بأشخاص يحاولون هزيمتها.

هذه المقالة مستندة إلى تقارير من OpenAI. اقرأ المقال الأصلي.