OpenAI ترفض التراجع
تتمسك OpenAI بقرارها إقالة ثلاثة باحثين كانوا يعملون في مجال سلامة الذكاء الاصطناعي، وترفض الإيحاء بأن عمليات الإقالة كانت انتقامًا بسبب إثارتهم مخاوف بشأن طريقة تعامل الشركة مع مخاطر النماذج المتقدمة. ووفقًا لتقرير نشرته The Verge، أصدرت الشركة بيانًا على منصة X يوم الجمعة تؤكد فيه أن جاسمين وانغ وتوميك كورباك وميكيتا باليسني تم الاستغناء عنهم بعد أن خلص تحقيق داخلي إلى أنهم ارتكبوا ما وصفته الشركة بأنه "خرق كبير للثقة".
ويأتي هذا البيان العلني وسط نزاع علني غير معتاد بين الشركة وثلاثة من موظفيها السابقين، وهو نزاع سرعان ما تحول إلى نقطة اشتعال في الجدل الأوسع حول مقدار الشفافية التي تدين بها مختبرات الذكاء الاصطناعي للأشخاص الذين يعملون على أصعب مشكلات السلامة لديها.
ما تقول OpenAI إنه حدث
في منشورها على منصة X، قالت OpenAI إن الباحثين الثلاثة أُقيلوا بسبب انتهاك "سياسات واضحة بشأن التعامل مع المعلومات الحساسة". وقدّرت الشركة المسألة باعتبارها مسألة مباشرة تتعلق بالقواعد الداخلية، لا خلافًا حول فلسفة السلامة.
كما ردت OpenAI مباشرة على فكرة أن عمليات الإقالة كانت مرتبطة بتحدث الثلاثة عن الشركة أو عن مخاوفهم بشأن سلامة الذكاء الاصطناعي. ويُعد هذا التأكيد محوريًا في رسالة الشركة: فهي تريد رسم خط واضح بين الدفاع المحمي داخل المؤسسة وبين السلوك الذي تعتبره انتهاكًا للسياسات.
وقالت الشركة إن تحقيقها الداخلي كشف عن انتهاكات تجاوزت "ما ورد في الرسالة" التي نشرها الباحثون، لكنها رفضت تقديم تفاصيل محددة. وقد ترك هذا النقص في التفاصيل فجوة كبيرة بين ما تؤكده OpenAI وما يمكن للجمهور التحقق منه بشكل مستقل.
الرسالة المفتوحة للباحثين
كان منشور الشركة ردًا مباشرًا على رسالة مفتوحة نشرها الثلاثة يوم الخميس، يطالبون فيها OpenAI بمزيد من الشفافية بشأن الأسباب الكامنة وراء إقالتهم. وفي تلك الرسالة، وفي سلسلة من منشورات وسائل التواصل الاجتماعي المصاحبة لها، قال وانغ وكورباك وباليسني إنهم يعتقدون أنهم فُصلوا بسبب إثارتهم مخاوف تتعلق بالسلامة.
كما أكدوا أن سلوكهم كان مناسبًا، وقالوا إنهم "تصرفوا بما يتوافق مع مهمة OpenAI وضمن أعراف العمل في ذلك الوقت". وهو دفاع يتعلق بالعملية والثقافة بقدر ما يتعلق بأي حادثة بعينها: والمغزى الضمني هو أنهم، أيًا كان ما فعلوه، فهموه على أنه مقبول ضمن المعايير التي كانت المؤسسة تعمل بها.
والنتيجة هي مواجهة يصف فيها كل طرف التسلسل نفسه من الأحداث بمعايير مختلفة جذريًا. فـ OpenAI تصف المسألة بأنها مسألة سرية وثقة. أما الباحثون المقالون فيصفونها بأنها مسألة معاقبة على الدفاع عن السلامة.
"خرق للثقة"، لا نزاع حول السلامة
التمييز الذي ترسمه OpenAI مهم. فإذا كانت الإقالات مدفوعة بانتهاكات سياسات المعلومات الحساسة، فإن القضية تصبح نزاعًا تقليديًا يتعلق بالعمل والسرية — وإن كان يتعلق ببعض أكثر التقنيات تأثيرًا التي يجري تطويرها في أي مكان. أما إذا كانت مدفوعة بمضمون مخاوف الباحثين المتعلقة بالسلامة، فإن التداعيات على طريقة تعامل مختبرات الذكاء الاصطناعي مع النقد الداخلي ستكون أوسع بكثير.
ولأن OpenAI لم تكشف عن الأدلة الأساسية، فلا يمكن تأكيد أي من التفسيرين بالكامل من الخارج. ويؤدي إصرار الشركة على أن التحقيق وجد انتهاكات تتجاوز ما وصفته الرسالة وظيفة مزدوجة: تبرير، ودرع ضد مزيد من التدقيق.
لماذا يراقب موظفو السلامة عن كثب
تأتي عمليات الإقالة في لحظة يشهد فيها القلق داخل شركات الذكاء الاصطناعي ارتفاعًا بشأن مستوى المخاطر في الأنظمة التي يبنونها. فقد تزايدت المخاوف بشأن سلامة الأنظمة المتقدمة بين الموظفين، مدفوعة جزئيًا بسلسلة من الاختراقات الأمنية البارزة خلال العام الماضي — ومن أبرزها اختراق يتعلق بـ Hugging Face وتم ربطه بـ OpenAI.
وقد أنتج هذا المناخ تحولًا واضحًا في المزاج الداخلي. فكثير من الموظفين يحثون الآن أرباب عملهم على إبطاء وتيرة التطوير، والاستثمار بشكل أكبر في الضمانات ضد العواقب المحتملة لبناء أنظمة قادرة على تحسين نفسها. وعندما يخلص باحثون يتحملون مسؤولية مباشرة عن أعمال السلامة إلى أن التحدث بصراحة أمر محفوف بالمخاطر، فقد تتراجع معه رغبة الآخرين في إطلاق التحذيرات.
الرهانات الأوسع للذكاء الاصطناعي المتقدم
وبالنسبة للقطاع الأوسع، تثير هذه الواقعة أسئلة غير مريحة حول أين تقع الحدود بين المعارضة الداخلية المشروعة والسلوك الذي يحق للشركات ضبطه. وتعتمد مختبرات الذكاء الاصطناعي على الثقة — من الجمهور ومن الجهات التنظيمية التي تحيط بعملها — وعلى مصداقية التزاماتها بالسلامة.
ومن الصعب حل نزاع يستشهد فيه صاحب العمل بالسرية ويستشهد فيه الموظفون السابقون بمخاوف تتعلق بالسلامة من خلال البيانات وحدها. فهو يدعو إلى تدقيق في عمليات المراجعة الداخلية: من يجريها، وما المعايير التي تطبقها، وكيف تُبلَّغ النتائج للأشخاص المتأثرين.
ما لا يزال غير محسوم
- لم تفصّل OpenAI السلوك الذي تقول إنه خرق سياساتها بشأن المعلومات الحساسة.
- يؤكد الباحثون الثلاثة أنهم أُقيلوا بسبب إثارتهم مخاوف تتعلق بالسلامة، وأن سلوكهم كان متوافقًا مع أعراف العمل في ذلك الوقت.
- تقول الشركة إن تحقيقها وجد انتهاكات تتجاوز تلك الموصوفة في الرسالة المفتوحة، لكنها لم تقدم أي تفاصيل.
- لم يُقدَّم أي طرف ثالث على أنه راجع الأدلة الأساسية.
ومع تمسك الجانبين بموقفيهما علنًا، قد تعتمد النتيجة العملية أقل على من هو محق في الوقائع وأكثر على كيفية تفسير مجتمع الذكاء الاصطناعي الأوسع لهذه الواقعة. وبالنسبة للباحثين الذين يزنون ما إذا كانوا سيعبرون عن تحفظاتهم بشأن تطوير النماذج المتقدمة، فإن الإشارة التي ترسلها هذه الإقالات قد تشكل الثقافة الداخلية في OpenAI وفي المختبرات المنافسة لفترة قادمة.
يعتمد هذا المقال على تقرير لـ The Verge. اقرأ المقال الأصلي.
Originally published on theverge.com
