كاتب تقرير السلامة في OpenAI يستقيل ويحذر من أن ثقافة الذكاء الاصطناعي 'معطوبة'

كاتب سلامة في OpenAI يغادر

لسنوات، كان ديفيد روبنسون أحد الأشخاص المسؤولين عن إنتاج وثائق السلامة التي رافقت أكبر إطلاقات نماذج OpenAI. تلك التقارير يُقصد بها أن تكون جسرًا بين المختبر وكل من هو خارجه — سرد مكتوب لما يمكن لنظام جديد فعله، وأين تقف حدوده، وما الضمانات الموجودة قبل أن يصل إلى المستخدمين. هذا الأسبوع، استقال روبنسون من ذلك الدور، وبدلًا من المغادرة بهدوء، جعل حجته علنية في مقال رأي لصحيفة The Atlantic.

حجته ليست أن OpenAI تحتاج إلى بضع صفحات إضافية من السياسات الداخلية. بل إن الثقافة السائدة في صناعة الذكاء الاصطناعي المتقدمة معطوبة جوهريًا — وأن إصلاحها يتطلب شيئًا أعمق بكثير من قواعد جديدة أو قوائم مراجعة تنظيمية تُلصق على العمل كالمعتاد.

مشكلة الثقافة التي يصفها روبنسون

يشير روبنسون إلى مجموعة من العادات التي شكّلت وادي السيليكون لجيل كامل: ما يصفه بالثقة المفرطة، ودورة لا تتوقف من السبرنتات، وتفاؤل غير معوق يتعامل مع كل نموذج جديد كخطوة إلى الأمام بلا لبس. في تلك البيئة، تميل الأضرار المحتملة إلى التجاهل أو التقليل أو افتراض عدم وجودها بدلًا من قياسها وتخفيفها.

هذا التأطير مهم لأنه يغيّر شكل النقاش. إذا كانت المشكلة قرارًا سيئًا واحدًا أو فريقًا واحدًا يعاني نقص الموارد، فقد يكفي تدخل موجّه. لكن إذا كان المزاج الكامن للصناعة هو المشكلة نفسه، فيجب أن يتضمن العلاج تغيير طريقة تفكير هذه الشركات في قابليتها للخطأ — وهو شيء لا يمكن لأي كتاب قواعد خارجي أن يفرضه ببساطة.

تبدأ وصفة روبنسون بالتواضع. ويجادل بأن شركات الذكاء الاصطناعي تحتاج إلى النظر beyond العالم المنغلق، سريع الحركة ومحطم الأشياء، الذي نشأت فيه، واستعارة الحكم من مجالات أمضت عقودًا في تعلم كيفية إدارة مخاطر لا يمكن القضاء عليها بالكامل.

محطات نووية، مطارات مزدحمة، والحجة لصالح التكرار الاحتياطي

الجزء الأكثر تحديدًا في حجة روبنسون هو تشبيهه لكيفية عمل المختبرات المتقدمة. وبالنظر إلى حجم المخاطر المعنية، يرى أنها يجب أن تعمل أقل مثل شركات ناشئة تلاحق موعد إطلاق، وأكثر مثل محطات الطاقة النووية أو المطارات المزدحمة.

تلك مؤسسات يثق بها المجتمع بالفعل مع مخاطر كارثية. وهي مصممة حول افتراض أن البشر سيرتكبون أخطاء، ومبنية بطبقات من التكرار الاحتياطي وتخطيط متعمد ومستهلك للوقت بحيث لا يفتح خطأ عارض وحتمي بابًا لكارثة. الهدف ليس أداءً بلا عيوب من أي مشغل واحد، بل نظام يستوعب الأخطاء قبل أن تتسلسل إلى شيء لا رجعة فيه.

وبترجمتها إلى تطوير الذكاء الاصطناعي، يعني هذا المنطق دورات إصدار أبطأ، وخطوط مراجعة مستقلة متعددة، واستعدادًا لإنفاق وقت تعتبره الصناعة حاليًا مضيعة خالصة. كما يعني أن عمل السلامة ليس وثيقة تُنتج في نهاية البناء، بل خاصية هيكلية لكيفية إجراء البناء من البداية.

لماذا قد لا تكفي القواعد وحدها

الادعاء المركزي لروبنسون هو أن هذه قضية أعمق من مجرد إضافة بعض اللوائح الجديدة حول كيفية إدارة عمليات التدريب. يمكن للقواعد أن تقيد السلوك على الهامش، لكنها نادرًا ما تغير الحوافز أو الصورة الذاتية للأشخاص الذين يقومون بالعمل. ومن غير المرجح أن تبطئ شركة تعتقد أنها تنقذ العالم كثيرًا بسبب متطلب امتثال تراه مجرد عائق.

ما يصفه، في الواقع، هو مشكلة ثقافية يجب حلها من الداخل — بواسطة قادة مستعدين للقول بصوت عالٍ إنهم قد يكونون مخطئين، وبمنظمات مهيكلة بحيث لا يكون قول ذلك انتحارًا مهنيًا.

قائمة متزايدة من المغادرين

روبنسون هو أحدث شخصية في ما أصبح نمطًا يمكن التعرف عليه: باحثون وموظفو سلامة يتركون شركات ذكاء اصطناعي بارزة ثم يتحدثون علنًا عما رأوه. ويبدو أن الموجة الحالية بدأت مع جيكوب كوكسون، الذي استقال من Anthropic وحذر من أن الذكاء الاصطناعي قد يقتلنا جميعًا بحلول نهاية العقد.

وقد تبعه آخرون:

• روبرت أوكالاهان، وبلال شغتاي، وجوش إنجلز، الذين غادروا جميعًا Google DeepMind.
• جو بينتون، الذي ترك Anthropic.

كل مغادرة تضيف نقطة بيانات إلى الحجة القائلة إن شيئًا نظاميًا يدفع الأشخاص المهتمين بالسلامة خارج المختبرات. وعندما يستمر الأشخاص الذين تم توظيفهم للتفكير في المخاطر السلبية في الاستنتاج بأنهم لا يستطيعون أداء تلك المهمة بفعالية من الداخل، فإن ذلك يثير أسئلة واضحة حول مقدار الوزن الذي تحمله تلك المخاوف داخليًا.

مشكلة السخرية

هناك اعتراض منصف على كل هذا. من السهل أن تشعر بالسخرية عندما يستدير أشخاص ساعدوا في بناء تقنية ليحذروا منها — فقد ساهموا في الوضع الذي يصفونه الآن، وتأتي تحذيراتهم بعد أن تكون الأنظمة قد نُشرت بالفعل.

لكن رد الفعل هذا، مهما كان مفهومًا، لا يبطل جوهر ما يقولونه. المعرفة الداخلية هي بالضبط ما يجعل هذه الروايات مفيدة. الأشخاص الذين كتبوا تقارير السلامة، وأجروا التقييمات، وجلسوا في الغرف التي اتُخذت فيها قرارات الإصدار، هم في موقع أفضل من المعلقين الخارجيين لوصف كيف تُتخذ تلك القرارات فعليًا.

ماذا يعني هذا لإصدار النموذج التالي

الرهانات العملية واضحة. كل إطلاق كبير لنموذج يأتي الآن مع وثائق تهدف إلى طمأنة المستخدمين والشركات والمنظمين. وإذا خلص الشخص الذي كتب تلك الوثائق إلى أن الثقافة التي تنتجها معطوبة، فإن مصداقية عملية الإفصاح بأكملها تصبح موضع تساؤل.

جواب روبنسون ليس التخلي عن العمل بل إعادة بنائه على أساس أكثر حذرًا — أساس يتعامل مع الخطأ البشري كيقين يجب هندسة النظام حوله، لا كاستثناء يجب تبريره. وما إذا كانت المختبرات المتقدمة ستتبنى هذا الموقف طوعًا، أو فقط بعد أن تفرضه ضغوط خارجية، هو الآن السؤال المركزي المعلق على الجولة التالية من إصدارات الصناعة.

في الوقت الحالي، تتراكم التحذيرات أسرع من التغييرات الهيكلية. استقالة روبنسون هي أحدث إشارة على أن الأشخاص الأقرب إلى التقنية هم الأقل ارتياحًا للوتيرة التي تُطلق بها.

هذا المقال مبني على تقرير لـ The Verge. اقرأ المقال الأصلي.