ألتمان وماسك وحسابيس يدعمون دعوة أمودي لرقابة مستقلة على الذكاء الاصطناعي

تقارب مفاجئ في نقاش سلامة الذكاء الاصطناعي

أعرب ثلاثة من أبرز الشخصيات في مجال الذكاء الاصطناعي — سام ألتمان الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، وديميس هاسابيس الرئيس التنفيذي السابق لـ DeepMind — عن دعم جزئي على الأقل لمقترح قدّمه داريو أمودي الرئيس التنفيذي لشركة Anthropic يدعو إلى رقابة مستقلة داخل مختبرات الذكاء الاصطناعي. ويمثل هذا التقارب، الذي أوردته The Decoder، لحظة بارزة في مجال كثيراً ما يختلف قادته علناً حول المخاطر والجداول الزمنية والتنظيم. وهو لا يمثل إجماعاً كاملاً على إبطاء تطوير الذكاء الاصطناعي، لكنه يشير إلى أن فكرة التقييم الخارجي أو المستقل أصبحت أقرب إلى التيار السائد.

موقف ماسك هو الأقل إثارة للدهشة. فقد حذّر من مخاطر الذكاء الاصطناعي لسنوات، وغالباً ما يصف الأنظمة المتقدمة بأنها مصدر قلق وجودي. أما ألتمان وهاسابيس، فيقودان في المقابل مؤسسات يعتمد نجاحها التجاري على النشر السريع للنماذج المتطورة. واستعدادهما لتأييد الرقابة المستقلة — ولو جزئياً — يشير إلى أن النقاش انتقل من ما إذا كانت الرقابة ضرورية إلى كيفية تصميمها ومن ينبغي أن يتولاها.

ما الذي اقترحه أمودي

يتمحور مقترح أمودي حول مبدأ مفاده أن مختبرات الذكاء الاصطناعي لا ينبغي أن تكون الحكم الوحيد على سلامتها. وفي هذا الإطار، سيمنح التقييم المستقل خبراء خارجيين إمكانية الوصول إلى النماذج وعمليات التدريب حتى يتمكنوا من تقييم القدرات والمخاطر قبل النشر. ويُقال إن ألتمان وأمودي يتفقان على هذه النقطة الجوهرية: ينبغي تقييم مختبرات الذكاء الاصطناعي بشكل مستقل. وهذا التقارب مهم لأن كلا الرجلين يدير شركات تتنافس في الطليعة، وقد واجها سابقاً انتقادات بأن التنظيم الذاتي يشبه تصحيح المرء لأوراقه بنفسه.

التقييم المستقل كمبدأ مشترك

تأييد ألتمان وماسك وهاسابيس ليس اتفاقاً شاملاً على وقف مؤقت أو حد أقصى عالمي للسرعة. والأدق فهمه على أنه دعم لآلية حوكمة: تدقيق مستقل للأنظمة المتطورة. وهذا التمييز مهم. فالمختبر يمكن أن يقبل التقييم الخارجي بينما يواصل الدعوة إلى التطوير السريع، بشرط أن يُظهر التقييم أن النظام آمن بما يكفي للمضي قدماً. وبالمقابل، يمكن لناقد أن يدعم الرقابة المستقلة بينما يعارض التباطؤ الإلزامي.

لماذا الاتفاق جزئي فقط

تترك الطبيعة الجزئية للتأييد مجالاً لخلافات حادة حول التنفيذ. من يعيّن المقيّمين؟ وما مدى الوصول الذي يحصلون عليه؟ وماذا يحدث إذا اعترض مختبر على نتائجهم؟ لا تحسم هذه الأسئلة جميعاً بفعل المبدأ المشترك. وتشير The Decoder إلى أن القادة اتفقوا على الحاجة إلى رقابة مستقلة داخل مختبرات الذكاء الاصطناعي، لكن التفاصيل العملية لا تزال مفتوحة — وهذه التفاصيل ستحدد ما إذا كانت الرقابة ذات معنى أم مجرد رمزية.

توقيت الطرح العام لـ OpenAI وتفسير السلامة

قال ألتمان أيضاً لمجلة Fortune إن OpenAI لن تطرح أسهمها للاكتتاب العام هذا العام، مشيراً إلى مخاوف تتعلق بالسلامة. وكان قد أبلغ بهذا القرار داخلياً في يونيو. ويصوّر الموجز المرشح هذه الخطوة على أنها تأجيل للطرح العام إلى 2027 لأسباب تتعلق بالسلامة، مع الإشارة أيضاً إلى قراءة بديلة: قد لا تدعم البيانات المالية لـ OpenAI طرحاً عاماً في الوقت الحالي، خصوصاً بالمقارنة مع Anthropic. وقد يكون التفسيران صحيحين في الوقت نفسه. فبإمكان الشركة أن تواجه ظروفاً سوقية غير مواتية وأن تختار في الوقت ذاته التأكيد على السلامة كسبب للانتظار.

قراءتان للتأجيل

يتلاءم تفسير السلامة مع الموقف العام الأخير لألتمان. فإذا كان الذكاء الاصطناعي المتطور يحمل مخاطر جدية، فإن تحمّل التزامات الإفصاح وضغوط الربع السنوي المترتبة على الإدراج العام قد يعقّد استراتيجية سلامة مدروسة. أما التفسير المالي فيتلاءم مع المشهد التنافسي. فقد جرى الاستشهاد بـ Anthropic كنقطة مقارنة، والطرح العام في نهاية المطاف قرار سوقي بقدر ما هو قرار فلسفي. ومن المرجح أن يضغط المستثمرون والمنظمون من أجل توضيح أي عامل يقود الجدول الزمني.

وفي كلتا الحالتين، يُبقي التأجيل OpenAI في فئة خاصة بها بين شركات الذكاء الاصطناعي الكبرى: مختبر رائد يربط قيادته علناً بين قراراته في أسواق المال ومخاوف السلامة. ويمنح هذا الربط نقاش الرقابة بُعداً مؤسسياً ملموساً. فلم يعد الأمر يتعلق فقط بمبادئ مجردة؛ بل بكيفية هيكلة مختبر متطور لحوكمته وإفصاحه والتزاماته تجاه التدقيق الخارجي.

الاعتراض: الاستقرار هو حد السرعة الحقيقي

لا يقبل الجميع الفرضية الكامنة وراء حد السرعة الذي اقترحه أمودي. فقد اعترض الباحث في جوجل بيمان ميلانفار، بحجة أن التحسين الذاتي التكراري (RSI) افتراض ساذج لأن حلقات التغذية الراجعة المتضمنة غير مستقرة بطبيعتها. ويرى أن النظام كلما حاول تحسين نفسه أكثر، غرق أعمق في نقاط عمياء. ويؤكد أن الأدلة الموثوقة تأتي من العالم الحقيقي لا من المعايير القياسية.

لماذا يرى ميلانفار أن حد السرعة غير ضروري

يقود حجة ميلانفار إلى استنتاج مختلف: لا حاجة إلى حد سرعة إلزامي لأن التحسين الذاتي محدود طبيعياً. ويجادل بأن الأنظمة القادرة على تحسين نفسها بشكل موثوق ستكون محكومة ومخمّدة ومبطأة ومقيّدة بهوامش تبدو مسرفة من منظور الكفاءة الخالصة. وفي صياغته، يعمل الاستقرار نفسه كحد السرعة الفعلي. وإذا كان ذلك صحيحاً، فإن التحسين التكراري الجامح أقرب إلى سيناريو نظري يتجاهل هشاشة حلقات التغذية الراجعة من كونه يقيناً وشيكاً.

ويشكل ذلك تحدياً مباشراً لنموذج المخاطر الذي يحرّك الدعوات إلى الرقابة. فمقترح أمودي يفترض أن المختبرات قد تتسارع بما يتجاوز وتيرة آمنة ما لم تُفرض قيود خارجية. أما رد ميلانفار فيفترض أن الديناميكيات الأساسية تفرض بالفعل قيوداً خاصة بها، وأن السرديات المدفوعة بالمعايير القياسية تبالغ في تقدير مدى سلاسة قدرة النظام على تطوير قدراته ذاتياً. والخلاف ليس حول ما إذا كانت السلامة مهمة؛ بل حول نوع التدخل، إن وُجد، الذي تتطلبه التقنية فعلاً.

إلى أين يتجه النقاش بعد ذلك

سيشكّل الانقسام بين المعسكرين كيفية تطور حوكمة الذكاء الاصطناعي. فإذا أصبحت الرقابة المستقلة توقعاً معيارياً، فقد تتنافس المختبرات على مصداقية مقيّميها الخارجيين. وإذا اكتسبت حجة عدم الاستقرار زخماً، فقد يُعاد تصوير الدعوات إلى التباطؤ على أنها فرامل غير ضرورية لأنظمة يحدّها بالفعل قيودها الذاتية.

• أيّد ألتمان وماسك وهاسابيس جزئياً دعوة أمودي إلى رقابة مستقلة داخل مختبرات الذكاء الاصطناعي.
• يتفق ألتمان وأمودي، بحسب ما ذُكر، على أنه ينبغي تقييم مختبرات الذكاء الاصطناعي بشكل مستقل.
• قال ألتمان لمجلة Fortune إن OpenAI لن تطرح أسهمها للاكتتاب العام هذا العام، مشيراً إلى مخاوف تتعلق بالسلامة، وهو قرار أبلغ به داخلياً في يونيو.
• يشير الموجز المرشح أيضاً إلى قراءة مالية: قد لا تدعم أرقام OpenAI طرحاً عاماً الآن، خصوصاً مقارنة بأرقام Anthropic.
• يرى الباحث في جوجل بيمان ميلانفار أن التحسين الذاتي التكراري افتراض ساذج لأن حلقات التغذية الراجعة ذاتية التحسين غير مستقرة وتزداد نقاطها العمياء مع التحسين.
• يؤكد ميلانفار أن الأدلة الموثوقة تأتي من العالم الحقيقي لا من المعايير القياسية، وأن الاستقرار يعمل كحد السرعة الفعلي.

وفي الوقت الحالي، قد يكون التطور الأكثر أثراً هو تضييق الفجوة بين القادة الذين كانوا يرفضون مقترحات الرقابة وأولئك الذين دافعوا عنها. فالتقييم المستقل لم يعد مطلباً هامشياً. بل أصبح موقفاً يمكن لشخصيات عبر الطليعة — من OpenAI إلى Anthropic، ومن تحذيرات ماسك الطويلة إلى خلفية هاسابيس البحثية — أن تؤيده جزئياً على الأقل. وتتعلق الأسئلة المتبقية بالتصميم المؤسسي والتنفيذ، وما إذا كان المبرر الأمني لتأجيل الطرح العام يعكس استراتيجية مستدامة أم سرداً ملائماً. وستلاحق هذه الأسئلة القطاع في مرحلته التالية، أياً كان الطرف الذي سينتصر في نقاش حد السرعة.

يعتمد هذا المقال على تقرير لـ The Decoder. اقرأ المقال الأصلي.