تطرح Anthropic فكرة إبطاء الذكاء الاصطناعي المتقدم، لكنها تتوقف عند حدّ عدم المطالبة بذلك صراحة

Anthropic ترفع قدمها عن الوقود دون أن تضغط على الفرامل بالكامل

أعادت Anthropic إشعال الجدل حول وتيرة تطوير الذكاء الاصطناعي المتقدم عبر القول إن إبطاءً ملموسًا قد يكون حكيمًا إذا أمكن تطبيقه. وفي تدوينة للشركة وصفها موقع Gizmodo، أشارت المختبر إلى بياناتها الداخلية وحذّرت من أن الأنظمة المتقدمة قد تقترب من نقطة «التحسين الذاتي التكراري»، حيث تعمل أنظمة الذكاء الاصطناعي على صقل قدراتها من دون وجود إنسان في الحلقة.

كانت الرسالة الأساسية واضحة بما يكفي لجذب الانتباه: عالم يضم ذكاءً اصطناعيًا قادرًا على تحسين نفسه قد يحقق فوائد كبيرة في العلوم والرعاية الصحية وغيرها من المجالات، لكنه قد يرفع أيضًا خطر فقدان البشر السيطرة على تلك الأنظمة. وفي الوقت نفسه، لم تصدر Anthropic مطلبًا تشغيليًا مباشرًا بوقف العمل. وكما تذكر المصادر، كانت لغتها مشروطة للغاية.

تحذير بصيغة شرطية

قارنَت الشركة فكرة إبطاء التقدم في الذكاء الاصطناعي بجهود نزع السلاح ومنع الانتشار في حقبة الحرب الباردة، ملمحةً إلى أن القيود على التطوير قد تساعد المجتمعات على التعامل مع تبعات أنظمة تزداد قوةً باستمرار. لكن صياغتها توقفت قبل أن تتحول إلى دعوة صريحة إلى الفعل. وكتب المؤلفون أنه إذا كان من الممكن إبطاء التطوير بفاعلية لكسب مزيد من الوقت، فسيكون ذلك على الأرجح أمرًا جيدًا.

هذه الصياغة مهمة. فهي تضع Anthropic في موقع المختبر المستعد لمناقشة ضبط النفس، من دون الالتزام بمطالبة بسيطة وقابلة للاختبار الفوري بوقف العمل من جانبها أو من جانب المنافسين. وتصف Gizmodo الموقف بأنه، عمليًا، اقتراح أكثر منه التزامًا بحملة توقف كاملة.

لماذا يهم التوقيت

يضع المقال التصريح في سياق تجاري أوسع. وتُوصف Anthropic بأنها تقترب من طرح عام أولي مرتقب بشدة، ما يخلق توترًا واضحًا بين هوية تضع السلامة أولًا وتوقعات المساهمين المستقبليين. ومنذ تأسيسها، حاولت Anthropic أن تميّز نفسها بوصفها شركة تأخذ مخاطر الذكاء الاصطناعي على محمل الجد، ومستعدة للتحرك بحذر أكبر من منافسيها إذا لزم الأمر.

وقد ساعد هذا الموقف في تشكيل صورتها العامة. لكن الانتقال إلى الأسواق العامة سيزيد أيضًا الضغط من أجل النمو، والتموضع التنافسي، ومواصلة تقدم النماذج. ومن هذا المنظور، يمكن قراءة الدعوة الملتفة إلى إبطاء التطوير بطريقتين في آن واحد: كتوجيه تحذيري جوهري بشأن قدرات الأنظمة، وكبيان عام محسوب بدقة من شركة لا تزال مضطرة إلى المنافسة.

عتبة التحسين الذاتي التكراري

لا يقدّم المصدر أدلة تقنية تفصيلية من Anthropic، لذا تكمن أهمية الادعاء أساسًا في أنها تطرحه أصلًا. وقد ظل التحسين الذاتي التكراري يُنظر إليه منذ زمن طويل على أنه سيناريو عتبة في نقاشات مخاطر الذكاء الاصطناعي، لأنه يفترض حلقة تغذية راجعة تُحسّن فيها الأنظمة أداءها من دون الوتيرة البشرية المعتادة أو الإشراف البشري المعتاد.

حتى التحرك الجزئي نحو هذا الوضع سيكون مهمًا بالنسبة للحَوْكمة. فالمُنظّمون والمختبرات والعملاء سيواجهون أسئلة حول التقييم، والتحكم، وحدود النشر، والتنسيق الدولي. وتقول Anthropic إن تحدي الحوكمة قد يصل أسرع مما تتوقعه المؤسسات المريحة.

أصداء جدل التوقف في 2023

يعيد المنشور أيضًا إحياء الحجج التي برزت بوضوح في عام 2023، عندما عمّم Future of Life Institute رسالة مفتوحة دعت إلى توقف لمدة ستة أشهر في تدريب أقوى النماذج الجديدة. وساعدت تلك الرسالة على نقل مخاطر الذكاء الاصطناعي إلى قلب النقاش العام، لكنها لم تتحول إلى سياسة مُلزمة. ويشير المصدر إلى المفارقة المتمثلة في أن Elon Musk، أحد الموقّعين، أطلق بعد ذلك بفترة قصيرة شركته الناشئة المنافسة في الذكاء الاصطناعي.

يختلف تدخل Anthropic في النبرة. فبدلًا من إصدار مطلب جماعي مباشر، فهي تشير إلى أن الإبطاء سيكون مفيدًا في ظروف قد يكون من الصعب تحقيقها سياسيًا أو عمليًا. وهذا يجعل التصريح أسهل من حيث القبول البلاغي، وأصعب من حيث التنفيذ العملي.

ما الذي يغيّره التصريح فعلًا

الأثر الفوري ليس تحولًا في السياسة. فلا توجد أدلة في المادة المقدمة على أن Anthropic أو القطاع الأوسع يوقفان التطوير بالفعل. بل يتمثل الأثر العملي في الحجة نفسها. فمختبر كبير للذكاء الاصطناعي يعلن مرة أخرى علنًا أن ديناميكية السباق قد لا تتوافق مع الحوكمة الآمنة.

وهذا مهم لأن المصدر يصف Anthropic بأنها واحدة من المختبرات الكبيرة الأكثر ارتباطًا بالحذر. عندما تقول شركة من هذا النوع إن الإبطاء قد يكون أمرًا مرغوبًا، فإنها تعزز فكرة أن التحذيرات الأشد لا تأتي من النقاد الخارجيين فقط، بل من المشاركين داخل الصناعة أيضًا.

• تقول Anthropic إن إبطاء تطوير الذكاء الاصطناعي المتقدم قد يكون مفيدًا إذا كان ممكنًا.
• وتستند الشركة إلى مخاوف تتعلق بالتحسين الذاتي التكراري.
• وتأتي صياغتها على نحو مشروط بوضوح، لا كمطالبة مباشرة بوقف فوري.
• ويتزامن التوقيت مع أسئلة أوسع حول المنافسة والسلامة وإمكانية طرح عام أولي.

والنتيجة رسالة مهمّة تحديدًا لأنها غير مكتملة. فـ Anthropic لا تدعو إلى إنهاء السباق. بل تذكّر الصناعة بأنها ترى أسبابًا قد تجعل هذا السباق يحتاج إلى حدود أكثر صرامة مما يقدمه السوق حاليًا.

هذه المقالة مبنية على تغطية Gizmodo. اقرأ المقال الأصلي.