الرئيس التنفيذي لشركة Microsoft يطرح رؤية للسلامة تبدأ بالاحتواء
قال الرئيس التنفيذي لشركة Microsoft، ساتيا ناديلا، إن أنظمة الذكاء الاصطناعي المتقدمة ينبغي تصميمها على افتراض أنها قد تكون مخترقة، مع تمكين شخص مؤهل من إيقافها مؤقتًا أو إغلاقها أثناء تشغيلها.
وفي منشور مطول على X، وصف ناديلا مستقبلًا لا يمكن فيه التعامل مع الذكاء الاصطناعي بوصفه مجموعة من الأنظمة الغامضة التي يكتفي الناس بقبول توصياتها وإجراءاتها أو رفضها. ودعا بدلًا من ذلك إلى أنظمة أكثر شفافية يمكن مراقبتها واحتواؤها، وتترك أدلة غير قابلة للعبث ومقروءة للبشر عمّا حدث.
وتضع تصريحاته التحكم التشغيلي وقابلية التدقيق في صميم النقاش حول النماذج عالية القدرات. كما أنها تؤطر سلامة الذكاء الاصطناعي بدرجة أقل باعتبارها مسألة ثقة في السلوك المقصود للنموذج، وبدرجة أكبر باعتبارها مسألة بناء أنظمة تظل قابلة للإدارة عندما تكون تلك الثقة في غير محلها.
الاحتواء منذ البداية
يتمثل اقتراح ناديلا الأكثر مباشرة في التعامل مع الاحتواء باعتباره متطلبًا أساسيًا لا إجراءً استثنائيًا للحماية. وشبّه الفكرة بفرامل الطوارئ: إذ ينبغي لشخص مخول أن يتمكن من مقاطعة النموذج أو إيقافه في منتصف المهمة.
وتزداد أهمية هذا المبدأ مع استخدام النماذج في أعمال أطول زمنًا أو أكثر تبعات. فقد ينشئ النظام القادر على اتخاذ إجراءات أو استخدام أدوات أو تنفيذ مهمة متعددة الخطوات مخاطر يصعب التعامل معها بعد وقوع النتيجة. وتهدف آلية الإيقاف المؤقت أو الإغلاق إلى الحفاظ على إمكانية التدخل البشري بينما لا تزال المهمة جارية.
كما قال ناديلا إن الأنظمة الأكثر تقدمًا ستحتاج إلى تقنيات احتواء أكثر تقدمًا، وإنه ينبغي توحيد هذه التقنيات. ولا يحدد البيان تصميمًا تقنيًا بعينه، لكنه يشير إلى توقع أوسع: ينبغي ألا تُرتجل ضوابط السلامة بشكل مستقل لكل نموذج أو عملية نشر.
الشفافية والأدلة والتدقيق الخارجي
تتداخل توصيات رئيس Microsoft مع أفكار بارزة بالفعل في نقاشات حوكمة الذكاء الاصطناعي، ومنها الإفصاح في الوقت المناسب عن الحوادث، وعمليات التدقيق المستقلة، والبيانات القابلة للتحقق، والاحتواء التقني.
وتعالج هذه الإجراءات مجتمعة جوانب مختلفة من مشكلة المساءلة. إذ يمكن للإفصاح عن الحوادث أن ينبه المستخدمين والمطورين والجهات التنظيمية إلى الإخفاقات. ويمكن لعمليات التدقيق المستقلة اختبار الادعاءات التي يطرحها مطورو الذكاء الاصطناعي. وقد تجعل البيانات القابلة للتحقق فحص أساس مخرجات النظام أو إجراءاته أسهل. ويوفر الاحتواء وسيلة للحد من الضرر عندما يتصرف النظام بصورة غير متوقعة أو يُساء استخدامه.
ويكتسب تركيز ناديلا على الأدلة غير القابلة للعبث والمقروءة للبشر أهمية خاصة لأنه يربط الضمانات التقنية بالرقابة العملية. فلا يكفي أن تكون الأدلة موجودة؛ بل يجب أن تكون متاحة في صيغة يمكن للناس فحصها عندما يحتاجون إلى تحديد ما فعله النظام ولماذا اتُخذ قرار ما.
الانتقال من القبول إلى التحكم
تتمثل الحجة الأساسية في أن الذكاء الاصطناعي المتقدم لا ينبغي قبوله باعتباره صندوقًا أسود لمجرد أنه قد يكون مفيدًا. وتشير صياغة ناديلا إلى أن ادعاءات الموثوقية وحدها غير كافية للأنظمة التي قد تؤثر في قرارات مهمة أو تتصرف في بيئات معقدة.
وبدلًا من ذلك، ينصب التركيز على الظروف المحيطة بالنموذج: هل يمكن مراقبته؟ هل يمكن توثيق نشاطه؟ هل تستطيع جهات خارجية تقييمه؟ وهل يمكن لشخص يملك السلطة المناسبة إيقافه؟ ولا يلغي هذا النهج تحدي بناء نماذج قادرة، لكنه يجعل خصائص التحكم جزءًا من تعريف النظام القابل للنشر.
وأشار ناديلا مرارًا إلى احتمال ظهور «ذكاء فائق»، وهي لغة تعكس الطابع عالي المخاطر لتدخله. لكن توصياته العملية تتعلق بخيارات الحوكمة الحالية: التدقيق، والإبلاغ، وقابلية التحقق، وآليات التدخل البشري.
ما الذي يعنيه الاقتراح؟
لا يمثل الاقتراح مخططًا تقنيًا أو تنظيميًا كاملًا. لكنه دعوة واضحة إلى مطوري الذكاء الاصطناعي والجهات التي تنشره للتخطيط لاحتمالات الاختراق أو الفشل أو إساءة الاستخدام قبل وضع النظام في الخدمة.
وبالنسبة إلى المؤسسات التي تعتمد الذكاء الاصطناعي، فإن الدلالة العملية واضحة: تقييم ما إذا كان يمكن مراقبة الأنظمة، وما إذا كان النشاط يُسجل بطريقة قابلة للفحص، ومن يُسمح له بالتدخل، وما إذا كان التدخل يمكن أن يحدث بسرعة كافية ليكون مؤثرًا. ومع ازدياد قدرات أنظمة الذكاء الاصطناعي، قد تنتقل هذه الأسئلة من قائمة فحص للسلامة إلى شرط أساسي للاستخدام.
يستند هذا المقال إلى تقرير نشرته The Verge. اقرأ المقال الأصلي.
Originally published on theverge.com