رئيس مايكروسوفت يدعو إلى قواعد لسلامة الذكاء الاصطناعي ومفاتيح إيقاف طارئة

دعا رئيس مايكروسوفت براد سميث إلى قواعد أكثر إلحاحاً لسلامة الذكاء الاصطناعي، قائلاً إن الذكاء الاصطناعي يخضع لتنظيم أقل صرامة من منتجات يومية مثل الحليب والغسالات. وتضيف تصريحاته إلى نقاش عام متسع حول كيفية إدارة الشركات والحكومات لأنظمة تستطيع إنتاج التوصيات والإجابات والأفعال على نطاق واسع.

وفي حديثه إلى BBC، وصف سميث الذكاء الاصطناعي بأنه أداة محتملة وسلاح محتمل أيضاً. وقال إن التكنولوجيا ينبغي أن تخضع لمتطلبات سلامة أقوى، وإن على الشركات التزاماً قانونياً تجاه الضحية عندما يُخترق نظامها بواسطة وكلاء ذكاء اصطناعي منفلتين. وجاءت تصريحاته بينما كانت وزيرة الذكاء الاصطناعي البريطانية كانيشكا نارايان تستعد لحث مطوري النماذج المتقدمة على بذل مزيد من الجهد لمعالجة المخاطر وتحسين الضمانات.

الدعوة إلى مكابح الطوارئ

كان جوهر حجة سميث أن أنظمة الذكاء الاصطناعي تحتاج إلى «مكابح طارئة»، تُسمى أيضاً مفاتيح الإيقاف، تستطيع إيقاف النظام أو إبطاءه إذا بدأ بالخروج عن نطاق السيطرة المقبول. وتعكس الفكرة سؤالاً أساسياً في الحوكمة: هل تستطيع المؤسسات مراقبة سلوك النظام واختبار حدوده والتدخل بصورة موثوقة عند حدوث خلل؟

وكان الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا قد قدم دعوة مشابهة في اليوم السابق. وقال إن الذكاء الاصطناعي عالي القدرة لا ينبغي التعامل معه باعتباره مجموعة من الصناديق السوداء المعتمة والمتداخلة، تُقبل توصياتها أو أفعالها أو تُرفض بعد وقوعها. ودعا بدلاً من ذلك إلى أنظمة محتواة يمكن مراقبة سلوكها واختبار حدودها وحصر أفعالها.

ولا يحدد تصريحا المسؤولين نصاً تشريعياً أو معياراً تقنياً معيناً. لكنهما يضعان مايكروسوفت بين الشركات التي تضغط علناً من أجل آليات تمنح المشغلين وسيلة لإيقاف سلوك الذكاء الاصطناعي أو تقييده في ظروف محددة.

لماذا تهم المقارنة

هدفت مقارنة سميث مع الغسالات وعبوات الحليب إلى توضيح نقطة تنظيمية: فالسلع الاستهلاكية العادية تخضع عادة للتفتيش ومتطلبات السلامة، بينما تجاوز التطور السريع للذكاء الاصطناعي إنشاء مجموعة مماثلة من الضوابط المطبقة على نطاق واسع. والمقارنة خطابية، لكنها تعكس القلق من أن الأنظمة القادرة على التأثير في الناس عبر قرارات أو أفعال آلية تحتاج إلى مساءلة أوضح من الالتزامات الطوعية وحدها.

كما يثير اقتراحه الالتزام تجاه الضحايا سؤال المسؤولية عندما يُخترق نظام يستخدم الذكاء الاصطناعي أو يستغله وكلاء منفلتون. ولم يحدد المقال ما الذي سيتطلبه هذا الالتزام، أو من سيقرر وقوع الاختراق، أو كيفية توزيع المسؤولية بين مطوري النماذج ومقدمي البنية التحتية والجهات التي تنشر الأنظمة. وستكون هذه التفاصيل مركزية في أي تنظيم مستقبلي.

ضغط على مطوري النماذج المتقدمة

تأتي التصريحات وسط دعوات من خبراء وسياسيين وهيئات تنظيمية إلى قواعد أكثر صرامة للذكاء الاصطناعي، وتحذيرات من Anthropic وGoogle DeepMind وOpenAI بشأن سرعة تطور التكنولوجيا. ولا يتمثل القلق المشترك في وقف كل استخدام للذكاء الاصطناعي، بل في ضرورة أن يبذل مطورو الأنظمة الأكثر قدرة مزيداً من الجهد لتحديد المخاطر الشديدة وإدارتها قبل نشر الأنظمة على نطاق واسع.

وكان متوقعاً أن تقدم وزيرة الذكاء الاصطناعي البريطانية حجة مشابهة، مطالبة الشركات التي تطور الذكاء الاصطناعي المتقدم بتعزيز الضمانات. ولا يضمن توافق موقف قيادة شركة تقنية كبرى مع موقف وزيرة حكومية الاتفاق على السياسة، لكنه يوضح أن النقاش يركز بصورة متزايدة على الضوابط التشغيلية والمساءلة وممارسات السلامة القابلة للإثبات.

من المبدأ إلى التنفيذ

عبارة «مفتاح الإيقاف» سهلة الفهم، لكن تنفيذها ليس قراراً بسيطاً بتشغيل أو إيقاف. إذ يجب على نظام التحكم الطارئ المفيد تحديد شروط التدخل، وتحديد صاحب الصلاحية لاستخدامه، وضمان فعاليته التقنية. كما ينبغي ألا يتحول إلى وعد للعلاقات العامة يفشل عندما يتعرض النظام للضغط.

وتشير تصريحات سميث وناديلا إلى توقع أكثر تحديداً: يجب أن تتمكن الشركات من مراقبة سلوك الذكاء الاصطناعي واختبار حدوده والاحتفاظ بالقدرة على احتواء أفعاله. وينقل هذا المعيار الاهتمام من الادعاءات بشأن السلوك المقصود للنموذج إلى الأدلة على قدرة المؤسسة على مراقبة الأنظمة والتحكم فيها أثناء التشغيل.

• قال براد سميث إن الذكاء الاصطناعي يحتاج إلى قواعد سلامة أكثر إلحاحاً وضمانات أقوى.
• دعا إلى مكابح طارئة والتزام قانوني تجاه الضحايا بعد اختراقات ينفذها وكلاء ذكاء اصطناعي منفلتون.
• دعا ساتيا ناديلا منفصلاً إلى أنظمة ذكاء اصطناعي يمكن مراقبة حدودها وأفعالها واحتواؤها.

نقاش سياسي ذو آثار عملية

من المرجح أن يتجاوز النقاش مسألة الحاجة إلى التنظيم إلى كيفية صياغته. وسيتعين على صانعي السياسات النظر في تطبيق القواعد على المطورين ومشغلي السحابة والبنية التحتية والمنظمات التي تنشر الذكاء الاصطناعي في الواقع. وتواجه الشركات بدورها سؤالاً حول قدرة أنظمة الرقابة لديها على مواكبة دمج النماذج في المنتجات وسير العمل.

يصوغ تحذير سميث القضية بلغة واضحة: إذا كان المجتمع يتوقع فحوص سلامة للمنتجات المألوفة، فقد يتوقع أيضاً ضوابط قوية لتكنولوجيا يمكنها تشكيل المعلومات وأتمتة المهام وإساءة الاستخدام. وسيكون الاختبار التالي هو ما إذا كانت هذه الدعوات ستنتج ممارسات محددة قابلة للإنفاذ، لا جولة أخرى من الالتزامات العامة.

يستند هذا المقال إلى تقرير من The Guardian. اقرأ المقال الأصلي.