تستعد المملكة المتحدة لتعزيز دفاعاتها السيبرانية، مع الضغط في الوقت نفسه على الشركات التي تطور أكثر أنظمة الذكاء الاصطناعي قدرة لتحمل مسؤولية أكبر عن سلامتها، وفقاً لتصريحات متوقعة من وزيرة الذكاء الاصطناعي Kanishka Narayan.
وتكتسب الرسالة أهمية لأنها تضع مصدرَي قلق مترابطين على جدول أعمال واحد: أمن نماذج الذكاء الاصطناعي المتزايدة القوة، ومرونة الأنظمة الوطنية المحيطة بها. ويتمثل توجه الحكومة، كما وُصف قبل خطاب Narayan في غرب لندن، في أن بريطانيا لا ينبغي أن تعتمد فقط على شركات التكنولوجيا لمراقبة نماذجها بنفسها.
دعوة إلى ما يتجاوز الضمانات الطوعية
من المتوقع أن تقول Narayan إن مطوري الذكاء الاصطناعي الرائد يحتاجون إلى بذل مزيد من الجهد لضمان سلامة أنظمتهم. ويأتي هذا التدخل وسط قلق دولي واسع بشأن قدرات النماذج المتقدمة جداً وإساءة استخدامها وأمنها.
كما يشير إلى لهجة أكثر تشدداً في النقاش العام البريطاني حول حوكمة الذكاء الاصطناعي. فقد جعلت الشركات التي تبني الأنظمة المتقدمة اختبارات السلامة والضوابط الداخلية والمراجعة الخارجية عناصر أساسية في عرضها العام للتطوير المسؤول. لكن التعليقات المرتقبة للوزيرة توحي بأن الحكومة ترى أن التدابير التي تقودها الصناعة وحدها غير كافية.
ولا يعني ذلك، وفق المعلومات المتاحة، إنشاء نظام قانوني جديد محدد أو قائمة مفصلة بالمتطلبات التقنية. لكنه يرسخ موقفاً سياسياً واضحاً: لا يمكن أن تقع مسؤولية إدارة مخاطر الذكاء الاصطناعي الرائد بالكامل على الشركات التي تتنافس لبنائه.
ويهم هذا التركيز لأن الأنظمة المعنية ليست برامج استهلاكية عادية. يمكن نشر نماذج الذكاء الاصطناعي المتقدمة في البحث وعمليات الشركات والبرمجة والعمل الأمني والخدمات العامة. وقيمتها المحتملة كبيرة، لكن العواقب تكون كبيرة أيضاً إذا أسيء استخدامها أو لم تُضبط كما ينبغي أو حصل عليها خصوم.
سرقة النماذج جزء من نقاش الأمن
يأتي الخطاب بعد تحذيرات Geoffrey Irving، كبير العلماء السابق في معهد أمن الذكاء الاصطناعي في المملكة المتحدة، من احتمال سرقة دول معادية لنماذج متطورة لم تُطرح بعد. وقال Irving لصحيفة The Guardian إن شركات الذكاء الاصطناعي لا تملك أمناً قادراً على منع دولة معادية من الاستيلاء على النماذج.
ويختلف هذا القلق عن السؤال المألوف حول ما إذا كان نظام الذكاء الاصطناعي ينتج مخرجات غير دقيقة أو متحيزة أو ضارة. فهو يركز على النموذج نفسه بوصفه أصلاً عالي القيمة: القدرة الكامنة، والعمل التدريبي، والمعرفة التي قد تكون ذات قيمة للمنافسين أو الجماعات الإجرامية أو المشغلين المدعومين من دول.
يقرب هذا التصور الذكاء الاصطناعي الرائد من عالم حماية التكنولوجيا الاستراتيجية. فإذا تعرض نموذج قوي غير مطروح للاختراق، فقد تتجاوز العواقب الملكية الفكرية لشركة واحدة. ويخشى باحثو الأمن وصانعو السياسات من إمكان دراسة النظام المسروق أو نسخه أو تكييفه أو نشره من دون الضمانات التي فرضها مطوره الأصلي.
وأشار Irving إلى حادثة مرتبطة بـOpenAI قال فيها باحثون في الأمن السيبراني إن نطاق الوصول المحتمل كان واسعاً. وقد جرى العمل ضمن برنامج لدى OpenAI يكافئ المخترقين الأخلاقيين على اختبار أنظمتها. وقالت OpenAI إنها تستخدم وسائل حماية متعددة ضد سرقة النماذج، تشمل التشفير والمراقبة المستمرة.
وتوضح الحادثة سبب ضرورة التمييز بعناية بين الادعاءات العامة المتعلقة بالسلامة والأمن. فالاختبار الأمني المصرح به ليس اختراقاً عدائياً. لكن الاختبارات قد تكشف مواضع تحتاج فيها الدفاعات إلى تحسين، خصوصاً مع ازدياد أهمية أنظمة الذكاء الاصطناعي والبنية التحتية الداعمة لها.
البنية التحتية جزء من القدرة الوطنية
ومن المتوقع أيضاً أن تدافع Narayan عن حاجة المملكة المتحدة إلى بناء قدر أكبر من بنيتها التحتية الخاصة بالذكاء الاصطناعي. ويوسع هذا الطرح النقاش إلى ما يتجاوز قواعد مطوري النماذج.
قد تشمل البنية التحتية القدرة الحاسوبية وأنظمة مراكز البيانات والأجهزة المتخصصة والحماية السيبرانية والخبرة التقنية اللازمة لتطوير الذكاء الاصطناعي وتشغيله على نطاق واسع. والدولة التي تفتقر إلى هذه الأسس قد تكون أقل قدرة على التأثير في كيفية بناء الأنظمة المهمة واختبارها وتأمينها، كما قد تعتمد أكثر على عدد قليل من الشركات الأجنبية للوصول إلى قدرات حاسمة.
لذلك يبدو أن نهج الحكومة يربط القدرة الصناعية بسياسة السلامة. ولا يُطرح بناء القدرة المحلية بوصفه هدفاً اقتصادياً فحسب، بل باعتباره جزءاً من استراتيجية لتقليل الاعتماد وتعزيز المرونة.
وهذا توازن صعب. فالتركيز على الأمن وحده قد يبطئ الابتكار المفيد، بينما قد يؤدي التركيز على النشر السريع وحده إلى ترك المؤسسات مكشوفة. ويشير الخطاب المرتقب إلى محاولة الجمع بين الهدفين: تشجيع قدرة الذكاء الاصطناعي، مع جعل حمايته والإشراف عليه مسؤولية عامة أكثر وضوحاً.
مسألة دولية ذات عواقب محلية
ستُراقب كلمة الوزيرة بحثاً عن مؤشرات على احتمال دعم المملكة المتحدة للتنسيق الدولي حول معايير مشتركة لسلامة الذكاء الاصطناعي. وذكرت The Guardian أن قادة دول من بينها فنلندا وفرنسا وألمانيا وأستراليا وسنغافورة والإمارات العربية المتحدة وقعوا دعوة إلى تنسيق الحكومات لهذه المعايير.
التنسيق الدولي صعب بطبيعته. فالحكومات تختلف في أنظمتها التنظيمية وأولوياتها التجارية وتصوراتها للأمن القومي. كما أن تطوير الذكاء الاصطناعي يتحرك بسرعة، ما يجعل تصميم قواعد تظل مناسبة مع تغير القدرات التقنية أمراً صعباً.
ومع ذلك، فإن الطبيعة العابرة للحدود للذكاء الاصطناعي تجعل العمل الأحادي ناقصاً. يعمل مطورو النماذج دولياً، وقد تتوزع البنية الحاسوبية بين ولايات قضائية مختلفة، ولا تتوقف التهديدات السيبرانية عند الحدود الوطنية. ويمكن للتوقعات المشتركة بشأن التقييم والإفصاح والحماية أن تجعل من الصعب على أضعف الضمانات أن تصبح المعيار الافتراضي.
بالنسبة إلى المملكة المتحدة، تكمن الأهمية المباشرة في الإشارة السياسية. فالحكومة تضع الدفاع السيبراني وسلامة الذكاء الاصطناعي والقدرة التكنولوجية المحلية في إطار قضايا مترابطة، لا ملفات سياسية منفصلة. وستعتمد فعالية هذا النهج على ما سيأتي بعد ذلك: توقعات أمنية ملموسة للمطورين، واستثمار في البنية التحتية التي تقول البلاد إنها تحتاج إليها، وتعاون مع شركاء يواجهون المخاطر المتسارعة نفسها.
في الوقت الراهن، يؤكد الإعلان المرتقب تحولاً بسيطاً في اللهجة. فمع ازدياد قدرة الذكاء الاصطناعي الرائد، لم يعد السؤال يقتصر على ما تستطيع هذه الأنظمة فعله، بل يشمل أيضاً من المسؤول عن تأمينها واختبارها وضمان ألا تتجاوز فوائدها الضمانات المحيطة بها.
يستند هذا المقال إلى تقرير The Guardian. اقرأ المقال الأصلي.
Originally published on theguardian.com