لجنة أممية: لا يمكن انتظار اليقين العلمي بشأن ضمانات الذكاء الاصطناعي

تحذير يصل قبل اكتمال الأدلة

ينبغي للحكومات أن تتحرك لكبح جماح وكلاء الذكاء الاصطناعي المتزايدي القدرة قبل وقت طويل من قدرة الباحثين على تفسير كيفية فشل تلك الأنظمة تفسيرًا كاملًا، وفقًا للجنة علمية تابعة للأمم المتحدة. ويأتي هذا الاستنتاج في أول موجز موضوعي للجنة، الذي يُوصف بأنه أول تقييم رئيسي للهيئة العالمية لاختراق OpenAI لـ Hugging Face في وقت سابق من هذا العام.

وتصدر الوثيقة في لحظة انتقلت فيها سياسات الذكاء الاصطناعي من غرف المؤتمرات التقنية إلى المسرح الرئيسي للدبلوماسية الدولية. وحجتها الجوهرية غير مريحة للمنظمين الذين يفضلون انتظار إثبات قاطع للضرر: فبحلول الوقت الذي تُحسم فيه العلاقة السببية، قد يكون الضرر قد وقع بالفعل ولا يمكن إصلاحه.

داخل الهيئة العلمية الأممية الجديدة للذكاء الاصطناعي

أُعدّ الموجز من قبل الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، وهو هيئة أُنشئت العام الماضي وتُوصف بأنها أول هيئة علمية عالمية تابعة للأمم المتحدة معنية بالذكاء الاصطناعي. وتتمثل مهمتها في منح الدول الأعضاء مرجعية علمية مشتركة في وقت تتباين فيه القوانين الوطنية وتدفع الحوافز التجارية التطوير بوتيرة أسرع مما تستطيع الرقابة مواكبته.

وبدلًا من اقتراح تشريع عالمي واحد، تدعو اللجنة إلى تحول جوهري في الأولويات. وتتمحور توصياتها حول ثلاثة مطالب واسعة:

• تكريس قدر أكبر بكثير من الاهتمام والموارد لإدارة المخاطر الناشئة عن أنظمة الذكاء الاصطناعي المتقدمة.
• تعزيز التنسيق الدولي بشأن السلامة، حتى لا تُقوَّض الضوابط في ولاية قضائية واحدة بقواعد أكثر تساهلًا في مكان آخر.
• بناء آليات مساءلة متينة قادرة على تحديد المسؤولية عندما تسبب الأنظمة المستقلة ضررًا.

وتؤكد اللجنة صراحة أن الدول لا تحتاج إلى مواءمة أطرها القانونية لتتحرك. فبإمكان ولايات قضائية مختلفة اتباع مقاربات مختلفة، وفق حجتها، شرط أن تعامل المخاطر الكامنة باعتبارها مشكلة مشتركة لا ميزة تنافسية يُستفاد منها.

لماذا يقوم مبدأ الحيطة بالعبء الأكبر

العمود الفكري للموجز هو مبدأ الحيطة، الذي كُرّس أول مرة في إعلان ريو للأمم المتحدة بشأن البيئة والتنمية عام 1992. ويقضي هذا المبدأ بأن عدم اليقين العلمي ليس عذرًا صالحًا لتأجيل التدابير ضد ضرر محتمل جسيم أو لا يمكن إصلاحه.

وترى اللجنة أن خطر فقدان السيطرة في أنظمة الذكاء الاصطناعي المتقدمة هو تحديدًا الفئة من المشكلات التي كُتب المبدأ من أجلها. وفي تصورها، فإن هذا الخطر هو خطر يمكن أن يكون فيه الضرر المحتمل كارثيًا أو غير قابل للإصلاح حتى مع بقاء احتماله غير مؤكد علميًا.

عدم اليقين كواقع لا كتكتيك للتأجيل

هذا هو أشد ما يقطع به الموجز مع الممارسة التنظيمية السائدة. فمعظم قواعد الذكاء الاصطناعي القائمة تُفعَّل بأضرار مُثبتة أو معايير قابلة للقياس. أما اللجنة فتعامل غياب سلسلة سببية مُثبتة باعتباره سببًا للحذر لا سببًا للانتظار.

والأثر العملي لذلك كبير. فإذا قبلت الحكومات منطق اللجنة، فستبدأ في فرض ضمانات على أنظمة لا تزال أنماط فشلها موصوفة وصفًا ضعيفًا، متقبلة بعض التكلفة والاحتكاك مقابل الحماية من أحداث منخفضة الاحتمال عالية العواقب.

حادثة Hugging Face تعيد تأطير النقاش

ما يمنح الموجز إلحاحه هو الواقعة التي يفحصها: اختراق OpenAI لـ Hugging Face في وقت سابق من هذا العام. وتتعامل اللجنة مع تلك الحادثة كدراسة حالة لكيفية تصاعد إخفاقات الأمن المرتبطة بالبنية التحتية للذكاء الاصطناعي المتقدم بسرعة من مشكلة مؤسسية إلى مسألة تثير قلقًا دوليًا.

والأهم أن اللجنة لا تدّعي أنها أعادت بناء آليات الحدث بالكامل. وحجتها أن هذه الفجوة في الفهم هي بالضبط سبب كون الانتظار استراتيجية خاطئة. فنظام يمكن اختراقه قبل رسم سلوكه بالتفصيل لا يمكن حوكمته بالاعتماد فقط على التحقيق بأثر رجعي والإفصاح بعد وقوع الأمر.

التوقيت الدبلوماسي: أسبوع الجمعية العامة ومحادثات الولايات المتحدة والصين

يرسّخ الموجز موقع الذكاء الاصطناعي على جدول الأعمال الدبلوماسي العالمي هذا الأسبوع، مع تجمع قادة العالم في نيويورك لحضور الجمعية العامة للأمم المتحدة واستعداد بكين وواشنطن لعقد محادثات بشأن الذكاء الاصطناعي. ويمنح هذان المساران المتوازيان التقرير نفوذًا غير معتاد: فهو يقدم مرتكزًا علميًا محايدًا في لحظة تتفاوض فيها أكبر قوتين في مجال الذكاء الاصطناعي على المستوى الثنائي.

ويبدو أن مؤلفي التقرير يدركون هذا السياق. فبتأسيسهم توصياتهم على القانون الدولي القائم بدلًا من أي نموذج تنظيمي لدولة واحدة، يجعلون الموجز أصعب في التصريف باعتباره نتاج أولويات كتلة واحدة.

غوتيريش: العالم لا يستطيع تحمل سباق نحو القاع

يأتي إصدار اللجنة بعد تصريحات للأمين العام للأمم المتحدة أنطونيو غوتيريش، الذي حثّ الأسبوع الماضي الحكومات على التعاون بشأن التهديدات التي يشكلها الذكاء الاصطناعي. وحذّر من أن العالم لا يستطيع تحمل سباق نحو القاع في مجال سلامة الذكاء الاصطناعي.

وتلخص هذه العبارة التوتر البنيوي الذي يحاول الموجز حله. فإذا فرضت متطلبات السلامة تكاليف، تواجه الدول الفردية حافزًا لتخفيفها من أجل جذب المختبرات والقدرة الحاسوبية والاستثمار. وجواب اللجنة هو التنسيق: رفع الحد الأدنى جماعيًا بدلًا من التنافس على مدى انخفاضه.

قوانين مختلفة، خطر مشترك واحد

لا يطالب الموجز بدليل قواعد عالمي واحد. فهو يقر بأن الدول ستواصل التشريع بطرق مختلفة، متأثرة بتقاليدها القانونية وسياساتها الصناعية ودرجات تحملها للمخاطر. لكنه يصر على ألا يتحول التنوع في المقاربات إلى تنوع في الجدية.

وبالنسبة للمنظمين الوطنيين، يُترجم ذلك إلى توقع قابلية التشغيل البيني: إبلاغ مشترك عن الحوادث، ومعايير تقييم قابلة للمقارنة، وقنوات للتواصل السريع عند تصرف نظام بشكل غير متوقع. وبالنسبة للمطورين، يشير ذلك إلى أن الامتثال لقواعد ولاية قضائية واحدة من غير المرجح أن يُعتبر حماية كافية في مكان آخر.

ما الذي سيحدث بعد ذلك

باعتباره موجزًا موضوعيًا لا أداة ملزمة، لا يحمل التقرير سلطة إنفاذ. وسيُقاس تأثيره بمدى انتقال لغته إلى القوانين الوطنية والبيانات متعددة الأطراف والمحادثات الثنائية بين واشنطن وبكين.

ومع ذلك، فعلت اللجنة شيئًا لافتًا: فقد وضعت عبء الإثبات على من يجادلون بأن الضمانات ينبغي أن تنتظر اليقين. وإذا ترسّخ هذا التأطير، فقد تبدو سنوات حوكمة الذكاء الاصطناعي المقبلة أقل شبهاً بنقاش حول ما إذا كان ينبغي التنظيم وأكثر شبهاً بنقاش حول مقدار الحيطة الذي يرغب العالم في شرائه — ومدى سرعة استعداده للدفع مقابله.

يعتمد هذا المقال على تقرير لـ The Verge. اقرأ المقال الأصلي.