تصفّح موجز الأخبار، أو احضر كلمة افتتاحية في مؤتمر تقني، أو استمع إلى جلسة لجنة برلمانية بعد الظهر، وستصادف التحذير نفسه بصياغة مختلفة قليلاً: الذكاء الاصطناعي يتسارع نحو عتبة لا يمكن بعدها السيطرة عليه، وقد تكون النتيجة كارثية — وربما وجودية. وقد أصبح هذا التأطير عنصراً ثابتاً في التغطية الحديثة، يتكرر في الفقرات الإذاعية وأعمدة الرأي وحلقات النقاش حتى بات يعمل لا كاستنتاج بل كمزاج عام.
لكن ثمة مشكلة في ذلك المزاج. وكما تقول مجلة نيو ساينتست، فإن التحذيرات القاتمة بشأن المخاطر الوجودية التي يشكلها الذكاء الاصطناعي تملأ الأخبار، ومع ذلك لا توجد سوى أدلة ضئيلة جداً لدعمها. وهذا التباين — يقين صاخب في جانب، وتوثيق هزيل في الجانب الآخر — يستحق الاهتمام بحد ذاته، لأن طريقة وصف المخاطر تشكّل كيفية تنظيم الحكومات، وكيفية بناء الشركات، وكيفية تحديد الجمهور لما ينبغي أن يخافه.
عبارة واحدة، وادعاءات مختلفة تماماً
فكرة أن الذكاء الاصطناعي "يخرج عن السيطرة بشكل خطير" مكثفة بلاغياً لكنها فضفاضة تحليلياً. فهي تجمع فئات من القلق تختلف اختلافاً هائلاً في مدى فهمها ومدى سهولة إثباتها:
- أنظمة تتصرف بطرق لم يقصدها مشغّلوها أو لا يستطيعون تفسيرها بالكامل.
- تحسينات في القدرات تصل أسرع مما تستطيع الرقابة أو الاختبار أو القانون استيعابه.
- إساءة استخدام متعمدة لنماذج قوية من قبل دول أو مجرمين أو أفراد.
- سيناريوهات بعيدة المدى تفقد فيها البشرية بشكل دائم السيطرة الفعلية على أكثر آلاتها قدرة.
يمكن من حيث المبدأ فحص الفئتين الأوليين بالسجلات والتدقيقات وتقارير الحوادث. أما الأخيرة فهي تنبؤ بمستقبل لم يتحقق بعد. وعندما تُضغط الفئات الأربع جميعاً في عنوان واحد، ينتقل هالة الإلحاح المرتبطة بالبند الأكثر تخميناً بهدوء إلى المجموعة بأكملها — وإلى أي مقترح سياسي يزعم معالجتها.
لماذا ينتشر الذعر أسرع من التوثيق
ثمة أسباب بنيوية تجعل التحذيرات تسبق الإثبات. فالسيناريو الحيوي وعالي المخاطر أكثر جدارة بالأخبار بطبيعته من نتيجة سلبية دقيقة. ويعمل الباحثون وجماعات المناصرة والمختبرات جميعاً ضمن هياكل حوافز تكافئ التأطير الدرامي: فورقة بحثية تحمل في عنوانها علامة استفهام حول الكارثة تجذب انتباهاً لا تحظى به ورقة توثّق تحسناً متواضعاً في القدرات.
ويضاعف المنطق الاحترازي هذا الأثر. فإذا كانت النتيجة السلبية حضارية حقاً، تقول الحجة، فلا يمكننا تحمّل انتظار الأدلة قبل التصرف. وقد يكون هذا المنطق مقبولاً في بعض المجالات، لكنه يخلق فخاً بلاغياً: فكلما كان الادعاء أكثر تطرفاً، بدا أقل حاجة إلى الدعم، لأن المطالبة بالدعم يُعاد تصويرها كطمأنينة متهورة.
مشكلة القابلية للتنبؤ
اختبار الادعاءات حول الأنظمة الخارجة عن السيطرة صعب حقاً. فلا يمكنك إجراء تجربة مضبوطة على نهاية الاستقلالية البشرية. لكن صعوبة التحقق ليست نفسها دليلاً على الخطر — واعتبار الاثنين متكافئين هو حيث تخطئ كثير من التغطيات.
كيف ستبدو الأدلة فعلاً
غياب الإثبات ليس إثباتاً للغياب، ويجدر أن نكون دقيقين بشأن ما يمكن اعتباره توثيقاً. الدعم ذو المعنى لادعاءات فقدان السيطرة سيشمل حالات موثقة وقابلة للتكرار لأنظمة تسعى إلى أهداف لم يحددها مصمموها؛ وتكراراً مستقلاً لتلك النتائج خارج المؤسسات التي لها مصلحة في السردية؛ واتجاهات قابلة للقياس، بدلاً من استقراءات افتراضية، في الفجوة بين القدرة والسيطرة؛ وتنبؤات يمكن التحقق منها مقابل النتائج بدلاً من تعديلها باستمرار.
اليوم، يستند قدر كبير من النقاش العام إلى تجارب فكرية وقياس بالمماثلة وبناء سيناريوهات. ولهذه الأدوات قيمة في التحضير لأحداث منخفضة الاحتمال عالية الأثر. لكنها ليست بحد ذاتها دليلاً على أن الحدث جارٍ.
لماذا يهم هذا التمييز
إدماج كل مخاطر الذكاء الاصطناعي في إطار وجودي واحد له عواقب عملية. فقد يزاحم الاهتمام بأضرار موثقة بشكل أفضل وقابلة للمعالجة بشكل أكثر إلحاحاً، لأن سيناريو نهاية الحضارة يطغى على أي مقارنة. كما يجعل تصميم سياسات متناسبة أكثر صعوبة: فالتدابير المبررة بكارثة على مستوى النوع البشري ستبدو مفرطة عند تطبيقها على الأعطال العادية التي تظهر فعلاً في الأنظمة المنشورة.
لا يعني أي من هذا أن الذكاء الاصطناعي آمن، أو أن الباحثين الذين يدرسون المخاطر القصوى يهدرون وقتهم. بل يعني أن ثقة التحذير ينبغي أن تطابق قوة الأدلة وراءه — وفي المسألة الوجودية، تتقدم تلك الثقة حالياً على السجل بكثير.
تكلفة اليقين غير المستحق
المبالغة تحمل مخاطرها الخاصة. فالتنبؤات التي لا تتحقق أبداً إلى أحداث قابلة للملاحظة تقوّض ثقة الجمهور بالخبرة عموماً، مما يجعل حشد الانتباه أصعب عندما تظهر مشكلة مدعومة بأدلة جيدة. وقد تجد المؤسسات التي تراهن على مصداقيتها بكارثة وشيكة أن تلك المصداقية قد استُهلكت عندما يتأخر الجدول الزمني.
ثمة خطر معاكس بالطبع: رفض خطر حقيقي لأن أعلى الأصوات بالغت فيه. والموقف المسؤول ليس الذعر الانعكاسي ولا التشكك الانعكاسي بل التناسب — معايرة الاعتقاد بجودة العمل الأساسي.
كيف تقرأ التحذير التالي
عندما يصل العنوان التالي المثير للقلق حول الذكاء الاصطناعي، تساعد بعض الأسئلة في فصل التحليل عن الأجواء العامة:
- ما الآلية المحددة المزعومة، وهل يمكن ملاحظتها لو كانت صحيحة؟
- هل هذا استنتاج موثق أم سيناريو متوقع؟
- من يستفيد من هذا التأطير، وهل أكده عمل مستقل؟
- هل صيغ الادعاء بطريقة يمكن يوماً إثبات خطئه؟
وعند تطبيقها باستمرار، لا تحسم تلك الأسئلة ما إذا كان الذكاء الاصطناعي المتقدم سيشكل يوماً تهديداً كارثياً. إنها ببساطة تعيد معايير الأدلة العادية التي سُمح للادعاءات الأكثر إثارة بتجاوزها. والقصة، كما تشير نيو ساينتست، ليست أن الذكاء الاصطناعي آمن بالتأكيد — بل أن الفجوة بين ما يُ asserted وما يُ demonstrated قد اتسعت بشكل غير معتاد، وهذه الفجوة نفسها تستحق التغطية.
هذا المقال مبني على تقرير لنيو ساينتست. اقرأ المقال الأصلي.
Originally published on newscientist.com