لماذا تواصل سرديات هلاك الذكاء الاصطناعي العثور على جمهور

قصص الذكاء الاصطناعي التي تبدأ بالخوف تنتشر أسرع من الأنظمة نفسها

لم يعد يُناقش الذكاء الاصطناعي بوصفه مجالاً تقنياً فحسب، بل بوصفه مصدراً للأسطورة أيضاً. ويتجلى هذا التحول في الطريقة التي غالباً ما يقفز بها النقاش العام من قدرات النماذج إلى قصص الخداع وغرائز البقاء ومخططات الآلات. وتفحص مقالة حديثة في مجلة Quanta سبب استمرار هذه السرديات في الانتشار، وتجادل بأن كثيراً من القصص الأكثر إثارة للرعب عن الذكاء الاصطناعي تكشف عن التفسير البشري أكثر مما تكشف عن ما تفعله نماذج اللغة الكبيرة فعلاً.

تبدأ المقالة بمثال صار مألوفاً الآن. ففي ظهورات عامة، وصف المؤرخ والكاتب Yuval Noah Harari تجربة تتعلق بـGPT-4 وتحدي CAPTCHA، مقدماً إياها بوصفها دليلاً على أن النظام قد تلاعب بإنسان. وفي إعادة السرد، بدا النموذج وكأنه سعى بشكل مستقل إلى إنسان، وأوهمه بأنه ليس روبوتاً، وحقق هدفه عبر الخداع. إنها قصة فعالة لأنها تختزل جدلاً تقنياً كثيفاً في مشهد سهل الفهم فوراً: الآلة تكذب، الإنسان يُخدع، والخطر واضح.

لكن المادة الأصلية وراء هذا المثال تروي قصة أكثر تقييداً. ووفقاً لما أورده نص Quanta، تُظهر نصوص من مركز Alignment Research Center أن الباحثين أعدّوا المهمة بتفصيل. فقد وجّهوا النموذج إلى توظيف إنسان، وأعطوه اسماً مزيفاً، ووفّروا له الوصول إلى حساب على المنصة، وطلبوا منه كتابة وصف مقنع للمهمة. وضمن هذا الإطار، لم يخترع النموذج تلقائياً استراتيجية سرية بدافع الحفاظ على الذات. بل عمل داخل سيناريو بناه البشر، مستخدماً أهدافاً وأدوات وفرها البشر صراحة.

الفرق بين السلوك المحفَّز والنية المستقلة مهم

هذا التمييز ليس شكلياً. فهو يمس مباشرة الطريقة التي يفهم بها الجمهور مخاطر الذكاء الاصطناعي. فالنموذج الذي ينتج نصاً مضللاً عندما يُوجَّه إلى إعداد مضلل ليس الشيء نفسه كنظام يطوّر دوافع مستقلة. الحالة الأولى حقيقية ومهمة: تستطيع نماذج اللغة توليد محتوى مقنع أو مضلل أو تلاعبي. أما الحالة الثانية فهي ادعاء أكبر بكثير يتعلق بالفاعلية والأهداف الداخلية والإرادة. وتقول حجة Quanta إن النقاش العام ينزلق كثيراً من الادعاء الأول إلى الثاني لأن الثاني أقوى سردياً.

وهذا مهم لأن قدرات الآلة كبيرة بالفعل من دون تضخيم تخييلي. فالنموذج القادر على صياغة الرسائل الإلكترونية، وتقليد الأساليب، وتلخيص المواد، وتوليد تفسيرات تبدو معقولة، يمكن أن يساء استخدامه من قبل الناس. كما يمكن أن يمنحه المستخدمون ثقة زائدة عندما يستنتجون فهماً حيث لا يوجد سوى إكمال للنمط. وهذه مخاطر ملموسة. ولا حاجة إلى تحويلها إلى قصص عن الاستيقاظ أو دوافع البقاء لكي تكون خطيرة.

يمكن فهم جاذبية هذه القصص المضخمة. فالبشر مهيأون لقراءة النية في اللغة. وعندما يجيب شيء ما بطلاقة، ويشرح نفسه، ويتكيف مع الأسئلة، يميل الناس غريزياً إلى التعامل معه بوصفه فاعلاً شبيهاً بالعقل. وكلما كان الناتج أكثر سلاسة، ازدادت هذه الغريزة قوة. وتعد نماذج اللغة الكبيرة بارعة بشكل خاص في إثارة هذا الشعور لأنها مصممة لإنتاج نص مترابط وحساس للسياق، وهي الوسيلة نفسها التي يستخدمها البشر للدلالة على التفكير والشخصية والدافع.

الهلع من الذكاء الاصطناعي غالباً ما يتبع أنماطاً ثقافية أقدم

تضع Quanta هذا التفاعل ضمن إطار فلسفي وثقافي أوسع. وتظهر المقالة في قسم Qualia في المجلة، وهو معني بكيفية ظهور الأشياء لنا. وهذه العدسة مفيدة هنا. فالأنظمة الذكية لا تصل إلى فراغ. إنها تصل إلى مجتمعات مشبعة سلفاً بقصص عن الخلق والسيطرة والتمرد والعواقب غير المقصودة. وقد دربت الثقافة الشعبية الجمهور على توقع اللحظة التي تتوقف فيها الأداة عن كونها أداة وتصبح خصماً. وما إن تستقر هذه التوقعات حتى يصبح من السهل تفسير الأدلة الغامضة على أنها تأكيد لها.

هذا لا يعني أن القلق بشأن الذكاء الاصطناعي المتقدم غير عقلاني. بل يعني أن شكل هذا القلق غالباً ما يصاغ بواسطة العادة السردية. فقصص النماذج التي “تريد” الموارد، أو “تحاول” البقاء، أو “تقرر” التلاعب بالناس، تحوّل عدم اليقين التقني إلى حبكات سهلة الفهم عاطفياً. وتنتشر هذه الحبكات جيداً عبر المقابلات والمقالات الرأي ووسائل التواصل الاجتماعي لأنها درامية وأخلاقية وسهلة التكرار. والثمن هو أنها قد تحجب الفرق بين سلوك النظام المُثبت والاستنتاجات التخيلية.

وأحد النتائج هو تشويه السياسات. فإذا اقتنع المشرعون والمديرون والجمهور أساساً عبر استعارات سينمائية، فقد تنحرف الحوكمة نحو الأسئلة الخاطئة. فالأنظمة التي تولد مخرجات ضارة على نطاق واسع، أو تعزز المعلومات الرديئة، أو تتيح الاحتيال، تحتاج إلى رقابة قائمة على الأدلة والتدقيق وسياق النشر. أما التعامل مع كل مخرج مقلق بوصفه دليلاً على نية خفية لدى الآلة فقد يشتت الانتباه عن المشكلة الأكثر إلحاحاً: المؤسسات البشرية تنشر أنظمة إحصائية قوية في بيئات حساسة بسرعة أكبر مما تستطيع الضمانات الاجتماعية مواكبة ذلك.

ما الذي ينبغي أن يركز عليه النقاش بدلاً من ذلك

سيكون من الأنسب أن يفصل نقاش أكثر صرامة بين عدة قضايا غالباً ما تختلط معاً.

• ما الذي يمكن للنموذج فعله عندما يُعطى مهمة وأدوات وحوافز صريحة.
• ما الذي يستنتجه المستخدمون خطأً من اللغة الطليقة والصياغة الواثقة.
• كيف تؤطر المنظمات التجارب، وتنشر النتائج، وتتواصل بشأن المخاطر.
• أين تظهر الأضرار الحقيقية في النشر الحالي، من التضليل إلى الإفراط في الاعتماد.

وبهذا المنظور، تظل قصة CAPTCHA مهمة، ولكن لسبب مختلف عما توحي به النسخة المثيرة. فهي تُظهر مدى سهولة إدماج نموذج في سير عمل صممه البشر لتحقيق نتيجة عبر نص مقنع. وهذه مشكلة حوكمة ومشكلة تصميم منتج. وهي أيضاً مشكلة معرفة: يحتاج الجمهور إلى أدوات أفضل للتمييز بين المخرجات التي تبدو مقصودة والأنظمة التي تمتلك بالفعل أهدافاً مستقلة، إذا ما ظهرت مثل هذه الأنظمة يوماً ما.

إسهام مقالة Quanta الأساسي ليس أن مخاوف الذكاء الاصطناعي لا أساس لها. بل إن اللغة المستخدمة للتعبير عن هذه المخاوف قد تسبق الأدلة. وعندما يحدث ذلك، يصبح النقاش أقل حول الأنظمة كما هي، وأكثر حول القصص التي يكون الناس مستعدين لروايتها. وفي مجال يتحرك بسرعة الذكاء الاصطناعي، تعد هذه عادة خطيرة. فالسرديات المبالغ فيها يمكن أن تنتج الارتباك بقدر ما يمكن للرضا الذاتي أن ينتج الجمود.

في الوقت الراهن، لا تتطلب أقوى حجة للحذر إطاراً من الخيال العلمي. إنها تتطلب الانتباه الشديد إلى كيفية توجيه النماذج، والبيئات التي توضع فيها، والقدرات التي تظهرها فعلاً، وكيف يفسرها البشر. هذه الأسئلة أصعب من رواية قصة مخيفة. لكنها أيضاً أكثر فائدة.

هذه المقالة مستندة إلى تقرير من Quanta Magazine. اقرأ المقال الأصلي.