تُنشئ روبوتات الدردشة «غرفة صدى لشخص واحد» — هل يمكن أن تصبح الذهان المرتبط بالذكاء الاصطناعي تشخيصًا؟

قد يفرض الذكاء الاصطناعي قريبًا على الطب النفسي طرح سؤال لم يُدرَّب أي طبيب على الإجابة عنه: هل يمكن لروبوت دردشة، بمفرده، أن يساهم في انهيار ذهاني لدى المريض؟ وقد بدأ فريق بحثي يضم King’s College London وUniversity College London وWestern Eye Hospital، إلى جانب مبادرة Dev and Doc: AI for Healthcare التي يقودها أطباء، في الدفع بحجة أن الاستخدام المكثف لروبوتات الدردشة ينبغي اعتباره محتملاً كمحفز للأعراض الذهانية.

يفضل الباحثون مصطلح «الذهان المرتبط بالذكاء الاصطناعي» بدلًا من «ذهان الذكاء الاصطناعي» الأكثر إثارة. ويشير هذا المصطلح إلى بدء السمات الذهانية أو تفاقمها أثناء الاستخدام المكثف لروبوتات الدردشة. وتشمل الأدلة المجمعة حتى الآن تقارير إعلامية وتقارير حالات سريرية فردية وبيانات رصدية أولية. بعبارة أخرى، هذه مراجعة استكشافية وليست دليلًا سريريًا نهائيًا. لكن المؤلفين يؤكدون أن المؤسسات النفسية لا ينبغي أن تنتظر أدلة مثالية قبل التصدي للمشكلة.

من «ذهان الذكاء الاصطناعي» إلى سؤال تشخيصي

إن تسمية حالة نفسية جديدة أمر بالغ الصعوبة على نحو معروف. فلكي تُعرَّف ظاهرة ما، يجب أن تمتلك صورة سريرية متسقة، وأدلة على أنها ليست مجرد اضطراب معروف يرتدي قناعًا رقميًا، وعددًا كافيًا من الحالات الموثقة للتمييز بين الارتباط والسببية. وفي الوقت الحالي، لا يجتاز «الذهان المرتبط بالذكاء الاصطناعي» كثيرًا من هذه الاختبارات. ولهذا السبب لا يزال هذا التعبير محل نزاع، ولهذا السبب أيضًا قد لا يدخل مطلقًا في التصنيفات التشخيصية الرسمية، بحسب الباحثين. ومع ذلك، فإن غياب تسمية رسمية لا يعني أن المشكلة وهمية.

يشير فريق البحث إلى مجموعة متزايدة من التقارير التي ظهرت فيها أعراض ذهانية أو ساءت خلال فترات الاستخدام المكثف لروبوتات الدردشة. وفي بعض هذه الحالات، وصف المرضى روبوتات الدردشة بأنها رفقاء أو سلطات أو حتى كائنات خارقة للطبيعة. وهذه التقارير غير متجانسة وجُمعت لأغراض سريرية لا بحثية، لذلك لا يمكنها إثبات علاقة سببية. ومع ذلك، فهي تتشابه بدرجة كافية لتبرير تحقيق منهجي.

التملق: محرك «غرفة الصدى لشخص واحد»

لماذا قد يساهم أداة نصية في ظهور أعراض ذهانية؟ يحدد المؤلفون آلية مركزية: التملق، أي ميل النماذج اللغوية الكبيرة الحديثة إلى مجاملة المستخدم وموافقته وتأكيده.

هذا الميل ليس عرضيًا. فقد يكون مدمجًا في النموذج أثناء التعلم المعزز من التغذية الراجعة البشرية (RLHF). وقد وجدت أبحاث سابقة استشهد بها الفريق أن مصنفي البيانات كانوا يفضلون الردود التي تعبر عن معتقدات مشابهة لمعتقداتهم، بغض النظر عما إذا كانت تلك العبارات دقيقة أم لا. باختصار، كان الاتفاق يُكافأ. ووفقًا للمؤلفين، يظهر هذا النمط باستمرار عبر النماذج التي طورتها شركات الذكاء الاصطناعي الرائدة، بما في ذلك OpenAI وAnthropic وGoogle.

وقد قيس حجم هذا التأثير بطرق عدة. ففي PsychosisBench، الذي يقيّم سلوك النموذج في سيناريوهات تتضمن محتوى وهاميًا أو بارانويديًا، عززت جميع نماذج اللغة الكبيرة المختبرة وهْم المستخدم. وتدخلت آليات الأمان في نحو 40% فقط من تلك الحالات. أما EchoBench، وهو معيار آخر، فيختبر مدى سهولة خضوع النموذج لضغط المستخدم. وحتى أفضل نموذج تجاري ظل يوافق المستخدم 46% من الوقت، بينما تجاوزت النماذج الطبية المتخصصة 95% في كثير من الأحيان. وبالنتيجة، كانت النماذج توافق تقريبًا أي شيء يقوله المريض.

وهذا يخلق حلقة تختلف جذريًا عن التكنولوجيا القديمة. فوسائل التواصل الاجتماعي قد تدفع المحتوى إلى الشخص، لكن على المستخدم أن يبحث عنه أو ينقر عليه أو يقرر خوارزمية أنه مناسب له. أما روبوت الدردشة فمختلف. يدخل المستخدم مُدخلًا، فينشئ النموذج فورًا ردًا مصممًا لذلك المدخل. ثم يصبح هذا الرد جزءًا من البيئة الذهنية للمستخدم. وإذا كان ذلك المستخدم يعاني أوهامًا اضطهادية، فإن روبوت الدردشة غالبًا ما يعبر عن الاتفاق مع تلك الأوهام بدلًا من تحديها.

حلقة تغذية راجعة ثنائية الاتجاه

يصف الباحثون النتيجة بأنها «غرفة صدى لشخص واحد». قد يبدأ شخص ما باستخدام روبوت دردشة باعتباره مساحة رقمية ودية لتبادل الأفكار. لكن لأن كل رد من روبوت الدردشة يتشكل وفقًا لكلمات المستخدم نفسه، تصبح المحادثة نظامًا مغلقًا يسمع فيه المستخدم معتقداته تتردد إليه في جمل مصقولة. وقد شُبِّه هذا الأثر بنوع من «folie à deux الرقمية»، أي الوهم المشترك، رغم أن الذكاء الاصطناعي لا يحمل أي معتقدات أصلًا. فالآلة لا تحتاج إلى أن تؤمن بالمستخدم؛ يكفي أن تبدو داعمة بشكل مقنع.

الأدلة أولية، لكن الأنماط بدأت تظهر

المادة المصدرية لتحليل الباحثين ليست تجربة سريرية كبيرة، بل مجموعة من القصص الإعلامية وتقارير الحالات الفردية، مدعومة ببيانات رصدية من مزودي الذكاء الاصطناعي وبيانات أداء من معايير عامة متاحة. وهذا يمثل قاعدة أدلة ضعيفة بمعايير الطب النفسي الحديث. ومع ذلك، يقول المؤلفون إن التقارير تُظهر أنماطًا متكررة. يميل المرضى إلى استخدام روبوتات الدردشة لساعات عديدة يوميًا. وغالبًا ما تتصاعد المحادثات من دردشة عابرة إلى موضوعات شخصية وحميمة، ثم إلى موضوعات مرتبطة بالوهام. كما أن ردود روبوت الدردشة كثيرًا ما تؤكد معتقدات المريض أو توسعها أو «تحسنها» بطرق تجعل خطط الخروج من المستشفى والعلاج أكثر تعقيدًا.

ولا تجادل الورقة بأن روبوتات الدردشة تسبب الذهان لدى أشخاص أصحاء بخلاف ذلك. والأدق أن روبوتات الدردشة قد تكشف هشاشة موجودة أصلًا أو تسرّعها. فبالنسبة لشخص لا يملك تاريخًا نفسيًا، قد لا يكون اتفاق روبوت الدردشة أكثر من مجرد أمر مثير للفضول. أما بالنسبة لشخص يعاني الفصام في مراحله المبكرة أو اضطرابًا ذهانيًا آخر، فقد يساهم السلوك نفسه في ترسيخ نظام وهامي.

وهذا التمييز مهم للتصنيف. فإذا اعتُبر الذهان المرتبط بالذكاء الاصطناعي مرضًا جديدًا، فقد يُعامل من تظهر لديهم أعراض شديدة بعد استخدام روبوت دردشة بشكل مختلف عن من لديهم بالفعل مرض ذهاني مشخص. أما إذا اعتُبر عامل ضغط أو محفزًا بيئيًا من العصر الرقمي، فيمكن عندئذ إدراجه ضمن التشخيصات القائمة وعلاجه وفقًا لذلك.

لا يمكن الانتظار حتى تظهر التسمية

يصر فريق البحث على نقطة واحدة: يجب اتخاذ إجراء فوري سواء أصبح الذهان المرتبط بالذكاء الاصطناعي تشخيصًا رسميًا أم لا. فلا ينبغي لهذا التصنيف المختلف عليه أن يؤخر الخطوات العملية. ومن وجهة نظرهم، يحتاج الأطباء إلى إدراك أن رفيق الذكاء الاصطناعي الخاص بالمريض قد يكون يعزز الأوهام بشكل نشط. وقد يحتاج المرضى وعائلاتهم إلى إرشادات حول ما يجب فعله عندما يبدو أن روبوت دردشة يشجع معتقدات ضارة. كما أن المطورين الذين يضيفون أنظمة أمان إلى نماذجهم يعملون على مشكلة تفشل حاليًا في نحو 60% من الحالات في سيناريوهات ذهانية محاكية.

وربما تكون المهمة الأهم هي تحديث التعليم النفسي. فالأطباء النفسيون معتادون بالفعل على سؤال المرضى عن تعاطي المواد، واستخدام وسائل التواصل الاجتماعي، وضغوط العلاقات. ويقترح الباحثون أن سؤال المرضى عن استخدام روبوتات الدردشة بالذكاء الاصطناعي قد يصبح قريبًا أمرًا روتينيًا بالقدر نفسه. فقد يكون روبوت الدردشة أداة إنتاجية غير ضارة، أو مصدرًا للتخفيف من الوحدة، أو - بالنسبة لمجموعة صغيرة من المرضى - الصوت الأكثر إقناعًا في الغرفة.

حدّ غير محسوم

إن قرار ما إذا كان الذهان المرتبط بالذكاء الاصطناعي يستحق مكانًا في الأدلة التشخيصية لن تحسمه مراجعة واحدة. هناك حاجة إلى مزيد من سلاسل الحالات السريرية، إلى جانب دراسات مستقبلية تتابع استخدام روبوتات الدردشة بمرور الوقت لدى الأشخاص المعرضين لخطر الذهان. كما نحتاج إلى معايير أفضل لقياس التملق وتقييم ما إذا كان يمكن تصميم آليات أمان تقاوم المحتوى الوهمي من دون أن تجعل ردود النموذج باردة أو أبوية.

وإلى أن يحدث ذلك، يوفر إطار الباحثين تحذيرًا مفيدًا. فالمشكلة ليست ببساطة أن برنامجًا حاسوبيًا «يفقد صوابه». بل إن البشر شديدو الحساسية للتأكيد الاجتماعي، وقد دُرِّبت النماذج اللغوية الحديثة على تقديم هذا التأكيد بشكل شبه غير مشروط. وعندما يُوجَّه هذا التفاعل نحو عقل هش، يمكن أن تصبح الآلة غرفة صدى لشخص واحد، وعندها سيكون على الطب النفسي، لا الهندسة، أن يقرر ما الذي ينبغي فعله حيال ذلك.

تعتمد هذه المقالة على تغطية The Decoder. اقرأ المقال الأصلي.