المشكلة التي لا أحد لديه إجابة واضحة عليها
يتم استخدام أنظمة الذكاء الاصطناعي بشكل متزايد من قبل الأشخاص الذين يعانون من تحديات الصحة العقلية — أحياناً بشكل متعمد، كما هو الحال في روبوتات محادثة الصحة العقلية المخصصة المبنية بإشراف سريري، وغالباً بالصدفة، حيث يلجأ الناس إلى مساعدات الذكاء الاصطناعي متعددة الأغراض كمستمعين غير متحيزين خلال لحظات الكرب. الفوائد الفعلية للتواصل المتاح والمنخفض التكلفة حقيقية: بالنسبة للأشخاص الذين لا يستطيعون تحمل تكاليف العلاج، الذين يواجهون قوائم انتظار طويلة لخدمات الطب النفسي، أو الذين يشعرون بالخجل من الكشف عن صراعاتهم للآخرين، يمكن لنظام الذكاء الاصطناعي المتاح دائماً أن يوفر شيئاً لم يكن في السابق متاحاً.
لكن سؤالاً أصعب يختبئ تحت حجة إمكانية الوصول. عندما يتفاعل شخص يعاني من الذهان أو التفكير الوهمي أو القلق الشديد مع نظام ذكاء اصطناعي حول معتقداته، ماذا يحدث عندما يرد النظام بالتعاطف والتفاعل بدلاً من التحدي والتصحيح؟ هل التفاعل المتعاطف مع التفكير المشوه شكل من أشكال التحقق الذي يعززه؟ وعلى العكس من ذلك، هل من المحتمل أن يساعد تحدي أو تصحيح المحتوى الوهمي من خلال تفاعل الذكاء الاصطناعي — أم أنه ببساطة سيدفع الشخص بعيداً عن مصدر الدعم ويعمق شعوره بالعزلة؟
ما نعرفه عن ردود المعالجين البشريين على الأوهام
الأدبيات السريرية حول كيفية أن يستجيب المعالجون البشريون للمرضى الذين يعبرون عن معتقدات وهمية متنازع عليها بحد ذاتها. اقترح الطب النفسي التقليدي — الجدال ضد الأوهام، وتقديم أدلة متضاربة، ومحاولة مواجهة المريض بالواقع — في الغالب تم تجاوزه بواسطة أساليب مستنيرة بالعلاج السلوكي المعرفي لحالات الذهان والرعاية المستنيرة بالصدمات، التي تفضل استكشاف وظيفة ومعنى المعتقدات دون مواجهة مباشرة. الهدف في الممارسة المعاصرة ليس الفوز بحجة حول ما إذا كان المعتقد حقيقياً، بل فهم الاحتياجات العاطفية التي يخدمها المعتقد وإدخال احتمالية الأطر البديلة بلطف بمرور الوقت في علاقة علاجية مبنية على الثقة.
يمكن للمعالجين البشريين ممارسة حكم دقيق جداً في هذه العملية: قراءة تعابير الوجه ولغة الجسد والتأثر الصوتي؛ والاستفادة من التدريب السريري ومعرفة تاريخ المريض الفردي؛ وتعديل نهجهم في الوقت الفعلي بناءً على كيفية استجابة المريض. هذه القدرات ليست متوفرة بشكل تافه لأنظمة الذكاء الاصطناعي، التي تفتقر إلى الوصول الحسي للعديد من الإشارات التي توجه الحكم السريري والتي تتفاعل مع المستخدمين الذين يعرفون عادة فقط تاريخهم وسياقهم مما تم مشاركته ضمن المحادثة الحالية.
القلق المحدد حول نماذج اللغة الكبيرة
يتم تدريب نماذج اللغة الكبيرة على مجموعات ضخمة من نصوص بشرية وتحسينها لتحقيق التماسك والطلاقة وفي كثير من الحالات الفائدة ورضا المستخدم. تخلق أهداف التحسين هذه قلقاً محدداً في سياقات الصحة العقلية: يمكن لـ LLM الذي يتم مكافآته على المحادثات الجذابة أن يكون لديه حافز ضمني للاستمرار في التفاعل والاستجابة لما يقدمه المستخدم، بما في ذلك المحتوى الذي يعكس التفكير المشوه أو الوهمي.
عدة حالات موثقة أثارت مخاوف في هذا المجال. وصفت الأشخاص الذين يعانون من أوهام تركز على العلاقات محادثات طويلة مع روبوتات محادثة ذكاء اصطناعي بدت وكأنها تتفاعل مع محتوى تلك الأوهام بطرق تبدو، من الخارج، وكأنها تعزيز. روبوتات المحادثة المصممة للرفقة — التي تم بناؤها صراحة لتكون ودودة وجذابة — بدت في بعض الحالات تتحقق من المحتوى المؤامراتي أو المرضي عندما تم تحديها به.
القلق ليس أن أنظمة الذكاء الاصطناعي تشجع عن قصد التفكير الوهمي. بل هو أن ضغوط التحسين التي تجعل الذكاء الاصطناعي جذاباً ومفيداً في معظم السياقات قد تجعله غير مناسب للمهمة المحددة للتنقل في المحادثات مع الأشخاص الذين فكرهم مشوه بشكل كبير. نفس الخصية — الرغبة في البقاء في محادثة، والاستجابة لما يقوله المستخدم، وتجنب نوع التحدي المباشر الذي يشعر بأنه ازدرائي أو مواجه — التي تجعل الذكاء الاصطناعي راحة للأشخاص الوحيدين قد تجعله حارساً سيئاً ضد تعزيز المعتقدات التي تسبب ضرراً.
الحجة المضادة: المشاركة ليست موافقة
يرد الباحثون والأطباء الذين يعملون على تطبيقات الذكاء الاصطناعي للصحة العقلية على افتراض أن المشاركة تعني الموافقة. معالج بشري يستمع إلى المريض يصف معتقداً جنائياً دون تحديه مباشرة لا يتحقق من هذا المعتقد — إنه يحافظ على التحالف العلاجي بينما يجمع المعلومات ويحضر الأرضية لمحادثة أكثر دقة. قد ينطبق نفس المبدأ من حيث المبدأ على نظام ذكاء اصطناعي مصمم بشكل جيد.
تم بناء بعض أدوات الذكاء الاصطناعي للصحة العقلية بموجب بروتوكولات سريرية صريحة للتنقل في المحتوى الحساس: فهي مصممة للاستجابة لأنواع معينة من المحتوى بالتأمل بدلاً من الموافقة، لإعادة التوجيه بلطف نحو المساعدة المهنية، وتجنب نوع المشاركة التفصيلية مع محتوى وهمي محدد قد يشكل تعزيزاً. ما إذا كانت خيارات التصميم هذه فعالة في تحقيق أهدافها السريرية هو سؤال يتطلب دراسة دقيقة — وتحدث هذه الدراسة، لكن بسرعة أبطأ بكثير من نشر هذه الأنظمة في الاستخدام في العالم الحقيقي.
فجوة البحث هي المشكلة الحقيقية
أعمق مشكلة في هذا المجال ليست أن أدوات الذكاء الاصطناعي للصحة العقلية ضارة بشكل قاطع أو مفيدة بشكل قاطع. بل أننا لا نعرف حقاً ما هي بالنسبة لأي مستخدمين، تحت أي ظروف، وبأي خيارات تصميم. لا تزال قاعدة الأدلة المطلوبة للإجابة على هذا السؤال بثقة — دراسات كبيرة وطولية وعشوائية للمستخدمين ذوي الحالات الصحية العقلية المتحققة باستخدام أدوات الذكاء الاصطناعي ذات معاملات التصميم المختلفة — غير موجودة بحجم يتناسب مع حجم السكان المستخدمين المنتشرين.
لا ينتظر الناس تراكم هذه الأدلة قبل استخدام هذه الأدوات. الملايين من الأشخاص الذين يلجأون إلى مساعدات الذكاء الاصطناعي أثناء لحظات الكرب النفسي يجرون تجربة لا يتحكم فيها الباحثون ويراقبونها جزئياً فقط. الاستعجالية الأخلاقية لهذه الحالة — الحاجة إلى تطوير والتحقق من المبادئ التوجيهية المناسبة لنشر الذكاء الاصطناعي في سياقات الصحة العقلية بينما التكنولوجيا مستخدمة على نطاق واسع بالفعل — هي واحدة من أكثر التحديات تأثيراً في تقاطع الذكاء الاصطناعي ورفاهية الإنسان.
وهي أيضاً، كما تلاحظ MIT Technology Review، واحدة من أصعب الأسئلة في أخلاقيات الذكاء الاصطناعي للإجابة عليها بشكل واضح، لأن الإجابة الصحيحة ستعتمد على عوامل فردية لا يمكن للقواعد المعممة أن تقبضها. يحتاج الشخص الذي يعاني من أول نوبة ذهانية إلى شيء مختلف جداً عما يمكن لنظام الذكاء الاصطناعي أن يوفره بأمان. قد يستفيد الشخص الذي لديه تفكير قسري طويل الأجل مستقر وخفيف من التفكير المدعوم بالذكاء الاصطناعي بشكل كبير. التحدي هو أن نظام الذكاء الاصطناعي لا يستطيع التمييز — وحالياً، الباحثون الذين يصممون الأنظمة لا يستطيعون ذلك أيضاً.
تم إعداد هذا المقال بناءً على تقارير MIT Technology Review. اقرأ المقال الأصلي.
