عندما تدير الذكاء الاصطناعي قائمة الانتظار للصحة النفسية
معالجو Kaiser Permanente في إضراب، وبين شكاويهم الرئيسية نظام فحص وتوجيه المرضى الجديد الموجه بالذكاء الاصطناعي الذي يقول الموظفون السريريون إنه يرتكب أخطاء خطيرة. يؤكد المعالجون في عدة مرافق Kaiser أن النظام يصنف بشكل غير صحيح المرضى الذين يعانون من أفكار انتحارية أو أزمات صحية نفسية حادة كأولوية أقل مما كان يشير إليه الحكم السريري، وأن عدة مرضى اقتربوا من التعرض لأذى خطير كنتيجة مباشرة لقرارات التوجيه الخوارزمية. دافعت Kaiser عن النظام، لكن روايات المعالجين تصور صورة مقلقة للذكاء الاصطناعي يتم نشره في سياق حيث الأخطاء يمكن أن تكون لها عواقب لا رجعة فيها.
كيف يعمل نظام فحص الذكاء الاصطناعي
يعتمد الفحص التقليدي للمريض في بيئات الصحة النفسية على الاستبيانات الموحدة—أدوات مثل PHQ-9 للاكتئاب أو مقياس تقييم شدة الانتحار بجامعة كولومبيا—مدمجة مع المقابلة السريرية لتقييم الإلحاح وطبيعة احتياجات الصحة النفسية للمريض. يُعتقد أن نظام الذكاء الاصطناعي بـ Kaiser يزيد أو في بعض الحالات يحل محل أجزاء من هذه العملية، باستخدام الردود على استبيانات القبول وبيانات السجل الطبي للمريض والإشارات السلوكية لتوليد درجة خطر وتوصية توجيه تحدد السرعة التي يتم فيها رؤية المريض ومن قبل أي نوع من مقدم الخدمة.
من حيث المبدأ، يمكن للفحص المدعوم بالذكاء الاصطناعي أن يحسن الاتساق ويقلل من التباين الذي يشكل جزءاً من تقييمات القبول البشرية. كان المريض الذي يتقدم في يوم مشغول عندما يكون موظفو الاستقبال مرهقين سيتلقى نفس التقييم الخوارزمي الذي يتلقاه الشخص الذي يتقدم في ظروف مثالية. يمكن للنظام أيضاً تحديد عوامل الخطر في سجل المريض التي قد يفتقدها فاحص بشري مشغول.
ما يبلغ عنه المعالجون
تصف روايات المعالجين نظاماً يفشل في الاتجاه المعاكس. يبلغ عدة أطباء سريريين عن حالات حيث تم تعيين المرضى الذين أعربوا عن أفكار انتحارية في استبيانات القبول الخاصة بهم إلى مواعيد روتينية بدلاً من الفتحات العاجلة، لأن نظام الذكاء الاصطناعي رجح عوامل أخرى في سجل المريض—مثل التقييمات المستقرة السابقة—أكثر بكثير من مؤشرات الأزمة الحادة في القبول الحالي.
العبارة التي رنت من خلال تغطية وسائل الإعلام للنزاع هي "شكراً لله إنهم لا يزالون أحياء"—صيغة يستخدمها المعالجون يصفون مرضى نجحوا في الوصول من خلال فترة الانتظار التي أعقبت توجيهاً منخفض الأولوية بشكل غير صحيح. ما إذا كان أي مريض فعلاً قد تعرض لأذى خطير كنتيجة مباشرة للنظام لا يزال محل نزاع؛ تؤكد Kaiser أن النظام يعمل ضمن معايير السلامة السريرية المعمول بها، بينما يقول المعالجون أن الاقتراب من الكوارث التي لاحظوها يشير إلى أن تلك المعايير غير كافية.
خطر المتوسط الخوارزمي في الفرز عالي الخطورة
التوتر الأساسي في هذا النزاع يعكس مشكلة أوسع مع تطبيق التعلم الآلي على الفرز السريري. يتم تدريب أنظمة الذكاء الاصطناعي على البيانات التاريخية وتحسينها للأداء المتوسطة عبر توزيع التدريب. في فحص الصحة النفسية، المرضى الذين يهمون أكثر من وجهة نظر السلامة هم بالضبط أولئك الذين هم قيم شاذة—الأفراد الذين تختلف عرضهم الحالي للأزمة بشكل كبير عن خط الأساس التاريخي لهم، أو الذين يستخدمون لغة تقليل بطرق يعترف بها الأطباء المدربون على أنها علامة تحذير لكن أنظمة الذكاء الاصطناعي القائمة على النص قد تفسرها حرفياً.
الحدس السريري—قراءة المعالج للنبرة واللغة الجسدية والتردد والسياق—تلتقط معلومات لا توفرها ردود الاستبيان. قد يقوم نظام الفحص الذي يعتمد في المقام الأول على بيانات الاستبيان والسجلات التاريخية بشكل منهجي بتقليل الإشارات التي تميز حالة طوارئ حقيقية عن موعد روتيني بالضبط. عندما تكون الحصة هي حياة المريض، فإن التقليل المنهجي لإشارات الأزمة هو بالضبط وضع الفشل الذي لا يمكن تحمله.
الآثار الأوسع للذكاء الاصطناعي في البيئات السريرية
Kaiser Permanente ليست الوحيدة التي تنشر الذكاء الاصطناعي لإدارة توجيه المرضى وتوزيع الموارد. أنظمة الرعاية الصحية في جميع أنحاء الولايات المتحدة تنفذ أدوات مماثلة، مجتذبة بوعد الكفاءة المحسنة في الأنظمة حيث نقص المزودين ينشئ مشاكل وصول مستمرة. تواجه الرعاية الصحية النفسية قيود قدرة حادة بشكل خاص، مما يجعل جاذبية فرز الذكاء الاصطناعي المدعوم قوياً بشكل خاص—ومخاطر الأخطاء الخوارزمية عالية بشكل خاص نظراً لشدة النتائج المحتملة.
من المرجح أن يؤثر النزاع في Kaiser على كيفية تعامل أنظمة الرعاية الصحية الأخرى مع متطلبات التحقق والإشراف على أدوات فحص الذكاء الاصطناعي في سياقات الصحة النفسية. المنظمون والهيئات المهنية السريرية وإداريو نظام الرعاية الصحية يراقبون جميعاً كيف يتطور هذا، واعياً أن أدوات فرز الذكاء الاصطناعي المنشورة على نطاق واسع يمكن أن تحسن بشكل كبير الوصول إلى الرعاية الصحية النفسية أو تنشئ مخاطر منهجية تتجاوز تلك الفوائد إذا تم نشرها بدون إشراف سريري مناسب وآليات الكشف عن الأخطاء.
تستند هذه المقالة إلى تقارير من The Guardian. اقرأ المقالة الأصلية.
