لجان مرضى ستانفورد تكشف فجوات الثقة في الذكاء الاصطناعي الصحي قبل طرحه

اعتماد الذكاء الاصطناعي الصحي لم يعد سؤالا تقنيا فقط

بدأت Stanford Health Care، وفقا للبيانات الوصفية المرشحة المقدمة، بسؤال المرضى عن أدوات الذكاء الاصطناعي الجديدة قبل تنفيذ تلك الأنظمة. هذا القرار وحده يستحق الاهتمام. ففي الرعاية الصحية، غالبا ما يُصاغ تبني الذكاء الاصطناعي باعتباره مسألة جودة النموذج، ودمج سير العمل، والتنظيم. أما إشراك المرضى فيطرح مقدمة مختلفة: فقد تتمثل بعض أكبر العوائق في الثقة، والموافقة، والتواصل، والتوقعات، لا في الأداء الخام.

يقول عنوان المقال الوارد في مجموعة المرشحات إن هذه النقاشات مع المرضى تساعد في كشف خطوط الصدع في تبني الذكاء الاصطناعي الصحي. وحتى من دون النص الكامل للمصدر، فإن الدلالة واضحة بما يكفي لقراءة متحفظة. إذا كان نظام صحي كبير يطلب ملاحظات المرضى قبل الطرح، فهذا يشير إلى أن الذكاء الاصطناعي الصحي يدخل مرحلة لا تعتمد فيها الشرعية المؤسسية فقط على ما تستطيع الأدوات فعله، بل أيضا على كيفية إدراك المرضى لاستخدامها.

لماذا تهم آراء المرضى مبكرا على نحو غير معتاد

لقد أدخلت المستشفيات تاريخيا كثيرا من التقنيات مع مشاركة عامة مباشرة محدودة. فالبرمجيات السريرية وأنظمة التصوير وأدوات اتخاذ القرار الخلفية تصل عادة عبر عمليات الشراء والحوكمة السريرية التي لا يراها المرضى إلا بعد وقوعها. ويغير الذكاء الاصطناعي هذه الديناميكية لسببين على الأقل.

أولا، أصبحت أنظمة الذكاء الاصطناعي أكثر وضوحا للعيان. فقد يواجهها المرضى عبر واجهات الدردشة، وأدوات التوثيق، وأنظمة الفرز، ودعم تفسير الصور، أو سير العمل الاتصالي. ثانيا، يحمل الذكاء الاصطناعي بالفعل سردا عاما أوسع حول التحيز، والغموض، والأتمتة، والمساءلة. وهذا يعني أن الأدوات الجديدة قد تصل وهي محملة مسبقا بشكوك قائمة.

إن سؤال المرضى عن آرائهم قبل الإطلاق يعترف بهذا السياق. فهو يتعامل مع التبني بوصفه مشكلة تنفيذ اجتماعي، لا مجرد مسألة تشغيلية. وبالنسبة إلى منشور يتابع التكنولوجيا الناشئة، فإن هذا التمييز مهم. فكثير من عمليات نشر الذكاء الاصطناعي تفشل ليس لأن البرنامج لا يعمل، بل لأن المؤسسات تقلل من شأن كيفية تفسير الناس المتأثرين به لهذه التكنولوجيا.

ما الذي تشير إليه مقاربة ستانفورد

يقول المقتطف المقدم إن Stanford Health Care بدأت بسؤال المرضى عن أدوات ذكاء اصطناعي جديدة قبل التنفيذ، وأن هذه العملية تكشف ما يقوله المرضى للمؤسسة. وحتى من دون تفاصيل تلك الملاحظات، فإن المقاربة تشير إلى تحول في الحوكمة. فبدلا من افتراض أن قبول المرضى سيتبع بمجرد إثبات فائدة الأداة، يبدو أن المؤسسة تتعامل مع منظور المريض نفسه بوصفه مدخلا في التبني ذاته.

هذا تغيير مهم. ففي الرعاية الصحية، يهم التوقيت. فالأفكار التي تُطرح قبل الطرح قد تغير خيارات التصميم، ومعايير الإفصاح، وإجراءات التصعيد، وحدود الاستخدام. أما الأسئلة التي تُطرح بعد الطرح فتتحول غالبا إلى إدارة أزمة.

كما أن عبارة خطوط الصدع مهمة أيضا. فهي توحي بأن المسألة ليست مجرد تأييد أو معارضة بسيطة. فربما يواجه الذكاء الاصطناعي الصحي توقعات مختلفة بحسب السياق. وقد يستجيب المرضى بشكل مختلف للذكاء الاصطناعي المستخدم في الكفاءة الإدارية مقارنة بالذكاء الاصطناعي المستخدم في التشخيص أو توصيات الرعاية أو التواصل. وقد يميزون أيضا بين الأنظمة التي تساعد الأطباء وتلك التي تبدو وكأنها تحل محل الحكم البشري.

الدرس الأوسع للقطاع

بالنسبة إلى قطاع الصحة الأوسع، تشير العملية المبلغ عنها في ستانفورد إلى نموذج أكثر نضجا لتبني الذكاء الاصطناعي. فقد أمضت المستشفيات وأنظمة الرعاية الصحية سنوات في تجربة الذكاء الاصطناعي مع التركيز على التحقق والامتثال والمكاسب التشغيلية. وما زالت هذه أمورا ضرورية، لكنها غير كافية. يجب هندسة الثقة على المستوى المؤسسي، لا افتراضها.

وهذا يجعل الأسئلة العملية محورية. متى يجب إبلاغ المرضى بأن الذكاء الاصطناعي مستخدم؟ ما الاستخدامات التي تتطلب شرحا صريحا؟ كيف ينبغي للمؤسسات وصف الفوائد من دون المبالغة في اليقين؟ ماذا يحدث عندما يشعر المرضى بعدم الارتياح تجاه العمليات المدعومة بالذكاء الاصطناعي؟ هذه ليست قضايا هامشية، بل جزء من جودة النشر.

ولا تقدم المواد المرشحة إجابات ستانفورد، لذلك سيكون من الخطأ اختلاقها. لكنها تدعم استنتاجا أوسع: أصبحت الحوكمة الموجهة للمرضى جزءا من حزمة الذكاء الاصطناعي في الطب. وقد يكون ذلك بقدر الأهمية الذي تحمله تحسينات قدرات النماذج.

لماذا يهم هذا الآن

يتقدم الذكاء الاصطناعي الصحي في فترة حساسة على نحو غير معتاد تجاه الأتمتة. فالناس يواجهون أدوات الذكاء الاصطناعي في البحث، والعمل، والإعلام، وخدمة العملاء في وقت واحد. وهذا السياق الأوسع ينتقل معهم إلى العيادات والمستشفيات. ومن يتجاهل هذا الشك المحيط يخاطر بخلط الجاهزية التقنية مع الجاهزية الاجتماعية.

تشير خطوة ستانفورد إلى أن مؤسسة كبرى واحدة على الأقل تحاول تجنب هذا الخطأ. ومن خلال استشارة المرضى قبل التنفيذ، فهي تختبر أين يوجد الدعم، وأين يظهر القلق، وأين قد يفشل التواصل. وهذه طريقة أكثر واقعية لتقييم مخاطر الطرح من الاعتماد على الحماس الداخلي وحده.

بالنسبة إلى المطورين وقادة المستشفيات، فالدرس مباشر. في الطب، لا يجوز التعامل مع الثقة كميزة ما بعد الإطلاق. فإذا كانت علاقة المريض جزءا من نظام الرعاية، فإن توقعات المريض جزء من متطلبات المنتج.

تحول هادئ لكنه مهم

لا توجد هنا طفرة لافتة بالمعنى المعتاد للذكاء الاصطناعي. لا نموذج جديد، ولا جولة تمويل، ولا ادعاء قياسي. لكن التحول الأساسي قد يكون أكثر استدامة. فالذكاء الاصطناعي الصحي يدخل مرحلة سيُقاس فيها تنفيذ الجودة بشكل متزايد بالمؤسسات المحيطة بالنموذج: الموافقة، والإشراف، والشرح، والإنصاف.

تشير حالة ستانفورد إلى هذا الانتقال. فقبل أن يصبح الذكاء الاصطناعي الصحي اعتياديا، يُسأل المرضى عن الشكل الذي ينبغي أن يبدو عليه هذا الاعتياد فعليا. وهذه ليست مسألة جانبية. فقد تكون هي الفارق بين تبنٍ يتوسع وتبنٍ يتعثر.

هذه المقالة مبنية على تقرير من STAT News. اقرأ المقال الأصلي.