يساعد الذكاء الاصطناعي القابل للتفسير ويضر في دراسة تشخيص الجلد

لم يؤثر الذكاء الاصطناعي القابل للتفسير على الجميع بالطريقة نفسها

تقرير دراسة جديدة في Nature Medicine أن الذكاء الاصطناعي القابل للتفسير يمكن أن يحسن دعم التشخيص في الأمراض الجلدية، لكن فوائده تعتمد بدرجة كبيرة على من يستخدمه ومتى تظهر إجابة الذكاء الاصطناعي. وفي تجربتين كبيرتين شملتا 623 شخصًا من غير المتخصصين و153 طبيب رعاية أولية، وجد الباحثون أن المساعدة المقدمة من نموذج ذكاء اصطناعي مقيد بالعدالة حسّنت الدقة التشخيصية الإجمالية وخففت الفوارق في الأداء عبر درجات لون البشرة. لكن طبقة الشرح المبنية فوق هذا النظام أنتجت آثارًا مختلفة بوضوح لدى غير الخبراء والأطباء.

والنتيجة الأساسية ليست مجرد تأييد بسيط للذكاء الاصطناعي القابل للتفسير، بل تحذير من تأثيره غير المتكافئ. أصبح المستخدمون غير المتخصصين أكثر عرضة لتحيز الأتمتة: عندما كان تشخيص الذكاء الاصطناعي صحيحًا، تحسن أداؤهم، لكن عندما كان النظام مخطئًا تراجع أداؤهم. أما أطباء الرعاية الأولية فكانوا أكثر مرونة. وتقول الدراسة إنهم استفادوا سواء كان تشخيص الذكاء الاصطناعي صحيحًا أم لا، ما يشير إلى أن الخبرة غيّرت طريقة تفسير الشروحات ووزنها.

وتكتسب هذه النتيجة أهمية لأن الذكاء الاصطناعي الطبي يُوجَّه بشكل متزايد إلى جمهورين مختلفين جدًا في الوقت نفسه. أحدهما الأطباء الذين يستخدمون البرمجيات في البيئات المهنية. والآخر الجمهور العام الذي بات يتعامل مباشرة مع أدوات فحص الأعراض المدعومة بالذكاء الاصطناعي ومفسرات الصور وواجهات نماذج اللغة الكبيرة. وتشير هذه الدراسة إلى أن هذين السياقين لا ينبغي التعامل معهما على أنهما قابلان للتبادل.

حسّن نموذج مقيد بالعدالة الأداء الأساسي

بنى الباحثون التجارب حول نظام ذكاء اصطناعي للأمراض الجلدية جرى تدريبه بقيود عدالة تهدف إلى موازنة الأداء عبر درجات لون البشرة. وعالج هذا الاختيار التصميمي أحد أكثر المخاوف رسوخًا في الذكاء الاصطناعي للتصوير الطبي: فقد تعمل الأنظمة بشكل غير متساوٍ عبر المجموعات الديموغرافية إذا كانت بيانات التدريب أو عملية التحسين تترك بعض الفئات أقل تمثيلًا.

وبحسب ملخص الدراسة، حسّن النموذج المقيد بالعدالة الدقة التشخيصية النهائية لكل من المستخدمين غير المتخصصين وأطباء الرعاية الأولية. كما خفّض الفوارق في الأداء المرتبطة بلون البشرة. وهذه نتيجة أساسية مهمة لأنها تُظهر أن قرارات تصميم النموذج لا تؤثر فقط في متوسط الأداء، بل أيضًا في العدالة التي تتوزع بها المساعدة بين المستخدمين والحالات.

من الناحية العملية، لم يكن النموذج يقدم تنبؤات خامًا فقط. بل كان جزءًا من سير عمل قرار بشري-ذكاء اصطناعي يرى فيه المستخدمون مخرجات الذكاء الاصطناعي، وفي بعض الحالات، شروحات متعددة الوسائط من نماذج لغة كبيرة. ولذلك تمكن الباحثون من دراسة ليس فقط ما إذا كان الذكاء الاصطناعي دقيقًا، بل أيضًا كيف غيّر عرضه الحكم البشري.

زادت الشروحات من المخاطر على المستخدمين غير المتخصصين

غالبًا ما يُقدَّم الذكاء الاصطناعي القابل للتفسير بوصفه علاجًا لاتخاذ القرار داخل الصندوق الأسود. وإذا استطاع المستخدمون رؤية سبب إصدار النظام لإجابة ما، يفترض المنطق أنهم سيثقون به على نحو أكثر ملاءمة ويصححونه عند فشله. وتضيف هذه الدراسة إلى مجموعة متنامية من الأدلة التي تشير إلى أن العلاقة أكثر تعقيدًا من ذلك.

بالنسبة إلى غير المتخصصين، يبدو أن الشروحات عززت الميل إلى اتباع الآلة. فعندما كان تشخيص النظام صحيحًا، أفادتهم هذه الثقة المتزايدة. وعندما ارتكب النظام خطأً، أضرت بهم. وتصف الدراسة هذا النمط بأنه تحيز أتمتة أقوى، أي إن الواجهة التفسيرية ربما جعلت استنتاجات النموذج تبدو أكثر سلطة حتى عندما كان ينبغي التشكيك فيها.

وهذا التمييز بالغ الأهمية لأدوات الصحة الموجهة للمستهلكين. فقد تخلق الشروحات المصقولة انطباعًا بالشفافية من دون أن تضمن أن التوصية الأساسية موثوقة في الحالة المحددة التي ينظر إليها المستخدم. وبالنسبة إلى غير المتخصص، قد لا تولد التفاصيل الإضافية فهمًا حقيقيًا، بل قد تولد الثقة.

ويصف الباحثون شروحات نماذج اللغة الكبيرة متعددة الوسائط بأنها سلاح ذو حدين. وفي هذا السياق، ليست العبارة بلاغية. إنها تلتقط جوهر مشكلة التصميم: فالميزة نفسها في الواجهة التي تساعد مستخدمًا على فهم توصية ما قد تدفع مستخدمًا آخر إلى الإفراط في الثقة.

استجاب الأطباء بشكل مختلف

لم يظهر أطباء الرعاية الأولية في الدراسة القابلية نفسها. ويذكر الملخص أنهم ظلوا مرنين واستفادوا بغض النظر عما إذا كان تشخيص نموذج الذكاء الاصطناعي دقيقًا أم لا. وهذا لا يعني أن الأطباء كانوا محصنين من التأثير، لكنه يشير إلى أنهم تفاعلوا مع النظام من نقطة انطلاق معرفية مختلفة.

على الأرجح منحتهم الخبرة المهنية إطارًا داخليًا أقوى لتقييم مخرجات النموذج مقابل تفكيرهم هم. وبدلًا من قبول الشرح بوصفه بديلًا عن الحكم، ربما استخدموه كمدخل إضافي ضمن عملية تشخيص أوسع. ولا يشرح ملخص الدراسة كل الآليات وراء هذا الفرق، لكن هذا التباين يعد من أكثر استنتاجاتها صلة بالسياسات الصحية.

غالبًا ما تتحدث الأنظمة الصحية عن نشر الذكاء الاصطناعي كما لو أن واجهة واحدة يمكن أن تؤدي أدوارًا متعددة. أما هذا البحث فيشير إلى العكس. فقد تحتاج الأدوات الموجهة إلى الأطباء إلى أنماط شرح مختلفة، وإشارات ثقة مختلفة، وقواعد تسلسل مختلفة عن الأدوات الموجهة إلى الجمهور. وقد تكون الشروحات المفيدة في سياق ما مضللة فعليًا في سياق آخر.

وكان للتوقيت أهمية أيضًا

وجدت الدراسة أيضًا أن عرض تشخيص الذكاء الاصطناعي قبل اتخاذ القرار البشري قد يخلق تحيز تثبيت أقوى. ويحدث التثبيت عندما تؤثر المعلومة المبكرة بشكل غير متناسب في الحكم اللاحق. وفي سير العمل التشخيصي، قد يعني ذلك أن المستخدمين يعلقون على اقتراح الذكاء الاصطناعي الأول ولا يفكرون بما يكفي في البدائل.

وتكتسب هذه النتيجة أهمية خاصة في تصميم البرمجيات. فهي تعني أن مسألة السلامة لا تتعلق فقط بما إذا كان ينبغي إدراج الشروحات، بل أيضًا بوقت الكشف عن التنبؤات وكيفية تنظيم تسلسل التفاعل. فالنظام الذي يطلب من الطبيب أو المريض تقييمًا أوليًا قبل عرض إجابة الذكاء الاصطناعي قد ينتج نتائج مختلفة عن نظام يبدأ بتوصية الآلة.

وقد تبدو مثل هذه الخيارات في الواجهة بسيطة من منظور المنتج، لكنها قد تحدث آثارًا كبيرة على جودة القرار. ولذلك تسهم الورقة في تحول أوسع في تقييم الذكاء الاصطناعي الطبي: فمقاييس الأداء وحدها لا تكفي. إذ يمكن للعوامل البشرية وترتيب سير العمل وصياغة الشرح أن تغيّر النتيجة في العالم الحقيقي بشكل ملموس.

انعكاسات على نشر الذكاء الاصطناعي الطبي

لا تقول الدراسة إن الذكاء الاصطناعي القابل للتفسير يجب التخلي عنه. بل إن أدلتها تدعم عبارة أدق: يجب اختبار ميزات الشرح في سياق المستخدمين الحقيقيين والمهام الحقيقية وتسلسل القرارات الحقيقي. ففي دعم الأمراض الجلدية، حسّن التدريب الواعي بالعدالة النتائج، لكن قابلية التفسير أدخلت مخاطر سلوكية جديدة، خاصة لدى غير المتخصصين.

وهذا مهم للجهات التنظيمية والمستشفيات ومطوري الصحة الاستهلاكية على حد سواء. فالأداة التي تبدو أكثر أمانًا لأنها تشرح نفسها قد لا تزال تسبب ضررًا يمكن تجنبه إذا كانت تلك الشروحات تزيد تحيز الأتمتة أو التثبيت. وعلى العكس، يمكن لمساعدة الذكاء الاصطناعي المصممة بعناية أن تحسن الدقة وتقلل الفوارق إذا كان النموذج والواجهة متوافقين مع خبرة المستخدم.

ومع دخول نماذج اللغة الكبيرة بشكل أعمق في سير العمل الطبي، تقدم هذه الورقة تذكيرًا مهمًا بأن الشفافية لا تحمي تلقائيًا. ففي بعض الحالات تساعد، وفي حالات أخرى قد تشوه الحكم. ومن المرجح أن تعتمد المرحلة التالية من تصميم الذكاء الاصطناعي الطبي أقل على إضافة الشروحات في كل مكان، وأكثر على تحديد أي الشروحات، ولأي المستخدمين، وفي أي لحظة من عملية القرار، تحسن الرعاية فعلًا.

تعتمد هذه المقالة على تغطية من Nature Medicine. اقرأ المقال الأصلي.