خلل في التوقيت في دراسات الذكاء الاصطناعي الخاصة بالإنتان قد يضلل قرارات الرعاية

باحثون يحددون خطأً خفيًا في أبحاث الذكاء الاصطناعي الخاصة بالإنتان

تحذر دراسة تحليلية جديدة في npj Digital Medicine من أن العديد من دراسات الذكاء الاصطناعي التي تهدف إلى توجيه علاج الإنتان قد تكون مبنية على خطأ دقيق لكنه مهم. تكمن المشكلة في عدم تطابق زمني طفيف في كيفية فهرسة بيانات المرضى ومعالجتها مسبقًا من أجل التعلم المعزز، وهو نهج في تعلم الآلة يُستخدم كثيرًا لنمذجة قرارات العلاج عبر الزمن.

ويقول المؤلفون إن هذا “الانزلاق الزمني” يمكن أن يجعل النظام يبدو أكثر قدرة مما هو عليه بالفعل، عبر السماح لمعلومات من المستقبل بالتأثير في التنبؤات المتعلقة بالماضي. وعلى الورق، قد ينتج عن ذلك مقاييس أداء لافتة. أما في الاستخدام السريري، فقد يدفع الخطأ نفسه توصيات العلاج في الاتجاه الخاطئ.

لماذا يهم هذا الخلل

الإنتان حالة تعتمد على الوقت بشكل حاسم، وتعتمد القرارات المتعلقة بالسوائل والأدوية وتصعيد الرعاية بدرجة كبيرة على الفهم الصحيح لما يحدث بالتسلسل. ويبدو التعلم المعزز جذابًا في هذا السياق لأنه مصمم لتقييم الأفعال عبر المسارات الزمنية بدلًا من اللقطات المنفصلة. لكن هذه القوة تتحول إلى عبء إذا كان التسلسل الزمني غير متطابق حتى قليلًا.

استخدم مؤلفو الدراسة تجارب محاكاة ووجدوا أن التقنية المعيبة كانت شائعة في الأعمال المحكّمة حول علاج الإنتان. وقال شينغبو تانغ من جامعة إيموري إن المشكلة كانت منتشرة إلى درجة تؤثر في معظم أوراق التعلم المعزز في هذا المجال خلال العقد الماضي، بما في ذلك أعمال سابقة للمؤلفين أنفسهم.

هذا الاعتراف أحد الأسباب التي تجعل الورقة مهمة. فهي لا تُقدَّم بوصفها نقدًا لدراسة شاذة واحدة، بل تحذيرًا منهجيًا من خط بحث كامل غالبًا ما استُشهد به بوصفه دليلًا على أن الذكاء الاصطناعي يمكنه تحسين استراتيجيات العلاج في بيئات المستشفيات عالية المخاطر.

كيف يحدث تضخم الأداء

وفقًا للمادة المصدر، قد يبقى الخطأ مخفيًا إذا كانت بيانات الاختبار غير متطابقة بالطريقة نفسها التي حدث بها عدم التطابق في بيانات التدريب. في هذه الحالة، يُقيَّم النموذج فعليًا على إعداد معيب يكافئ التسرب نفسه الذي أنتج النجاح الظاهر في المقام الأول. تبدو المقاييس الناتجة قوية، لكنها لا تعكس ظروف اتخاذ القرار في العالم الحقيقي.

ويصف الباحثون ذلك بأنه انزلاق لوكيل الذكاء الاصطناعي عن سهم الزمن. وتلخص هذه العبارة جوهر المشكلة: فالنموذج الذي يبدو وكأنه يتعلم سياسة علاجية قد يكون في الواقع يستفيد من معلومات لن تكون متاحة عندما يضطر الطبيب فعلًا إلى اتخاذ قرار.

والتحذير العملي في الورقة صارم. فإذا نُشرت مثل هذه الأنظمة المعيبة الخاصة بالإنتان، وجد الباحثون أنها قد توصي بالإفراط في العلاج أو التقليل منه في ما يقرب من نصف حالات المرضى. وهذا هو نوع نمط الخطأ الذي يحول قرارًا أكاديميًا في المعالجة المسبقة إلى قضية تتعلق بسلامة المرضى.

حل بديل بسيط، وعبرة أوسع

كما يذكر المؤلفون أنهم طوروا حلاً بديلًا لتجنب هذا الخلل. ويصفونه بأنه إعادة صياغة أكثر جوهرية لكيفية إعداد مسائل التعلم المعزز في الرعاية الصحية، وليس مجرد تعديل شكلي. وفي تجارب المحاكاة المستندة إلى بيانات سريرية من العالم الحقيقي، أدى تصحيح الانزياح الزمني إلى إزالة الأفضلية المتضخمة. وبعد التصحيح، لم يؤدِّ نهج التعلم المعزز إلى خفض وفيات المرضى ولا إلى زيادتها.

النتيجة مقلقة لكنها مفيدة. فهي تشير إلى أن المجال قد يحتاج إلى إعادة تقييم الادعاءات البارزة حول قدرة الذكاء الاصطناعي على اشتقاق سياسات أفضل لعلاج الإنتان من البيانات الاسترجاعية وحدها. وهذا لا يعني أن التعلم المعزز ليس له مستقبل في الطب، بل يعني أن الانضباط المنهجي يجب أن يسبق خطاب النشر.

لماذا يتجاوز ذلك الإنتان

تمتد آثار الورقة إلى ما هو أبعد من مرض واحد. فالذكاء الاصطناعي في الرعاية الصحية يتعامل كثيرًا مع سجلات متسلسلة، وحالات متغيرة للمرضى، ونتائج متأخرة، وبيانات جزئية الرصد. وهذه هي بالضبط الظروف التي يمكن فيها لأخطاء المحاذاة الزمنية أن تشوه النتائج بهدوء. وكلما كانت المهمة أكثر ارتباطًا بالحياة أو الموت، قلّ التسامح مع معيار يبدو جيدًا فقط بسبب خطأ خفي في الفهرسة.

كما أن حذر المؤلفين يعاكس نمطًا شائعًا من الفشل في تبني الذكاء الاصطناعي: التعامل مع أداء النموذج على أنه قابل للنقل بطبيعته من الدراسات الاسترجاعية إلى الاستخدام بجانب السرير. وفي الواقع، تعتمد الصلاحية السريرية على ما إذا كان إطار التقييم يعكس حقًا المعلومات المتاحة وقت اتخاذ القرار.

• وجدت الدراسة عدم تطابق زمنيًا شائعًا في أبحاث التعلم المعزز الخاصة بالإنتان.
• يمكن لهذا الخلل أن يسمح للأحداث المستقبلية بالتأثير في التنبؤات الماضية، مما يضخم النتائج المعلنة.
• يقول الباحثون إن الأنظمة المعيبة قد تفرط في علاج المرضى أو تقلل من علاجهم في ما يقرب من نصف حالات المرضى.
• أدى تصحيح الخطأ إلى إزالة الفائدة الظاهرة في الوفيات ضمن تجاربهم.

وبذلك تصبح الورقة أقل شبهاً بهامش تقني وأكثر شبهاً بتحذير في الحوكمة. ففي الذكاء الاصطناعي الطبي، وخاصة في الرعاية الحرجة، يمكن للأخطاء الصغيرة في الصياغة أن تنتج أخطاء كبيرة في الثقة. وتجادل هذه الدراسة بأن المجال يجب أن يقضي وقتًا أقل في الاحتفاء بالأرقام الواعدة، ووقتًا أكثر في التحقق من أن هذه الأرقام تصف المشكلة الحقيقية أصلًا.

هذه المقالة مبنية على تغطية Medical Xpress. اقرأ المقال الأصلي.