نماذج التنبؤ الصحي بالذكاء الاصطناعي المبنية على مجموعات بيانات غير قابلة للتحقق تثير مخاوف جدية

دراسة تكشف فجوات مقلقة في مصدر بيانات الصحة للذكاء الاصطناعي

قد تكون نماذج الذكاء الاصطناعي المصممة للتنبؤ بالمخاطر الصحية مثل السكتة الدماغية والسكري مبنية على مجموعات بيانات لا يمكن التحقق من أصولها، وفقًا لبحث جديد نُشر في BMC Medicine. الدراسة، التي قادها باحثون في جامعة كوينزلاند للتكنولوجيا (QUT) والمركز الأسترالي لابتكارات الخدمات الصحية (AusHSI)، فحصت مجموعتي بيانات صحيتين تم تنزيلهما على نطاق واسع مستضافتين على Kaggle، وهي منصة شائعة عبر الإنترنت لمشاركة مجموعات البيانات وموارد التعلم الآلي. تسلط النتائج الضوء على خلل جوهري في أساس بعض الأدوات السريرية القائمة على الذكاء الاصطناعي.

مجموعات البيانات المستخدمة في أكثر من 125 دراسة محكمة

تبين أن مجموعتي البيانات المعنيتين قد استُخدمتا في 125 دراسة محكمة، على الرغم من عدم تقديم أي معلومات تقريبًا حول مصدر البيانات، أو كيفية جمعها، أو ما إذا كانت تمثل مرضى حقيقيين. أعرب المؤلف الرئيسي ألكسندر جيبسون من كلية الصحة العامة والعمل الاجتماعي بجامعة QTU وAusHSI عن صدمته من هذا الاكتشاف. قال جيبسون: "كانت مفاجأة هائلة أن نعثر على شيء كهذا. تُظهر مجموعات البيانات هذه أنماطًا غير عادية تثير تساؤلات جدية حول صحتها وملاءمتها للبحث السريري."

التأثير السريري واستشهادات براءات الاختراع

أظهرت ثلاثة نماذج تنبؤ مبنية على البيانات دليلاً على استخدامها في الممارسة السريرية. تم الاستشهاد بنموذج واحد في براءة اختراع لجهاز طبي، وتمت الإشارة إلى النماذج في 86 مقالة مراجعة. يشير هذا إلى أنه على الرغم من المصدر المشكوك فيه للبيانات الأساسية، إلا أن هذه النماذج أثرت على القرارات والابتكارات الطبية في العالم الحقيقي.

صفر نقطة على معايير مصدر البيانات الأساسية

قيّمت الدراسة مجموعات البيانات باستخدام إطار TRIPOD+AI المعترف به دوليًا، والذي يقيم شفافية واكتمال دراسات نماذج التنبؤ. سجلت مجموعات البيانات 0 من 9 على معايير مصدر البيانات الأساسية، مما يشير إلى نقص كامل في المعلومات القابلة للتحقق حول أصولها. حذر جيبسون من أن هذا يجب أن يكون علامة حمراء للمجلات والمطورين والأطباء. قال: "نماذج التنبؤ المبنية على بيانات مجهولة المصدر ليس لها مكان في اتخاذ القرارات السريرية. بدون بيانات موثوقة، تكون المخرجات غير موثوقة وتخاطر بتضليل الأطباء وإيذاء المرضى."

دعوة لتعزيز متطلبات الإفصاح

يوصي المؤلفون بأن تعزز المجلات والممولين ومستودعات البيانات متطلبات الإفصاح عن مصدر البيانات. كما يقترحون إزالة مجموعتي بيانات Kaggle لمنع إساءة استخدامها بشكل أكبر. تم سحب سبع مقالات استخدمت مجموعتي البيانات هذه بالفعل من المجلات لكونها غير موثوقة. كما قامت نتائج الدراسة بتحديث مجموعة أدلة سلامة النزاهة العلمية المفتوحة، والتي توفر موارد لضمان نزاهة البحث.

آثار أوسع للذكاء الاصطناعي في الرعاية الصحية

أشار جيبسون إلى أن القضية تعكس تحديًا أوسع مع انتشار أدوات الذكاء الاصطناعي في الرعاية الصحية. بدون معايير قوية لمصدر البيانات، يزداد خطر نشر نماذج معيبة في الممارسة السريرية. تؤكد الدراسة على الحاجة إلى التحقق الصارم من مجموعات البيانات قبل استخدامها لتدريب نماذج الذكاء الاصطناعي التي يمكن أن تؤثر على نتائج المرضى.

توصيات للمجال

• يجب على المجلات أن تطلب معلومات مفصلة عن مصدر البيانات لأي دراسة تستخدم نماذج التنبؤ بالذكاء الاصطناعي.
• يجب على الممولين فرض الشفافية في ممارسات جمع البيانات ومشاركتها.
• يجب على مستودعات البيانات مثل Kaggle تنفيذ عمليات تحقق لضمان أن مجموعات البيانات تلبي الحد الأدنى من معايير المصدر.
• يجب على الأطباء توخي الحذر عند اعتماد أدوات الذكاء الاصطناعي دون دليل واضح على موثوقية البيانات.

تعتبر النتائج قصة تحذيرية لمجتمعي الذكاء الاصطناعي والطب، مؤكدة أن وعد الذكاء الاصطناعي في الرعاية الصحية لا يمكن تحقيقه إلا إذا كانت البيانات التي تدعم هذه النماذج موثوقة.

هذه المقالة مبنية على تقرير من Medical Xpress. اقرأ المقال الأصلي.