دفع البيت الأبيض لتخفيف قواعد الذكاء الاصطناعي في القطاع الصحي يصطدم بمخاوف بشأن الدقة والإشراف

الذكاء الاصطناعي في المستشفيات يتحرك أسرع من الثقة في الأدوات

أصبح الذكاء الاصطناعي بالفعل جزءًا راسخًا داخل سير العمل في الرعاية الصحية الأمريكية، وأحد أوضح نجاحاته المبكرة هو أيضًا من أكثرها بساطة: تدوين الملاحظات. إذ تُستخدم كتّاب السجلات الطبية المدعومة بالذكاء الاصطناعي لتلخيص زيارات المرضى، وتقليل الأعباء الكتابية، ومنح الأطباء وقتًا إضافيًا خلال يوم العمل. لكن مع تسارع الاعتماد، يشتد الجدل السياسي حول الإشراف. ويظهر التوتر الأساسي بوضوح في التغطية الجديدة: فدفع البيت الأبيض المرتبط بالرئيس دونالد ترامب وروبرت ف. كينيدي جونيور يسعى إلى تخفيف الضمانات الخاصة بأدوات الذكاء الاصطناعي الصحية في الوقت الذي لا يزال فيه الأطباء وباحثو السلامة يوثقون حدود الجودة.

وتُرسّخ المادة هذا التوتر عبر مثال عملي من كايزر بيرماننتي في أوكلاند، حيث يقول المعالج النفسي بول بوير إن نظام تدوين الملاحظات Abridge الذي نشرته المؤسسة الصحية الكبرى “ليس مفيدًا جدًا” في بيئته. وبحسب التقرير، ينتهي الأمر ببوير وزملائه إلى تصحيح الملاحظات التي يولدها الحاسوب، ويجادل بأن البرنامج يواجه صعوبة في التقاط الدقة السريرية والنبرة العاطفية اللتين قد تكونان أساسيتين في رعاية الصحة النفسية. وفي حالات مثل الهوس، كما يقول، فإن طريقة قول الشيء قد تكون مهمة بقدر ما يقال، والنظام لا يلتقط هذا الفرق بصورة موثوقة.

هذه ليست حجة بأن الأدوات بلا قيمة. بل هي حجة مفادها أن نطاق الأداء غير متساوٍ، ولا سيما في التخصصات التي يصعب فيها اختزال اللغة والعاطفة والسياق إلى ملخص.

لماذا تنتشر كتّاب السجلات المعتمدة على الذكاء الاصطناعي رغم ذلك

من السهل فهم جاذبية هذه الأنظمة. فالتوثيق من أكثر الأعباء الإدارية استمرارًا في الطب، وأي منتج يخفف هذا العبء يمكن أن يكتسب دعم الأطباء بسرعة. وتشير المادة إلى دراسة نُشرت في Journal of the American Medical Association خلصت إلى أنه بعد عام من التثبيت، وفر الأطباء الأكثر استخدامًا لهذه المنتجات أكثر من نصف ساعة من العمل يوميًا. كما وجدت عدة دراسات قائمة على المقابلات ردود فعل إيجابية على نطاق واسع من الأطباء الذين استخدموا هذه الأدوات.

هذا المزيج من توفير الوقت والانطباع الإيجابي لدى المستخدمين يفسر كيف انتقل برنامج تدوين الملاحظات من كونه تجربة تجريبية إلى جزء من البنية التحتية للمستشفيات في الوقت الحاضر. ففي كثير من البيئات، يقدم قيمة تشغيلية فورية. غير أن المشكلة هي أن الرعاية الصحية ليست مجرد سير عمل مكتبي آخر. فالتوثيق يصبح جزءًا من السجل السريري، والأخطاء التي تبقى في ذلك السجل قد تنتقل إلى الرعاية المستقبلية.

ولهذا السبب تصبح مسألة الجودة هنا أكثر أهمية مما ستكون عليه في تطبيق إنتاجية عام. فملخص اجتماع معيب في بيئة أعمال قد يهدر الوقت. أما الملاحظة السريرية المعيبة فقد تغير لاحقًا قرارات التشخيص أو العلاج أو التسليم بين الفرق.

مشكلة الإشراف ليست نظرية

تشير المادة إلى قلق يشترك فيه باحثو السلامة: قد لا يلتقط الأطباء دائمًا الأخطاء التي يولدها الذكاء الاصطناعي. وإذا حدث ذلك، فقد يعتمد أطباء لاحقون على معلومات غير دقيقة. وهذا أحد أنماط الفشل الكلاسيكية للأتمتة في البيئات عالية المخاطر. قد يبدأ الناس بمراجعة المخرجات بعناية، لكن مع تحول الأنظمة إلى أمر روتيني ومفيد في الغالب، قد تتراجع اليقظة. وهذا يترك مجالًا لأخطاء دقيقة أن تدخل السجلات بغطاء من المشروعية.

وتقول Abridge إنها تقيم أدواتها خلال مرحلة النشر وتراقب تعديلات الأطباء وتقييمات النجوم والملاحظات النصية الحرة حول جودة الملاحظات بعد الإطلاق. هذا النوع من المتابعة بعد النشر مهم، ويشير إلى أن الشركات تدرك أن الأداء في العالم الحقيقي لا يمكن افتراضه من الاختبارات السابقة للإطلاق وحدها.

ومع ذلك، فالمراقبة ليست هي نفسها الإشراف المستقل. إذ يمكن للشركة دراسة التعديلات والملاحظات، لكن المنظمين ومقدمي الرعاية والأطباء ما زالوا بحاجة إلى تحديد معيار الأدلة المناسب للأدوات التي تشكل التوثيق الطبي، وبشكل متزايد، القرارات السريرية.

ما الذي قد يعنيه تخفيف الضمانات

تصوغ التغطية الدفع السياسي الحالي بوصفه محاولة لتخفيف الضمانات المحيطة بأدوات الذكاء الاصطناعي الصحية. وحتى من دون التفاصيل الكاملة لأي اقتراح تنظيمي في النص المقدم، فإن الرهانات واضحة من السياق. فالمستشفيات في جميع أنحاء البلاد تطبق هذه الأنظمة بالفعل. وهذا يعني أن الإشراف الأخف لن يؤثر في سوق مستقبلية بعيدة، بل سيشكل أدوات تُستخدم بالفعل في بيئات رعاية فعلية.

أقوى حجة لصالح تخفيف القواعد هي السرعة: فإذا كان الذكاء الاصطناعي قادرًا على تقليل العبء الإداري وخفض الإرهاق ونشر البرمجيات المفيدة بسرعة، فإن التنظيم المرهق قد يبطئ مكاسب حقيقية. أما أقوى حجة ضد تخفيف القواعد فهي أن برمجيات الرعاية الصحية لا تفشل في بيئة مجردة، بل تفشل في سجلات المرضى وخطط الرعاية والحكم السريري.

ويكشف مثال بوير عن ذلك لأنه لا يصف عطلًا كارثيًا، بل يصف شيئًا أكثر شيوعًا وبالتالي أكثر احتمالًا لإحداث أثر: أداة مفيدة من بعض النواحي لكنها لا تزال تفوّت الدقة الدقيقة وتتطلب تصحيحًا. وهذا بالضبط النوع من الغموض الذي يجعل ضبط التنظيم أمرًا صعبًا. فالتقنية ليست خيالية، لكن الخطر المتبقي ليس كذلك أيضًا.

المقايضة المألوفة للذكاء الاصطناعي في الرعاية الصحية

النمط الأوسع هنا مألوف عبر القطاعات التي تتبنى الذكاء الاصطناعي التوليدي. فالأدوات المبكرة غالبًا ما تحقق مكاسب إنتاجية حقيقية بينما تواصل إنتاج أخطاء لا تكون مقبولة إلا إذا ظل المستخدمون يقظين ومطلعين. وفي الرعاية الصحية، تصبح هذه المقايضة أكثر صعوبة بكثير لأن اليقظة نفسها مورد نادر. فالغرض من كتّاب السجلات الطبية هو تقليل عبء الأطباء. لكن إذا كانت الملاحظات بحاجة إلى مراجعة سطرًا بسطر لتجنب أخطاء خطيرة، فإن جزءًا من قصة الكفاءة يضعف.

هذا لا ينفي قيمة هذه الأنظمة. لكنه يعني أن “يعمل بما يكفي” هدف متغير في الطب. فالأداة التي تؤدي بقوة في التقاط ملاحظات الرعاية الأولية قد تتعثر في الطب النفسي أو أي مجال تحمل فيه النبرة والشك والإشارات السلوكية أهمية سريرية كبيرة.

وعليه، فالسؤال السياسي ليس ما إذا كان الذكاء الاصطناعي يجب أن يكون في الرعاية الصحية. فهو موجود بالفعل. والسؤال هو ما إذا كان الإشراف سيتطور بطريقة تتوافق مع نضج التكنولوجيا غير المتكافئ. وتشير التغطية إلى أن هذا الجدل يصل قبل أن تُحل كثير من القضايا العملية.

إذا خُففت الضمانات بينما لا تزال المستشفيات تتعلم أين تعمل هذه الأنظمة جيدًا وأين تفشل، فقد يقع عبء ضبط الجودة بشكل أكبر على الأطباء. وقد يكون ذلك مقايضة قابلة للإدارة في بعض البيئات، لكنه في بيئات أخرى قد يتبين أنه كلفة خفية للسرعة.

هذه المادة تستند إلى تقرير من Medical Xpress. اقرأ المقال الأصلي.