Menempatkan AI pada Uji Klinis

Sebuah studi yang diterbitkan dalam Nature Medicine telah menundukkan ChatGPT OpenAI terhadap evaluasi terstruktur atas kemampuannya untuk membuat rekomendasi triage medis — langkah pertama yang kritis dalam perawatan darurat di mana pasien disortir berdasarkan urgensi kondisi mereka. Penelitian ini mewakili salah satu penilaian metodologi paling ketat hingga saat ini tentang apakah model bahasa besar dapat melakukan dengan andal dalam pengaturan klinis di mana kesalahan dapat memiliki konsekuensi yang mengancam jiwa.

Triage adalah uji yang sangat menantang untuk sistem AI karena memerlukan integrasi beberapa aliran informasi — gejala yang dilaporkan, riwayat pasien, tanda-tanda vital, dan isyarat kontekstual — untuk membuat penilaian cepat tentang seberapa mendesak pasien membutuhkan perawatan. Melakukannya dengan salah di kedua arah membawa risiko serius: under-triaging pasien kritis dapat menyebabkan penundaan pengobatan dan kematian yang dapat dicegah, sementara over-triaging pasien stabil membuang-buang sumber daya darurat yang langka.

Desain Studi dan Metodologi

Para peneliti merancang tes terstruktur menggunakan vignette klinis standar — deskripsi tertulis terperinci tentang presentasi pasien yang umum digunakan dalam pendidikan medis dan ujian dewan. Setiap vignette mencakup informasi tentang keluhan utama pasien, riwayat medis yang relevan, tanda-tanda vital, dan temuan pemeriksaan fisik.

ChatGPT diminta untuk menetapkan setiap kasus ke salah satu dari lima kategori triage standar, mulai dari keadaan darurat yang mengancam jiwa yang memerlukan intervensi segera hingga kondisi non-mendesak yang dapat menunggu dengan aman untuk perawatan rutin. Rekomendasi AI kemudian dibandingkan dengan penugasan triage konsensus yang dibuat oleh dokter darurat berpengalaman.

Studi ini mengontrol untuk beberapa variabel yang telah memperumit evaluasi sebelumnya tentang kinerja medis AI. Rekayasa prompt telah distandarisasi untuk menghilangkan variasi dalam cara pertanyaan diajukan kepada model. Beberapa run dilakukan untuk menilai konsistensi, dan para peneliti menganalisis tidak hanya akurasi penugasan triage akhir tetapi juga penalaran yang diberikan oleh model.

Temuan Utama

Studi menemukan bahwa ChatGPT berkinerja dengan hasil yang beragam di berbagai tingkat akuitas. Untuk kasus-kasus paling kritis — pasien yang hadir dengan keadaan darurat yang jelas mengancam jiwa seperti henti jantung, trauma besar, atau distres pernapasan parah — model umumnya berkinerja baik, dengan benar mengidentifikasi kebutuhan untuk intervensi segera dalam mayoritas kasus.

Namun, kinerja menurun dalam kategori triage menengah, di mana perbedaan antara kasus mendesak dan semi-mendesak memerlukan penilaian klinis yang lebih bernuansa. Ini adalah kasus-kasus di mana kesalahan triage paling umum bahkan di antara klinisi berpengalaman, dan di mana konsekuensi dari salah klasifikasi paling signifikan secara klinis.

Model juga menunjukkan inkonsistensi di seluruh evaluasi berulang dari kasus yang sama. Ketika disajikan dengan vignette klinis identik berkali-kali, ChatGPT kadang-kadang menetapkan kategori triage yang berbeda, temuan yang menimbulkan kekhawatiran tentang keandalan alat klinis berbasis LLM dalam pengaturan dunia nyata di mana konsistensi sangat penting.

  • ChatGPT berkinerja terbaik pada kasus-kasus yang jelas kritis tetapi berjuang dengan keputusan triage akuitas menengah yang bernuansa
  • Model menunjukkan inkonsistensi ketika disajikan dengan kasus yang identik berkali-kali
  • Kualitas penalaran bervariasi secara signifikan, dengan beberapa penilaian menunjukkan logika klinis yang sehat dan lainnya mencerminkan konfabulasi yang jelas
  • Studi menggunakan vignette standar dan prompt terkontrol untuk memastikan evaluasi yang ketat

Implikasi untuk Healthcare AI

Temuan ini memiliki implikasi signifikan untuk gerakan yang berkembang untuk mengintegrasikan AI ke dalam alur kerja kesehatan. Pendukung AI medis berpendapat bahwa model bahasa besar dapat membantu mengurangi kekurangan dokter darurat dan perawat triage yang parah, terutama di pengaturan perawatan kesehatan yang kurang berresources dan negara berkembang di mana akses ke profesional medis terlatih terbatas.

Studi menunjukkan bahwa sementara ChatGPT mungkin berguna sebagai alat tambahan — membantu klinisi memikirkan diagnosis diferensial atau menandai pertimbangan yang berpotensi diabaikan — itu belum cukup andal untuk berfungsi sebagai sistem triage otonom. Inkonsistensi dalam evaluasi berulang sangat mengkhawatirkan, karena alat dukungan keputusan klinis perlu menghasilkan rekomendasi yang sama dengan input yang sama.

Para peneliti mencatat bahwa temuan mereka berlaku khusus untuk versi ChatGPT yang diuji dan bahwa kemampuan model berkembang pesat. Model yang lebih baru dengan kemampuan penalaran yang ditingkatkan dan penyesuaian medis mungkin berkinerja jauh lebih baik. Namun, mereka memperingatkan terhadap penyebaran sistem AI apa pun dalam triage klinis tanpa validasi ekstensif terhadap hasil pasien di dunia nyata, bukan hanya kasus uji standar.

Pertanyaan Regulasi

Studi juga menyoroti tantangan yang dihadapi regulator ketika alat AI semakin menemukan jalan mereka ke dalam praktik klinis. Di banyak negara, perangkat lunak dukungan keputusan medis tunduk pada persetujuan regulasi sebagai perangkat medis. Namun, kecepatan pembaruan model AI — dengan versi baru dirilis setiap beberapa bulan — menciptakan tantangan regulasi, karena setiap pembaruan berpotensi dapat mengubah kinerja klinis sistem.

Food and Drug Administration AS telah mengembangkan kerangka kerja untuk mengatur perangkat medis berbasis AI, termasuk ketentuan untuk sistem pembelajaran berkelanjutan yang berkembang seiring waktu. Tetapi kerangka kerja masih dalam proses pengerjaan, dan celah antara kecepatan pengembangan AI dan kecepatan adaptasi regulasi terus melebar.

Ke Depannya

Studi Nature Medicine berkontribusi pada tubuh bukti yang berkembang menunjukkan bahwa model bahasa besar menunjukkan janji asli dalam aplikasi medis tetapi belum siap untuk penerapan klinis otonom. Jalan ke depan kemungkinan besar melibatkan sistem kolaborasi manusia-AI yang dirancang dengan hati-hati di mana rekomendasi model selalu tunduk pada tinjauan manusia, dikombinasikan dengan pemantauan berkelanjutan dari hasil klinis untuk memastikan bahwa bantuan AI sebenarnya meningkatkan perawatan pasien daripada memperkenalkan risiko baru.

Untuk departemen darurat yang sudah berjuang dengan kepadatan dan kekurangan staf, bahkan alat AI yang tidak sempurna yang menangkap beberapa kasus kritis yang terlewatkan dapat menyelamatkan nyawa. Tetapi penyebaran alat semacam itu secara bertanggung jawab memerlukan jenis evaluasi terstruktur dan ketat yang ditegaskan oleh studi ini — bukan hanya demonstrasi kinerja mengesankan pada contoh yang dipilih dengan cermat.

Artikel ini didasarkan pada pelaporan oleh Nature Medicine. Baca artikel asli.