భద్రతా సూచనలు క్లినికల్ పరీక్షల్లో హానికరమైన AI ఎంపికలను తగ్గించాయి

పెద్ద భాషా మోడళ్లు క్లినికల్ వర్క్‌ఫ్లోలకు చేరువవుతున్నప్పుడు, అభ్యర్థనలోని పదజాలం AI ఆధారిత నిర్ణయ భద్రతను ఎంతగా ప్రభావితం చేస్తుందనే ప్రశ్న ముఖ్యమవుతోంది. Mount Sinaiలోని Icahn School of Medicine పరిశోధకుల అధ్యయనం ప్రభావం గణనీయంగా ఉండవచ్చని సూచించింది.

Communications Medicineలో ప్రచురించిన పరిశోధన ప్రకారం, చిన్న భద్రతా సూచనను జోడించడంతో సంభావ్య హానికరమైన క్లినికల్ ఎంపికలు 16.6% నుంచి 10.1%కి తగ్గాయి. పరీక్షించిన 20 మోడళ్లలో 19లో తగ్గుదల కనిపించింది.

సిమ్యులేటెడ్ క్లినికల్ ఎంపికల్లో కొలవగల మార్పు

50 క్లినికల్ పరిస్థితుల 501 రూపాల్లో 20 పెద్ద భాషా మోడళ్లను బృందం పరీక్షించింది. గుర్తింపులు తొలగించిన ఆసుపత్రి డిశ్చార్జ్ రికార్డుల ఆధారంగా రూపొందించిన 100 కేసులను కూడా ఉపయోగించింది. మొత్తం 10 మిలియన్లకు పైగా మోడల్ ప్రతిస్పందనలు పరిశీలించబడ్డాయి.

సందర్భం ఎందుకు ముఖ్యం

భాష, ఫ్రేమింగ్, సందర్భం మోడల్ సమాధానాలను ప్రభావితం చేయగలవు. భద్రతా సూచన వైద్య తీర్పుకు ప్రత్యామ్నాయం కాదు; అది సిస్టమ్ డిజైన్‌లోని ఒక పొరగా చూడాలి.

సమాధానమే కాదు, అభ్యర్థనను కూడా పరీక్షించాలి

క్లినికల్ AI మూల్యాంకనం కేవలం ఖచ్చితమైన సమాచారాన్ని ఉత్పత్తి చేసే సామర్థ్యంపై ఆధారపడకూడదు. అస్పష్టమైన లేదా సురక్షితం కాని అభ్యర్థన వచ్చినప్పుడు కూడా మోడల్ రోగి భద్రతకు ప్రాధాన్యత ఇస్తుందా అనేది పరీక్షించాలి.

ఫలితాలు చూపించేది మరియు చూపించనిది

సంక్షిప్త భద్రతా సూచనలు అధ్యయనం చేసిన పరిస్థితుల్లో హానికరమైన ఎంపికలను తగ్గించగలవు. అయితే భాషా మోడళ్లు స్వతంత్రంగా క్లినికల్ నిర్ణయాలు తీసుకోగలవని ఇది నిరూపించదు; ప్రతి ఆసుపత్రిలో ఇదే ఫలితం వస్తుందని కూడా చెప్పదు.

క్లినికల్ AIలో డిజైన్ అంశం

భద్రతా భాషను తరువాత జోడించే హెచ్చరికగా కాకుండా, ఉత్పత్తిలో పరీక్షించగల భాగంగా ఆరోగ్య సంస్థలు చూడాలి. ఈ సూచన అన్ని సమస్యలను పరిష్కరించలేదు, కానీ మోడల్ ప్రవర్తనను సురక్షిత దిశగా మార్చింది.

ఈ కథనం Medical Xpress నివేదిక ఆధారంగా రూపొందించబడింది. అసలు కథనాన్ని చదవండి.