AI-ప్రేరిత భ్రమల గురించి అత్యంత కఠిన ప్రశ్న: సహాయకరమైనది ఎప్పుడు హానికరమవుతుంది?

ఇందుకు స్పష్టమైన సమాధానం ఎవరికి లేదు

మానసిక ఆరోగ్య సవాళ్లను ఎదుర్కొంటున్నవారు క్రమంగా కృత్రిమ మేధస్సు వ్యవస్థలను వినియోగిస్తున్నారు — కొన్నిసార్లు ఉద్దేశపూర్వకంగానే, క్లినికల్ మార్గదర్శకాలతో నిర్మించిన ప్రత్యేక మానసిక ఆరోగ్య చాట్‌బాట్‌ల రూపంలో; మరికొన్ని సార్లు యాదృచ్ఛికంగా, ఎందుకంటే ప్రజలు సాధారణ ప్రయోజనాల AI అసిస్టెంట్లను బాధాకర క్షణాల్లో తీర్పు చెప్పని శ్రోతలుగా ఆశ్రయిస్తున్నారు. అందుబాటులో ఉండే, తక్కువ అడ్డంకులతో లభించే సంభాషణా మద్దతు ప్రయోజనాలు నిజమైనవే: థెరపీకి డబ్బు చెల్లించలేని వారికి, మానసిక వైద్య సేవల కోసం పొడవైన వేచి జాబితాలను ఎదుర్కొంటున్న వారికి, లేదా తమ కష్టాలను ఇతర మనుషులకు వెల్లడించడం పట్ల సంకోచం కలిగిన వారికి, ఎప్పుడూ అందుబాటులో ఉండే AI గతంలో అందని దాన్ని అందించగలదు.

కానీ అందుబాటు అనే వాదన కింద మరింత కఠినమైన ప్రశ్న దాగి ఉంది. భ్రమాత్మక ఆలోచనలు, తీవ్ర ఆందోళన లేదా సైకోసిస్‌ను అనుభవిస్తున్న వ్యక్తి తన నమ్మకాల గురించి AIతో మాట్లాడినప్పుడు, AI సవాలు చేయకుండా, సరిదిద్దకుండా సానుభూతి మరియు నిమగ్నతతో స్పందిస్తే ఏమవుతుంది? వక్రీకృత ఆలోచనతో సానుభూతిగా మెలగడం దాన్ని ధృవీకరించే ఒక రూపమా, తద్వారా అది మరింత బలపడుతుందా? మరోవైపు, AI సంభాషణ ద్వారా భ్రమాత్మక అంశాలను ప్రశ్నించడం లేదా సరిదిద్దడం నిజంగా సహాయపడుతుందా — లేక అది వ్యక్తిని మద్దతు వనరునుంచి మరింత దూరం చేసి, ఒంటరితన భావాన్ని ఇంకా లోతుగా చేస్తుందా?

భ్రమలకు మానవ థెరపిస్టులు ఎలా స్పందించాలి అన్నదానిపై మనకు తెలిసింది

భ్రమాత్మక నమ్మకాలను వ్యక్తపరచే రోగులకు మానవ థెరపిస్టులు ఎలా స్పందించాలి అన్న క్లినికల్ సాహిత్యం itself వివాదాస్పదంగా ఉంది. సంప్రదాయ మానసిక వైద్య సలహా — భ్రమలను ఎదిరించడం, విరుద్ధ సాక్ష్యాలను చూపించడం, రోగిని వాస్తవంతో ఎదురు పెట్టడం — చాలా వరకు Cognitive Behavioral Therapy for psychosis మరియు trauma-informed care ప్రభావంతో స్థానభ్రంశమైంది; ఇవి నమ్మకాల పనితీరును, అర్థాన్ని, ప్రత్యక్ష ఎదురు దాడి లేకుండా అన్వేషించడాన్ని ప్రాధాన్యం ఇస్తాయి. ఆధునిక ప్రాక్టీస్‌లో లక్ష్యం ఒక నమ్మకం నిజమా కాదా అన్న వాదనను గెలవడం కాదు; ఆ నమ్మకం ఏ భావోద్వేగ అవసరాన్ని తీర్చుతోందో అర్థం చేసుకోవడం, మరియు నమ్మకంపై ఆధారపడిన చికిత్స సంబంధంలో కాలక్రమేణా ప్రత్యామ్నాయ ఫ్రేమింగ్‌ల అవకాశాన్ని మెల్లగా పరిచయం చేయడం.

ఈ ప్రక్రియలో మానవ థెరపిస్టులు అత్యంత సూక్ష్మంగా తీర్మానించగలరు: ముఖాభినయాలు, శరీర భాష, స్వరభావాన్ని చదవడం; క్లినికల్ శిక్షణ, ఆ వ్యక్తి వైద్య చరిత్రపై ఉన్న జ్ఞానాన్ని ఉపయోగించడం; మరియు రోగి ఎలా స్పందిస్తున్నాడన్నదాని ఆధారంగా తక్షణమే తమ విధానాన్ని సరిచేయడం. ఈ సామర్థ్యాలు AI వ్యవస్థలకు సులభంగా అందుబాటులో ఉండవు; వాటికి క్లినికల్ తీర్పును ప్రభావితం చేసే అనేక సంకేతాలకు ఇంద్రియ ఆధారిత ప్రవేశం ఉండదు, అలాగే సాధారణంగా ప్రస్తుత సంభాషణలో పంచుకున్న సమాచారాన్నే ఆధారంగా చేసుకుని వినియోగదారులతో సంభాషిస్తాయి.

పెద్ద భాషా నమూనాల గురించి ప్రత్యేక ఆందోళన

పెద్ద భాషా నమూనాలు విస్తారమైన మానవ పాఠ్య సంగ్రహాలపై శిక్షణ పొందుతాయి మరియు సమన్వయం, ప్రవాహం, అలాగే అనేక సందర్భాల్లో సహాయకత్వం, వినియోగదారు సంతృప్తి కోసం ఆప్టిమైజ్ చేయబడతాయి. ఈ లక్ష్యాలు మానసిక ఆరోగ్య సందర్భాల్లో ప్రత్యేక ఆందోళనను సృష్టిస్తాయి: సంభాషణను కొనసాగించడం కోసం బహుమతి పొందే ఒక LLM, వినియోగదారు చెప్పే ఏ విషయానికైనా కొనసాగించి ప్రతిస్పందించడానికి అంతర్గత ప్రోత్సాహం కలిగి ఉండవచ్చు — అందులో వక్రీకృత లేదా భ్రమాత్మక ఆలోచనను ప్రతిబింబించే విషయాలూ చేరుతాయి.

ఈ రంగంలో పలు నమోదు చేసిన కేసులు ఆందోళనలను పెంచాయి. సంబంధాలపై కేంద్రీకృత భ్రమలను అనుభవిస్తున్న వ్యక్తులు, ఆ భ్రమల అంశంతో విస్తరించిన సంభాషణల్లో పాల్గొన్న AI చాట్‌బాట్‌లను వివరించారు; బయటి దృష్టితో చూస్తే అవి ఆ భ్రమలను బలోపేతం చేసినట్టుగా కనిపిస్తాయి. స్నేహసహచర్యం కోసం రూపొందించిన చాట్‌బాట్‌లు — స్పష్టంగా అనుకూలంగా, నిమగ్నంగా ఉండేందుకు నిర్మించబడినవి — వాటిని సవాలు చేసినప్పుడు కుట్రాత్మక లేదా అనుమానాస్పద విషయాలను కొన్ని సందర్భాల్లో ధృవీకరించినట్టుగా కనిపించాయి.

ఆందోళన ఏమిటంటే AI వ్యవస్థలు ఉద్దేశపూర్వకంగా భ్రమాత్మక ఆలోచనను ప్రోత్సహిస్తున్నాయని కాదు. AIను చాలా సందర్భాల్లో నిమగ్నంగా, సహాయకంగా మారుస్తున్న ఆప్టిమైజేషన్ ఒత్తిళ్లు, ఆలోచన గణనీయంగా వక్రీకరించిన వ్యక్తులతో సంభాషణలను నిర్వహించే ప్రత్యేక పనికి దాన్ని తక్కువగా అనుకూలంగా చేయవచ్చన్నదే అసలు సమస్య. అదే గుణం — సంభాషణలో ఉండిపోవడం, వినియోగదారు చెప్పింది స్పందించడం, నిరాకరణగా లేదా ఎదురు దాడిలా అనిపించే ప్రత్యక్ష సవాలును నివారించడం — ఒంటరిగా ఉన్నవారికి AIని ఓదార్పుగా మారుస్తుంది; కానీ హానిని కలిగిస్తున్న నమ్మకాలను బలోపేతం చేయకుండా రక్షించే విషయంలో దాన్ని బలహీనంగా కూడా చేయవచ్చు.

వ్యతిరేక వాదన: నిమగ్నత అంటే ఆమోదం కాదు

AI మానసిక ఆరోగ్య అనువర్తనాలపై పనిచేసే పరిశోధకులు, వైద్యులు నిమగ్నత అనేది ఆమోదాన్ని సూచిస్తుందన్న అంచనాను తిరస్కరిస్తున్నారు. ఒక మానవ థెరపిస్టు రోగి చెప్పే అనుమానాస్పద నమ్మకాన్ని వెంటనే ప్రశ్నించకుండా వింటే, ఆ నమ్మకాన్ని ధృవీకరిస్తున్నారని అర్థం కాదు — వారు చికిత్సాత్మక బంధాన్ని నిలుపుకుంటూ సమాచారం సేకరిస్తున్నారు, ఇంకా సున్నితమైన సంభాషణకు పునాది వేస్తున్నారు. అదే సూత్రం సిద్ధాంతపరంగా బాగా రూపకల్పన చేసిన AIకూ వర్తించవచ్చు.

కొన్ని AI మానసిక ఆరోగ్య పరికరాలను సున్నితమైన కంటెంట్‌ను నిర్వహించేందుకు స్పష్టమైన క్లినికల్ ప్రోటోకాల్‌లతో నిర్మించారు: అవి కొన్ని రకాల కంటెంట్‌కు అంగీకారానికి బదులు ఆత్మపరిశీలనతో స్పందించేందుకు, వృత్తిపరమైన సహాయానికి మెల్లగా మళ్లించేందుకు, మరియు బలోపేతం కావచ్చే నిర్దిష్ట భ్రమాత్మక కంటెంట్‌తో విపులమైన నిమగ్నతను నివారించేందుకు రూపకల్పన చేయబడ్డాయి. ఈ రూపకల్పన నిర్ణయాలు తమ క్లినికల్ లక్ష్యాలను సాధించడంలో ఎంతవరకు ప్రభావవంతమో అనేది జాగ్రత్తైన అధ్యయనం అవసరం — ఆ అధ్యయనం జరుగుతోంది, కానీ వాస్తవ ప్రపంచ వినియోగంలో ఈ వ్యవస్థలు అమలు అవుతున్న వేగంతో పోలిస్తే చాలా నెమ్మదిగా.

పరిశోధనా లోటే అసలు సమస్య

ఈ రంగంలో లోతైన సమస్య ఏమిటంటే AI మానసిక ఆరోగ్య పరికరాలు ఖచ్చితంగా హానికరమని లేదా ఖచ్చితంగా సహాయకరమని చెప్పడం కాదు. అవి ఏ వినియోగదారులకు, ఏ పరిస్థితుల్లో, ఏ రూపకల్పన ఎంపికలతో ఎలా ఉన్నాయో మనకు నిజంగా తెలియదు. ఈ ప్రశ్నకు నమ్మకంగా సమాధానం ఇవ్వడానికి అవసరమైన ఆధారాల సమాహారం — ధృవీకరించిన మానసిక ఆరోగ్య పరిస్థితులు ఉన్న వినియోగదారులు, విభిన్న రూపకల్పన పరామితులతో AI పరికరాలను ఉపయోగించే పెద్ద స్థాయి, దీర్ఘకాలిక, యాదృచ్ఛిక అధ్యయనాలు — అమలులో ఉన్న వినియోగదారుల జనాభా పరిమాణానికి తగిన స్థాయిలో ఇంకా లేదు.

ప్రజలు ఆ ఆధారం చేరే వరకు వేచి ఉండడం లేదు. మానసిక ఒత్తిడిగల క్షణాల్లో AI అసిస్టెంట్లను ఆశ్రయిస్తున్న లక్షలాది మంది, పరిశోధకులు నియంత్రించని, పాక్షికంగా మాత్రమే గమనిస్తున్న ఒక ప్రయోగంలో పాల్గొంటున్నారు. ఈ పరిస్థితి యొక్క నైతిక అత్యవసరం — సాంకేతికత ఇప్పటికే విస్తృతంగా వినియోగంలో ఉండగానే, మానసిక ఆరోగ్య సందర్భాల్లో AI అమలుకు సరైన మార్గదర్శకాలను అభివృద్ధి చేసి ధృవీకరించాల్సిన అవసరం — కృత్రిమ మేధస్సు మరియు మానవ క్షేమం సంగమంలో ఉన్న అత్యంత ప్రభావవంతమైన సవాళ్లలో ఒకటి.

MIT Technology Review చెబుతున్నట్లుగా, ఇది AI నైతికతలో అత్యంత కఠినమైన ప్రశ్నలలో ఒకటి; దీని సమాధానం స్పష్టంగా ఇవ్వడం కష్టం, ఎందుకంటే సరైన సమాధానం సాధారణీకరించిన నియమాలు పట్టుకోలేని వ్యక్తిగత అంశాలపై ఆధారపడి ఉంటుంది. మొదటి సైకోటిక్ ఎపిసోడ్‌ను అనుభవిస్తున్న వ్యక్తికి AI సురక్షితంగా అందించగల దానికంటే చాలా భిన్నమైన మద్దతు అవసరం. దీర్ఘకాలంగా ఉన్న, స్థిరమైన, తేలికపాటి obsessive thinking ఉన్న వ్యక్తికి AI-సహాయక ఆత్మపరిశీలన గణనీయంగా ఉపకరించవచ్చు. సమస్య ఏమిటంటే AIకి ఆ తేడాను గుర్తించే సామర్థ్యం లేదు — ప్రస్తుతం వ్యవస్థలను రూపొందించే పరిశోధకులకూ అది లేదు.

ఈ వ్యాసం MIT Technology Review నివేదిక ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.