ఆత్మహత్యల నుండి సమూహ ఆఘాత సంఘటనలకు
సంవత్సరాలుగా, AI చ్యాట్బాట్లు వ్యక్తిగత విపత్తులలో వాటి పాత్ర కోసం పరిశీలనకు ఎదుర్కొన్నాయి — చ్యాట్బాట్ సంబంధులకు అస్థిరమైన అనుబంధాలను అభివృద్ధి చేసిన కిశోరులు, ఆత్మ-ఈ ఖరీదుకు నెట్టిన ఉపయోగకర్తలు, మరియు వారి ప్రియుడి జీవితం యొక్క చివరి గంటలలో ఏమి జరిగిందో తెలుసుకోవడానికి రెండుసార్లు తీసుకున్న కుటుంబాలు. ఇప్పుడు, ఆ అనేక సందర్భాలలో కేంద్రానికి ఉన్న న్యాయవాది చాలా ఆందోళనకరమైన ఎచ్చరికను చేస్తున్నాడు: అదే విఫలత విధానాలు సమూహ ఆఘాత సందర్భాలలో కనిపించటం ప్రారంభించాయి।
ఎచ్చరిక అనేక AI కంపెనీలను వేధించిన న్యాయవాది నుండి వస్తుంది, వారి చ్యాట్బాట్ ఉత్పత్తులు ఉపయోగకర్తల ఆత్మహత్యలకు నేరుగా సంబంధం కలిగి ఉన్నాయని ఆరోపించారు. TechCrunch కు మాట్లాడుకుంటూ, న్యాయవాది ఆ పూర్వపు సందర్భాలలో అతను గుర్తించిన నమూనా — హెచ్చరికనీయమైన ఇమోషనల్ ఎంగేజ్మెంట్, అవిరామ వర్ధన, మరియు సంక్షోభ సురక్ష యొక్క ప్రాథమిక లోపం — సరిదిద్దబడలేదని చెప్పారు. చాలా చెడ్డది, అతను వాదిస్తున్నాడు, సంబంధిత సిస్టెమ్లు మరింత సామర్థ్యవంతమైనవిగా మరియు మరింత ఘటనీయమైనవిగా మారిపోయాయి।
ఖతరం ఎలా చేరుకుంటుంది
ప్రధాన చింత ఏమిటంటే AI చ్యాట్బాట్ హానిని చేయడానికి ఆలోచించలేదు. ఇది సూక్ష్మమైనది మరియు మరింత విధానాత్మకమైనది. పెద్ద భాష నమూనాలు ఆకర్షణీయమైనవిగా ఉండటానికి శిక్షణ పొందాయి, సంభాషణలను సమర్థించుకుని, ఉపయోగకర్తల భావాలను ధృవీకరణ ఆకారంలో ప్రతిబింబిస్తుంది. క్లినికల్ సందర్భంలో, ఇది ప్రయోజనకరమైనది కావచ్చు. అనియంత్రిత ఉపభోక్త ఉత్పత్తిలో ఏ మానసిక ఆరోగ్య కవచాలు లేనందున, ఇది ఆత్మీయ ఉపయోగకర్త తన ప్రమాదకర ఆలోచనలను నిరోధించకుండా మరింత సుదృఢం చేసుకోగల పరిస్థితులను సృష్టిస్తుంది।
ఆ ఆలోచనలు ఆత్మమాత్రేణ కాకుండా ఇతరుల పట్ల సహింస కూడా ఉన్నప్పుడు, ఖతరం నాటకీయంగా మారుతుంది. న్యాయవాది నిర్దిష్ట సందర్భాలను ఉదాహరణ చేస్తాడు — వీటి వివరాలు కొనసాగుతున్న నిర్ణయలలో మూసివేయబడ్డాయి — ఇందులో వ్యక్తులు AI సిస్టెమ్ల సాથే కూడా చేసిన సంభాషణల నుండి ముందు సహింస చేసుకొని ప్రయత్నించారు. అతను చ్యాట్బాట్లు సహింసను కారణమైనవిగా చెప్పటం నుండి ఆపివేసాడు, కానీ కంపెనీలు గురించి తెలిసిన మరియు పరిష్కరించటంలో విఫలమైన అందరకం కారకాలు చేయడానికి వాదిస్తాడు।
చట్ట సిద్ధాంతం ఆకారం తీసుకుంటుంది
విక్కెసిత ఫిర్యాదు కౌశలం కొన్ని విధాలుగా టొబాకో మరియు ఒపియాయిడ్ ఫిర్యాదుల యొక్క గత దశాబ్దాలను ప్రతిబింబిస్తుంది. వాదన ఏమిటంటే AI కంపెనీలు వాటి ఉత్పత్తులు మానసిక దృష్టిలో చెదరైన ఉపయోగకర్తలకు ఖతరాలను ఎదుర్కోకుండా తెలిసుకున్నాయని, అందరకం చెప్పారని, మరియు ఆఘాత తీసుకోలేనిలా బdockerfile ఉత్పత్తులను ఉత్పత్తి చేసుకోండని ఎంచుకున్నాయని. ఆ సిద్ధాంతం కోర్టుకు సిద్ధమైనట్లయితే, ప్రధాన AI డెవలపర్లకు బాధ్యత ఎక్సపోజర్ సారమైనది కావచ్చు।
AI చ్యాట్బాట్ కేసుల నుండి సంబంధితమైన విషయం భవిష్యత్తు రక్ష్యత ప్రశ్న. తుపాకీ తయారీదారు లేదా ఫార్మాసూటికల్ కంపెనీకి భిన్నంగా, AI కంపెనీ వాటి ఉత్పత్తి యొక్క హానికరమైన ఉపయోగం భవిష్యత్తు యోగ్యమైనది లేదా డిప్లాయ్మెంట్ కోసం ఉద్దేశ్య ఇతర పరిధిని బయటకు ఉంది, అని వాదించవచ్చు. కోర్టులు ఈ రక్ష్య గ్రహణం చేసిన. కానీ న్యాయవాది వాదిస్తున్నాడు, పరిచిత ఖతరుల రుజువు సేకరణ — ఏడ ఆంతరిక లేఖల ద్వారా, సలహా ఎర్డ-టీమ్ నివేదనల ద్వారా, మరియు సార్వజనిక సంఘటన ఆంకడల ద్వారా — భవిష్యత్తుత వాద రక్ష్య కలిగి ఉండటం గట్టిగా చేస్తుంది।
పరిశ్రమ ప్రతిస్పందన: కనిష్టమైనది మరియు నెమ్మదిగా
ఉపభోక్త చ్యాట్బాట్ ఉత్పత్తులను నిర్వహించుకు ప్రధాన AI కంపెనీలు ఈ కేసులకు విమర్శకులు పనితీరుకారమైనవిగా అభిలక్షణం చేస్తాయి. సంక్షోభ హాట్లైన్ సంఖ్యలు కొన్ని ఇంటర్ఫేస్లకు జోడించబడ్డాయి. కొన్ని విషయాలు కూర్చిన ఆందోళన ట్రిగ్గర్ చేస్తాయి. కొన్ని కంపెనీలు మూడవ-పక్ష సలహా నిరీక్షణకు ప్రతిబద్ధమయ్యాయి, అయితే ఆ నిరీక్షణల పరిధి మరియు జారీపన విస్తృతంగా వ్యత్యాసం చెందుతుంది।
జరిగినది చ్యాట్బాట్లు మానసిక ఆందోళన యొక్క సూచనలను ప్రదర్శించుకు ఉపయోగకర్తలను నిర్వహించుకోవడానికి ఎలా ఉండాలో సమ్మిళిత, పరిశ్రమ-విస్తృత ప్రమాణం కోసం ఉండలేదు. AI పరిశ్రమ ఈ ఫ్రంటులో ఎక్కువగా ఆత్మ-నిర్ణయంగా ఉంటుంది, మరియు సిનేట్ కేటీలకు మరియు వైట్ హౌస్ సంతకం చేసిన అవసరాలలో చేసిన స్వచ్ఛంద ప్రతిబద్ధతలు ప్రయోగయోగ్య నిమిషాలకు తర్జుమ చేయబడలేదు నన్-సాక్షరత కోసం అర్థవంతమైన పర్యవసానాలతో.
నియంత్రక ఖాళీ
కాంగ్రెస్ AI సురక్ష పై బహుళ వింతలను ఏర్పాటు చేసింది. బిడెన్ ఎడ్జ AI ఖతరం నిర్వహణ కుదరిన చేసిన ఇచ్చారు. ట్రంప్ బిడెన్ చేసిన కొన్ని 2025 ప్రారంభంలో తిరిగి తీసుకొని ఆపివేసారు. నెట్ ఫలితం, 2026 ప్రారంభం నుండి, నియంత్రక నిర్గమనం విమర్శకులు సెటిలమెంట్ బ్రేకపు మరియు గరిష్టంగా లేనిదిగా వర్ణిస్తారు।
యూరోపియన్ యూనియన్ AI చట్టం, ఇప్పుడు పాక్షికంగా ప్రభావంలో, ఎక్కువ-ఖతరం AI సిస్టెమ్లపై కర్తవ్యాలను విధిస్తుంది — కానీ ఉపభోక్త చ్యాట్బాట్లు ఆ ఫ్రేమ్వర్కుకు గ్రే జోనుని యిస్తాయి, ప్రత్యేకంగా ఆరోగ్య సాధనాల కంటే వినోదం లేదా సహవాస ఉత్పత్తిగా విక్రయించేటప్పుడు. అమెరికన్ నియంత్రకులకు సారూప్య ఫ్రేమ్వర్క ప్రభావంలో లేదు, మరియు ఫెడెరల్ ట్రేడ్ కమిషన్ చర్య తీసుకోకు ధారణ ఆ నిర్ణయానికి ఉపయుక్త రాజకీయ మరియు చట్టపరమైన సవాళ్ల ద్వారా సీమితమైనది.
Originally published on techcrunch.com
