UK పోలీస్ AI ఆధారాల దర్యాప్తు సమగ్రతపై కొత్త ప్రశ్నలను లేవనెత్తుతోంది

డర్బీషైర్ దర్యాప్తు ఆధారాల శృంఖలలోకి AI దుర్వినియోగాన్ని తీసుకొస్తోంది

డర్బీషైర్‌లోని ఒక పోలీస్ అధికారి ముందుబాటుపై విధుల నుంచి తొలగించబడి, అనేక కేసుల్లో ఆధారాల కోసం కృత్రిమ మేధస్సును ఉపయోగించి పదార్థాన్ని సృష్టించినట్లు ఆరోపణలపై క్రిమినల్ దర్యాప్తులో ఉన్నారు. The Guardian పేర్కొన్న రిపోర్టింగ్ ప్రకారం, ఈ ఆరోపణను న్యాయప్రక్రియను భ్రష్టుపట్టించే ప్రయత్నంగా విచారిస్తున్నారు.

దర్యాప్తు ప్రారంభ దశలోనే ఉందని, ఇప్పటివరకు ఎలాంటి అరెస్టులు జరగలేదని, ప్రభావితమయ్యే అవకాశమున్న కేసుల విషయంలో Crown Prosecution Service‌తో సన్నిహితంగా పని చేస్తున్నామని దళం తెలిపింది. ఆ అధికారికి పేరు వెల్లడించలేదు, ఆరోపణగా చెప్పబడుతున్న తప్పు ప్రవర్తన యొక్క ఖచ్చిత స్వభావాన్ని వెల్లడించలేదు.

ఈ లోపాలున్నప్పటికీ, ఈ కేసు ఇప్పటికే ప్రాముఖ్యత కలిగినదే. క్రిమినల్ ప్రక్రియల్లో ఆధారాల కోసం AI ద్వారా పదార్థం సృష్టించారన్న ఇలాంటి UK దర్యాప్తు తెలిసినంతవరకు ఇదే మొదటిదిగా కనిపిస్తోంది. దీని వల్ల ఇది అంతర్గత క్రమశిక్షణ అంశం కంటే ఎక్కువైంది. పోలీసులు, కోర్టులు ఆధారపడే నమ్మక నమూనాపై ఇది నేరుగా సవాలు.

ఈ కేసు ఒక్క దళాన్ని మించి ఎందుకు ముఖ్యం

ఆధారం కేవలం సమాచారం కాదు. నిజత్వం, custody గొలుసు, బాధ్యతను కాపాడే నియమాల కింద సేకరించి, నమోదు చేసి, సమర్పించిన సమాచారమే అది. జనరేటివ్ AI ఈ మూడింటినీ క్లిష్టతరం చేస్తుంది. ఒక అధికారి AI వ్యవస్థను ఉపయోగించి, తరువాత న్యాయప్రక్రియలో చేరే పదార్థాన్ని ముసాయిదా చేయడానికి, మార్చడానికి, సారాంశం చేయడానికి లేదా సృష్టించడానికి ఉపయోగిస్తే, ఆ అవుట్‌పుట్ వాస్తవాన్ని, ఊహను లేదా కల్పనను ప్రతిబింబిస్తుందా అన్నదే ప్రధాన ప్రశ్నగా మారుతుంది.

డర్బీషైర్ కేసు ముఖ్యమైనది, ఎందుకంటే ఆరోపణ AIని కేవలం పరిపాలనా సహాయకంగా వాడారన్నది కాదు. నివేదించబడిన సమస్య స్వయంగా ఆధారాల పదార్థాన్ని సృష్టించడమే. ఆ పదబంధం క్రిమినల్ ప్రక్రియలో అత్యంత సున్నితమైన దశలో సంభవించిన విఫలతను సూచిస్తుంది: ముడి వాస్తవాలను కోర్టు ఆధారపడగల రికార్డులుగా మార్చే దశ.

CPS, డర్బీషైర్ పోలీసులతో కలిసి పని చేస్తున్నామని, తగిన కేసుల్లో రక్షణ బృందాలు మరియు కోర్టులతో కలిసి వ్యవహరిస్తున్నామని ధృవీకరించింది, కానీ దర్యాప్తులు కొనసాగుతున్నందున మరింత వ్యాఖ్యానించలేదు. ఇది ఇప్పటికే నడుస్తున్న లేదా గతంలో జరిగిన ప్రక్రియలు ఏవైనా ప్రభావితమయ్యాయా అని ప్రాసిక్యూటర్లు పరిశీలిస్తున్నారని సూచిస్తోంది.

విస్తృత హెచ్చరిక ఇప్పటికే వెలుగులోకి వచ్చిందీ

ఈ దర్యాప్తు ఖాళీలో నుంచి రాలేదు. The Guardian ప్రకారం, National Police Chiefs’ Council యొక్క Police AI కేంద్రం అధిపతి అలెక్స్ ముర్రే, కోర్టు ప్రకటనలు సిద్ధం చేయడం వంటి పనుల కోసం AI వ్యవస్థలను వాడటం ఆపమని అనేక పోలీస్ బలగాలకు చెప్పబడిందని, అవి సరిపడ నమ్మకంగా ఉండకపోవచ్చని చెప్పాడు.

ఆ హెచ్చరిక ఇప్పుడు ముందుచూపుగానే కనిపిస్తోంది. చట్టపరమైన సందర్భాల్లో జనరేటివ్ వ్యవస్థల సమస్య అవి తప్పులు చేయగలవన్నది మాత్రమే కాదు. అవి స్పష్టంగా, నమ్మబలికేలా, భారీ స్థాయిలో అలా చేయగలగడం. సంస్థాగత వాతావరణంలో, యంత్రం సృష్టించిన వచనం అధికారికంగా లేదా సంపూర్ణంగా కనిపిస్తుందనే కారణంతోనే అనవసరమైన అధికారాన్ని పొందే ప్రమాదాన్ని ఇది సృష్టిస్తుంది.

పేపర్‌వర్క్‌ను ఆటోమేట్ చేసి పరిపాలనా భారాన్ని తగ్గించాలనే ప్రోత్సాహం పోలీస్ విభాగాలకు స్పష్టంగా ఉంది. కానీ క్రిమినల్ న్యాయం అనేది సామర్థ్య లాభాలు ఆధారాల విశ్వసనీయత ఖర్చుతో రావలసిన రంగం కాదు. స్పష్టమైన ప్రక్రియ పరిమితులు లేకుండా AI టూల్స్ ప్రవేశపెడితే, వాటిని అర్ధ-సారవంతమైన రీతిలో వాడాలనే ప్రలోభం విధానాన్ని వేగంగా దాటిపోతుంది.

కోర్టులు, నిందితుల కోసం నమ్మక సమస్య

ఇలాంటి కేసు తక్షణ పరిణామం సాంకేతికం కాదు. అది చట్టపరమైనది. తాము పొందిన ప్రకటనలు, సారాంశాలు, కాలరేఖలు లేదా ఇతర పదార్థాలు AI ద్వారా తయారయ్యాయా లేదా మార్చబడాయా అన్నది రక్షణ బృందాలు తెలుసుకోవాలనుకుంటాయి. కోర్టులు డిస్క్లోజర్ సమస్యలు, ఆధార సవాళ్లు, సంబంధిత అధికారుల విశ్వసనీయతను పరిగణనలోకి తీసుకోవాల్సి రావచ్చు.

అందుకే "potentially impacted cases" అనే పదబంధం చాలా ముఖ్యమైనది. ఆధారాల తయారీలో నమ్మకం కదిలిన తర్వాత, దాని ప్రభావాలు మొదటి ఆరోపణను మించి వ్యాపించగలవు. ఆ అధికారితో సంబంధించిన ప్రతి కేసు సమీక్షకు వెళ్లవచ్చు, ఆ కేసులను తాకే ప్రతి సంస్థ అవసరమైన పరిహార చర్యలు ఏమిటో నిర్ణయించుకోవాలి.

ప్రమాదం ఇంతకన్నా విస్తృతమైనది. పోలీసింగ్‌పై ప్రజా విశ్వాసం అంటే ఆధారం నిష్పాక్షికంగా సేకరించబడి, నమోదు చేయబడుతుందనే నమ్మకంపై భారీగా ఆధారపడుతుంది. AIని అపారదర్శక మార్పులతో అనుసంధానిస్తే, ఒంటరి దుర్వినియోగం కూడా తక్కువ ప్రమాదం ఉన్న పరిపాలనా పనుల్లో సహాయపడగల చట్టబద్ధ డిజిటల్ టూల్స్‌పై నమ్మకాన్ని దెబ్బతీయగలదు.

పోలీసింగ్‌లో బాధ్యతాయుత AI వినియోగానికి ఏమి అవసరం

నివేదించబడిన వాస్తవాల ఆధారంగా, డర్బీషైర్ దర్యాప్తు మరింత కచ్చితమైన ఆపరేషనల్ నియమాల అవసరాన్ని హైలైట్ చేస్తోంది. కనీసం, AI వ్యవస్థలను వాడే దళాలు అనుమతించదగిన క్లరికల్ సహాయం, నిషేధిత ఆధార సృష్టి మధ్య స్పష్టమైన తేడాలను కలిగి ఉండాలి. అలాగే ఒక పత్రం ఎలా సృష్టించబడిందో ఖచ్చితంగా చూపగల ఆడిట్ ట్రయిల్స్, డిస్క్లోజర్ అవసరాలు, పర్యవేక్షణ నియంత్రణలు కూడా అవసరం.

ఇక్కడ బయటపడిన సమస్య నుంచి అనేక సూత్రాలు వస్తాయి:

• క్రిమినల్ కేస్‌వర్క్‌లో AI వినియోగం స్పష్టంగా లాగ్ చేయబడాలి, సమీక్షించగలిగేదిగా ఉండాలి.
• కోర్టును ప్రభావితం చేయగల పదార్థాన్ని కఠిన అనుమతి, డిస్క్లోజర్ లేకుండా యంత్రం ద్వారా సృష్టించకూడదు.
• టూల్ యాక్సెస్ మాత్రమే కాదు, నమ్మక పరిమితులపై కూడా అధికారులకు శిక్షణ అవసరం.
• ప్రాసిక్యూటర్లు, రక్షణ బృందాలు AI సహాయంతో తయారైన పత్రాలను గుర్తించడానికి ఒక ప్రాయోగిక పద్ధతి అవసరం.

ఈ చర్యలు ప్రమాదాన్ని పూర్తిగా తొలగించవు, కానీ కనీసం అయోమయాన్ని తగ్గిస్తాయి. ప్రస్తుతం, ఆ అయోమయమే ప్రధాన ప్రమాదం. ఆటోమేషన్ ఎక్కడ ఆగుతుందో, ఆధార రచయితత్వం ఎక్కడ మొదలవుతుందో ఎవరూ చెప్పలేకపోతే, దానికి సంబంధించిన నమ్మక సమస్యను తర్వాత నియంత్రించడం చాలా కష్టం.

సంస్థాగత AI పాలనకు ప్రారంభ ఒత్తిడి పరీక్ష

బ్రిటిష్ పోలీసింగ్ ఇప్పటికే ఇతర రంగాల్లో AIతో ప్రయోగాలు చేస్తోంది. Palantir నిర్మించిన AI టూల్‌ను ఉపయోగించి సంభావ్య దుర్వినియోగాన్ని గుర్తించిన తర్వాత, ఏప్రిల్‌లో Metropolitan police వందలాది అధికారులపై దర్యాప్తులు ప్రారంభించిందని The Guardian పేర్కొంది. ఆ వినియోగం డర్బీషైర్ ఆరోపణతో భిన్నమైనది, కానీ రెండూ ఒకే నిర్మాణాత్మక వాస్తవాన్ని చూపుతున్నాయి: AI పైలట్ పరిధి నుంచి కీలక ప్రజా-రంగ నిర్ణయ వాతావరణాల్లోకి కదులుతోంది.

డర్బీషైర్ దర్యాప్తు ఒక ప్రత్యేకమైన తప్పు ప్రవర్తన కేసుగా తేలవచ్చు, లేదా అది విస్తృత పాలన లోటును బయటపెట్టవచ్చు. అందుబాటులో ఉన్న రిపోర్టింగ్ ఇప్పటివరకు ఏ నిర్ణయానికీ మద్దతు ఇవ్వడం లేదు. కానీ అది మద్దతు ఇస్తున్నది ఒక తక్షణ పాఠం. స్వేచ్ఛ, దోషం లేదా న్యాయ ఫలితాలను ప్రభావితం చేయగల అవుట్‌పుట్‌లతో జనరేటివ్ AIని సంస్థలు న్యూట్రల్ ఉత్పాదక పొరగా చూడలేవు.

ఈ కేసు దాటుతున్న పరిమితి ఇదే. AI భ్రాంతులపై సారాంశ ఆందోళనను ఆధారాల సమగ్రతపై ఒక స్పష్టమైన ప్రశ్నగా మార్చుతోంది. దర్యాప్తు ఎలా ముగిసినా, పోలీస్ బలగాలు మరియు కోర్టులు AI సహాయంతో కేసు సిద్ధీకరణను మళ్లీ పాత విధంగానే చూడే అవకాశమే తక్కువ.

ఈ వ్యాసం The Guardian రిపోర్టింగ్ ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.