AI భద్రతపై నియంత్రణకు ప్రాధాన్యమిచ్చే దృక్పథాన్ని Microsoft CEO వివరించారు
అధునాతన AI వ్యవస్థలు రాజీపడే అవకాశం ఉందనే అంచనాతో రూపొందించబడాలని Microsoft CEO సత్య నాదెళ్ల అన్నారు. అవి పనిచేస్తున్న సమయంలో అర్హత కలిగిన ఒక మనిషి వాటిని తాత్కాలికంగా ఆపగలగాలి లేదా పూర్తిగా నిలిపివేయగలగాలి.
Xలో ప్రచురించిన సుదీర్ఘ పోస్టులో, AIని ప్రజలు కేవలం అంగీకరించగల లేదా తిరస్కరించగలిగే అపారదర్శక వ్యవస్థల సమాహారంగా చూడలేని భవిష్యత్తును నాదెళ్ల వివరించారు. దానికి బదులుగా, పర్యవేక్షించగలిగే మరియు నియంత్రించగలిగే పారదర్శక వ్యవస్థలను, అలాగే జరిగిన విషయాలకు మార్పులు చేయలేని, మనుషులు చదవగలిగే ఆధారాలను మిగిల్చే వ్యవస్థలను ఆయన కోరారు.
అత్యంత సామర్థ్యం కలిగిన మోడళ్లపై జరుగుతున్న చర్చలో కార్యకలాపాల నియంత్రణ మరియు ఆడిట్ చేయగల సామర్థ్యాన్ని ఆయన వ్యాఖ్యలు కేంద్రంగా నిలుపుతున్నాయి. AI భద్రతను మోడల్ ఉద్దేశించిన విధంగా ప్రవర్తిస్తుందనే నమ్మకానికి సంబంధించిన ప్రశ్నగా కాకుండా, ఆ నమ్మకం తప్పిపోయినప్పటికీ నిర్వహించగలిగే వ్యవస్థలను నిర్మించే ప్రశ్నగా ఆయన చూపించారు.
ప్రారంభం నుంచే నియంత్రణ
నియంత్రణను అసాధారణ రక్షణ చర్యగా కాకుండా ప్రాథమిక అవసరంగా పరిగణించాలన్నదే నాదెళ్ల అత్యంత ప్రత్యక్ష ప్రతిపాదన. ఆయన దీన్ని అత్యవసర బ్రేక్‌తో పోల్చారు: ఒక అధికారం కలిగిన వ్యక్తి పని మధ్యలోనే మోడల్‌ను అడ్డుకోగలగాలి లేదా నిలిపివేయగలగాలి.
మోడళ్లను ఎక్కువసేపు కొనసాగే లేదా మరింత కీలకమైన పనులకు ఉపయోగించినప్పుడు ఈ సూత్రం అత్యంత ప్రాధాన్యం పొందుతుంది. చర్యలు తీసుకోగల, టూల్స్ ఉపయోగించగల లేదా అనేక దశల పనిని కొనసాగించగల వ్యవస్థ, ఫలితం ఇప్పటికే వచ్చిన తర్వాత పరిష్కరించడం కష్టమైన ప్రమాదాలను సృష్టించవచ్చు. పని కొనసాగుతున్నప్పుడే మానవ జోక్యాన్ని కొనసాగించడం పాజ్ లేదా షట్‌డౌన్ వ్యవస్థ లక్ష్యం.
మరింత అధునాతన వ్యవస్థలకు మరింత అధునాతన నియంత్రణ సాంకేతికతలు అవసరమవుతాయని, ఆ సాంకేతికతలను ప్రమాణీకరించాలని కూడా నాదెళ్ల అన్నారు. ఈ ప్రకటన నిర్దిష్ట సాంకేతిక రూపకల్పనను పేర్కొనలేదు; అయితే ఇది ఒక విస్తృత అంచనాను సూచిస్తుంది: ప్రతి మోడల్ లేదా డిప్లాయ్‌మెంట్ కోసం భద్రతా నియంత్రణలను విడివిడిగా తాత్కాలికంగా రూపొందించకూడదు.
పారదర్శకత, ఆధారాలు మరియు బాహ్య పరిశీలన
AI పాలనపై చర్చల్లో ఇప్పటికే ప్రముఖంగా ఉన్న ఆలోచనలతో Microsoft నాయకుడి సిఫారసులు అనుసంధానమవుతున్నాయి. వీటిలో సంఘటనలను సకాలంలో వెల్లడించడం, స్వతంత్ర ఆడిట్లు, ధృవీకరించగల డేటా మరియు సాంకేతిక నియంత్రణ ఉన్నాయి.
కలిపి చూస్తే, ఈ చర్యలు జవాబుదారీతనం సమస్యలోని వేర్వేరు భాగాలను పరిష్కరిస్తాయి. సంఘటనల వెల్లడింపు వినియోగదారులు, డెవలపర్లు మరియు నియంత్రణ సంస్థలను వైఫల్యాలపై అప్రమత్తం చేయగలదు. స్వతంత్ర ఆడిట్లు AI డెవలపర్లు చేస్తున్న వాదనలను పరీక్షించగలవు. ధృవీకరించగల డేటా వ్యవస్థ ఔట్‌పుట్‌లు లేదా చర్యలకు ఆధారమైన అంశాలను పరిశీలించడాన్ని సులభతరం చేస్తుంది. వ్యవస్థ ఊహించని విధంగా ప్రవర్తించినప్పుడు లేదా దుర్వినియోగం జరిగినప్పుడు నష్టాన్ని పరిమితం చేయడానికి నియంత్రణ ఒక మార్గాన్ని అందిస్తుంది.
మార్పులు చేయలేని, మనుషులు చదవగలిగే ఆధారాలపై నాదెళ్ల పెట్టిన దృష్టి ప్రత్యేకంగా గమనించదగినది. ఎందుకంటే ఇది సాంకేతిక రక్షణలను ఆచరణాత్మక పర్యవేక్షణతో అనుసంధానిస్తుంది. ఆధారం ఉండటం మాత్రమే సరిపోదు; వ్యవస్థ ఏమి చేసిందో, నిర్ణయం ఎందుకు తీసుకోబడిందో తెలుసుకోవాల్సిన సమయంలో ప్రజలు పరిశీలించగల రూపంలో అది అందుబాటులో ఉండాలి.
అంగీకారం నుంచి నియంత్రణ వైపు మార్పు
అధునాతన AI ఉపయోగకరంగా ఉండవచ్చనే కారణంతో మాత్రమే దాన్ని బ్లాక్ బాక్స్‌గా అంగీకరించకూడదన్నదే అంతర్లీన వాదన. ముఖ్యమైన నిర్ణయాలను ప్రభావితం చేయగల లేదా సంక్లిష్ట వాతావరణాల్లో పనిచేయగల వ్యవస్థలకు విశ్వసనీయతపై చేసే వాదనలు మాత్రమే సరిపోవని నాదెళ్ల వ్యాఖ్య సూచిస్తుంది.
దానికి బదులుగా, దృష్టి మోడల్ చుట్టూ ఉన్న పరిస్థితులపై ఉంటుంది: దాన్ని గమనించగలమా, దాని కార్యకలాపాలను నమోదు చేయగలమా, బాహ్య పక్షాలు దాన్ని అంచనా వేయగలవా, తగిన అధికారం కలిగిన వ్యక్తి దాన్ని నిలిపివేయగలడా. ఈ విధానం సామర్థ్యం కలిగిన మోడళ్లను నిర్మించే సవాలను తొలగించదు; అయితే నియంత్రణ లక్షణాలను డిప్లాయ్ చేయదగిన వ్యవస్థ నిర్వచనంలో భాగం చేస్తుంది.
నాదెళ్ల “super intelligence” సంభావ్యతను పదేపదే ప్రస్తావించారు; ఇది ఆయన జోక్యంలోని అధిక-ప్రమాద దృక్పథాన్ని ప్రతిబింబిస్తుంది. అయితే ఆయన స్పష్టమైన సిఫారసులు ప్రస్తుత పాలనా నిర్ణయాలపైనే ఉన్నాయి: ఆడిట్లు, నివేదికలు, ధృవీకరణ మరియు మానవ జోక్యానికి సంబంధించిన విధానాలు.
ఈ ప్రతిపాదన అర్థం
ఈ ప్రతిపాదన పూర్తి సాంకేతిక లేదా నియంత్రణ మార్గపటాన్ని అందించదు. కానీ ఒక వ్యవస్థను పనిలో పెట్టే ముందు రాజీ, వైఫల్యం లేదా దుర్వినియోగం కోసం ప్రణాళిక చేయాలని AI డెవలపర్లు మరియు వినియోగదారులకు స్పష్టమైన పిలుపునిస్తుంది.
AIని స్వీకరిస్తున్న సంస్థలకు ఆచరణాత్మక అర్థం స్పష్టంగా ఉంది: వ్యవస్థలను పర్యవేక్షించగలమా, కార్యకలాపాలు పరిశీలించగల రూపంలో రికార్డు అవుతున్నాయా, ఎవరు జోక్యం చేసుకోవడానికి అనుమతించబడ్డారు, జోక్యం ప్రభావం చూపేంత వేగంగా జరగగలదా అనే విషయాలను అంచనా వేయాలి. AI వ్యవస్థలు మరింత సామర్థ్యం పొందుతున్న కొద్దీ, ఈ ప్రశ్నలు భద్రతా చెక్‌లిస్ట్ నుంచి ఉపయోగానికి ప్రాథమిక షరతుగా మారవచ్చు.
ఈ కథనం The Verge చేసిన రిపోర్టింగ్ ఆధారంగా రూపొందించబడింది. అసలు కథనాన్ని చదవండి.
Originally published on theverge.com
