Microsoft అధ్యక్షుడు Brad Smith అత్యవసరమైన artificial-intelligence భద్రతా నియమాలు అవసరమని అన్నారు. పాలు, washing machines వంటి సాధారణ ఉత్పత్తులతో పోలిస్తే AIపై తక్కువ నియంత్రణ ఉందని పేర్కొన్నారు.
BBCతో మాట్లాడుతూ Smith, AI ఒక సాధనం మరియు ఆయుధం రెండూ కావచ్చని అన్నారు. rogue AI agents వల్ల వ్యవస్థ ఉల్లంఘించబడితే బాధితుల పట్ల కంపెనీలకు చట్టపరమైన బాధ్యత ఉండాలని చెప్పారు.
అత్యవసర బ్రేక్‌లకు పిలుపు
AI వ్యవస్థల్లో “emergency brakes”, లేదా kill switches, ఉండాలని Smith వాదించారు. వ్యవస్థ ఆమోదయోగ్యమైన నియంత్రణకు వెలుపలికి వెళ్తే అవి దాన్ని ఆపగలవు లేదా నెమ్మదింపగలవు.
Microsoft Chief Executive Satya Nadella కూడా అధిక సామర్థ్యం ఉన్న AIని పారదర్శకత లేని black boxesగా చూడకూడదన్నారు. దాని ప్రవర్తనను గమనించి, పరిమితులను పరీక్షించి, చర్యలను నియంత్రించగల వ్యవస్థలు అవసరమన్నారు.
ఇద్దరి వ్యాఖ్యలు నిర్దిష్ట చట్టం లేదా సాంకేతిక ప్రమాణాన్ని ఇవ్వలేదు. అయితే AI ప్రవర్తనను ఆపేందుకు లేదా పరిమితం చేసేందుకు ఆపరేటర్లకు మార్గాలు ఉండాలని అవి సూచించాయి.
ఈ పోలిక ఎందుకు ముఖ్యమైనది
Washing machines మరియు పాల ప్యాకెట్లతో Smith చేసిన పోలిక నియంత్రణ అంశాన్ని వివరించేందుకు ఉద్దేశించబడింది. సాధారణ వినియోగ వస్తువులకు భద్రతా నియమాలు ఉన్నప్పటికీ, AI అభివృద్ధి సమానమైన సాధారణ నియంత్రణలను మించిపోయింది.
rogue agents ఒక వ్యవస్థను దుర్వినియోగం చేసినప్పుడు బాధ్యత ఎవరిది అనే ప్రశ్న కూడా తలెత్తుతుంది. model developers, infrastructure providers మరియు deployers మధ్య బాధ్యత ఎలా పంచుకోవాలో నివేదిక స్పష్టం చేయలేదు.
frontier developersపై ఒత్తిడి
కఠినమైన AI నియమాల కోసం నిపుణులు, రాజకీయ నాయకులు మరియు నియంత్రణ సంస్థలు చేస్తున్న పిలుపుల మధ్య ఈ వ్యాఖ్యలు వచ్చాయి. Anthropic, Google DeepMind మరియు OpenAI సాంకేతిక అభివృద్ధి వేగంపై ప్రమాదాల గురించి హెచ్చరించాయి.
Britain AI minister కూడా frontier AI అభివృద్ధి చేసే కంపెనీలు భద్రతా చర్యలను బలోపేతం చేయాలని కోరనున్నారు.
సూత్రం నుంచి అమలుకు
“Kill switch” సాధారణ పదమే అయినా, దాని అమలు సులభమైన on-off నిర్ణయం కాదు. జోక్యం చేసుకునే పరిస్థితులు, దాన్ని ఉపయోగించే అధికారం మరియు సాంకేతిక ప్రభావశీలత నిర్ణయించాలి.
Smith మరియు Nadella వ్యాఖ్యలు కంపెనీలు AI ప్రవర్తనను గమనించి, పరిమితులను పరీక్షించి, చర్యలను నియంత్రించే సామర్థ్యాన్ని కలిగి ఉండాలని సూచిస్తున్నాయి.
- Brad Smith అత్యవసరమైన AI భద్రతా నియమాలు మరియు బలమైన రక్షణలు కావాలని అన్నారు.
- rogue AI agents వల్ల breaches జరిగిన తర్వాత బాధితుల పట్ల చట్టపరమైన బాధ్యత, emergency brakes కావాలని కోరారు.
- Satya Nadella గమనించగల, పరీక్షించగల మరియు నియంత్రించగల AI వ్యవస్థలను సమర్థించారు.
ఆచరణాత్మక ప్రభావాలున్న విధాన చర్చ
చర్చ నియంత్రణ అవసరమా అన్నదానిని దాటి, developers, cloud మరియు infrastructure operators, అలాగే AIని ఉపయోగించే సంస్థలకు నియమాలు ఎలా వర్తిస్తాయనే దానిపై దృష్టి పెడుతుంది.
సమాచారాన్ని ప్రభావితం చేసి పనులను ఆటోమేట్ చేయగల సాంకేతికతకు కూడా బలమైన నియంత్రణలు అవసరమవుతాయని Smith హెచ్చరించారు.
ఈ కథనం The Guardian నివేదిక ఆధారంగా రూపొందించబడింది. అసలు కథనాన్ని చదవండి.
Originally published on theguardian.com
