అనధికార ప్రాప్తి ఆరోపణ Anthropic సైబర్‌సెక్యూరిటీ AI విడుదలపై పరిశీలన పెంచింది

Mythos‌కు సంబంధించిన నివేదిత ప్రాప్తిని Anthropic దర్యాప్తు చేస్తోంది

ఎంపిక చేసిన విక్రేతలకు మాత్రమే అందుబాటులో ఉంచిన Claude Mythos Preview అనే సైబర్‌సెక్యూరిటీ-కేంద్రీకృత AI టూల్‌కి అనధికార వినియోగదారుల గుంపు ప్రాప్తి పొందిందన్న నివేదికను Anthropic దర్యాప్తు చేస్తోంది. మూడో పక్ష విక్రేత వాతావరణం ద్వారా ఈ ప్రాప్తి జరిగినట్లు వచ్చిన ఆరోపణలను పరిశీలిస్తున్నామని కంపెనీ TechCrunch‌కు తెలిపింది, అదే సమయంలో Anthropic యొక్క స్వంత వ్యవస్థలు ప్రభావితమైనట్లు ఎలాంటి ఆధారాలు కనుగొనలేదని కూడా చెప్పింది.

ఈ నివేదిక ముఖ్యమైనది, ఎందుకంటే Mythos సాధారణ వినియోగదారుల చాట్‌బాట్ కాదు. Anthropic ఈ ఉత్పత్తిని సంస్థల కోసం రూపొందించిన భద్రతా టూల్‌గా వివరించింది; తప్పు చేతుల్లో పడితే ఇది దాడి లక్ష్యంగా హాకింగ్‌ కోసం మళ్లీ వినియోగించబడేంత సామర్థ్యం కలిగి ఉంది. ఈ ద్వంద్వ వినియోగ లక్షణమే ఈ టూల్ పరిమిత విడుదల ఎందుకు ముఖ్యమో చూపిస్తుంది: యాక్సెస్ నియంత్రణలు కేవలం వాణిజ్య ప్యాకేజింగ్ నిర్ణయం కాదు, భద్రతా నమూనాలో భాగం.

ప్రాప్తి ఎలా పొందినట్లు నివేదించబడింది

మూల సమాచార ప్రకారం, ఒక ప్రైవేట్ ఆన్‌లైన్ ఫోరం సభ్యులు మూడో పక్ష విక్రేత ద్వారా Mythos‌కు ప్రాప్తి పొందినట్లు Bloomberg నివేదించింది. సంబంధిత వ్యక్తులను బహిరంగంగా గుర్తించలేదు. నివేదికలో పేర్కొన్న ఒక వ్యక్తి Anthropic‌తో అనుబంధం ఉన్న మూడో పక్ష కాంట్రాక్టర్ కోసం పనిచేశాడని, ఆ గుంపు తమ ప్రయత్నంలో భాగంగా ఆ వ్యక్తి ప్రాప్తిని ఉపయోగించిందని చెప్పబడింది.

Anthropic ఇతర మోడళ్లకు గతంలో ఉపయోగించిన నామకరణ లేదా స్థానికరణ నమూనాల ఆధారంగా, మోడల్ ఆన్‌లైన్‌లో ఎక్కడ ఉందో ఆ గుంపు నిగ్గుతేల్చినట్లు కూడా ఆరోపించబడింది. Bloomberg‌కు టూల్‌కు సంబంధించిన స్క్రీన్‌షాట్లు మరియు ప్రత్యక్ష ప్రదర్శన చూపినట్లు నివేదించబడింది. Mythos‌ను బహిరంగ ప్రకటన చేసిన అదే రోజున ఆ గుంపు ప్రాప్తి పొందిందని, ఆ తర్వాత తరచుగా ఉపయోగించిందని చెప్పారు.

ఈ ఘటన ఎందుకు ముఖ్యం

AI కంపెనీలకు ఈ ఘటన ఒక సాధారణ సమస్యను మరింత స్పష్టమైన రూపంలో చూపుతుంది: ఒక మోడల్ తన కేంద్రంలో రక్షించబడినా, దాని చుట్టూ ఉన్న విస్తృత ఎకోసిస్టమ్ ద్వారా అది బయటపడవచ్చు. విక్రేత వాతావరణాలు, కాంట్రాక్టర్లు, ప్రివ్యూ ప్రోగ్రామ్‌లు మరియు ప్రారంభ భాగస్వామ్య అమలు, యాక్సెస్ క్రెడెన్షియల్స్ మరియు రూటింగ్ వివరాలు లీక్ కావడానికి లేదా దుర్వినియోగం కావడానికి అవకాశం ఉన్న ప్రదేశాల సంఖ్యను పెంచుతాయి.

Anthropic యొక్క ప్రస్తుత స్థానం నివేదికలో ఉన్న ఆరోపణకంటే సంకుచితమైనది. తమ వ్యవస్థలు భంగం చెందాయని కంపెనీ చెప్పడం లేదు. మూడో పక్ష విక్రేత వాతావరణానికి సంబంధించిన ఒక నివేదికను దర్యాప్తు చేస్తున్నామని, Anthropic వ్యవస్థలను ప్రభావితం చేసినట్లు చూపే ఆధారాలు ఏవీ లేవని చెబుతోంది. ఆ తేడా ముఖ్యం, కానీ అది ఆపరేషన్ రిస్క్‌ను తొలగించదు. పరిమిత AI వ్యవస్థల విషయంలో, భాగస్వామి ద్వారా అనధికార వినియోగం నియంత్రిత విడుదల లక్ష్యాన్ని తగ్గించగలదు.

నివేదిక ప్రకారం, Mythos‌ను Apple సహా ఎంపిక చేసిన విక్రేతల సమూహానికి Project Glasswing అనే కార్యక్రమంలో భాగంగా విడుదల చేశారు. ఈ పరిమిత విడుదల చెడు ఉద్దేశాలున్నవారు టూల్‌ను ఉపయోగించే అవకాశాన్ని తగ్గించడానికి ఉద్దేశించబడింది. ఒక ప్రైవేట్ గుంపు ప్రకటన తర్వాత వెంటనే విక్రేత ఛానల్ ద్వారా ప్రాప్తి పొందినట్లయితే, ప్రివ్యూ అమలు ఎలా పర్యవేక్షించబడుతున్నాయి, ప్రాప్తి ఎలా పరిమితం చేయబడుతోంది, అనుమానాస్పద వినియోగం ఎంత వేగంగా గుర్తించబడుతోంది అనే ప్రశ్నలు తలెత్తుతాయి.

విస్తృత AI భద్రతా సవాలు

ప్రచురించని AI వ్యవస్థల చుట్టూ ఉన్న సంస్కృతి సమస్యను కూడా ఈ నివేదిక సూచిస్తుంది. మూల సమాచారం ప్రకారం, ప్రచురించని AI మోడళ్లపై సమాచారం కోసం ప్రయత్నించే సభ్యులతో ఒక Discord ఛానల్ ఉంది. నివేదికలో పేర్కొన్న వ్యక్తి, ఆ గుంపు హాని చేయడం కంటే కొత్త మోడళ్లతో ప్రయోగాలు చేయడంలో ఆసక్తి చూపుతుందని వివరించాడు. ఆ వివరణ సరిగ్గా ఉన్నా కూడా, సైబర్‌సెక్యూరిటీ టూల్‌తో అనధికార ప్రయోగం సాధారణ చాట్‌బాట్‌పై ఆసక్తికన్నా ఎక్కువ ప్రమాదాన్ని కలిగిస్తుంది.

ఎంటర్‌ప్రైజ్ AI భద్రతా ఉత్పత్తులు ముప్పులను విశ్లేషించడానికి, దర్యాప్తును ఆటోమేట్ చేయడానికి, రక్షకులకు సహాయం చేయడానికి తగినంత ఉపయోగకరంగా ఉండాలి. అదే సామర్థ్యాలు రీకానిసెన్స్ లేదా ఎక్స్‌ప్లోయిటేషన్ వైపు మళ్లితే ప్రమాదకరంగా మారవచ్చు. ఈ ఉద్రేకం విడుదల నియమశిక్షణను ఉత్పత్తి భద్రతలో కేంద్రంగా మారుస్తుంది. అలాగే, ప్రివ్యూలలో పాల్గొనే విక్రేతలు భద్రతా సరిహద్దులో భాగమవుతారని సూచిస్తుంది.

Anthropic‌కు తక్షణ పని ఏమి జరిగిందో, ఏదైనా ప్రాప్తి మార్గం ఇంకా తెరిచే ఉందో లేదో, మూడో పక్ష వాతావరణాల చుట్టూ ఉన్న నియంత్రణలు సరిపోతాయా లేదా అన్నది నిర్ధారించడం. విస్తృత పరిశ్రమకు, ఈ ఘటన ఫ్రంట్ియర్ AI పాలన సాధారణ ఆపరేషనల్ వివరాలపై ఆధారపడి ఉంటుందని హెచ్చరిక: క్రెడెన్షియల్స్, కాంట్రాక్టర్లు, విక్రేత అనుమతులు, లాగింగ్, మరియు అంతర్గత నామకరణ సంప్రదాయాలు.

ఈ ఘటనను ఇప్పటివరకు Anthropic యొక్క స్వంత వ్యవస్థలపై జరిగిన భంగంగా వివరించలేదు. అయినప్పటికీ, Mythos‌కు జరిగినట్లు నివేదించిన ప్రాప్తి, పరిమిత AI టూల్స్‌ ఉనికిని తెలిసిన వెంటనే అవి ఎంత వేగంగా లక్ష్యాలుగా మారుతాయో చూపిస్తుంది.

ఈ వ్యాసం TechCrunch నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.