Anthropic బైండింగ్ ఆడిట్లను కోరుతూ, AIని వ్యూహాత్మక మౌలిక సదుపాయంగా మళ్లీ నిర్వచిస్తోంది

Anthropic పారదర్శకత నుంచి అమలుకు మారుతోంది

Anthropic ఒక కొత్త విధాన వాదనను ప్రచురించింది, ఇది దాని వైఖరిలో గమనించదగ్గ మార్పును సూచిస్తోంది: frontier AI కోసం ఇకపై పారదర్శకత అవసరాలు మాత్రమే సరిపోవు. Policy on the AI Exponential అనే వ్యాసంలో CEO Dario Amodei మోడల్ సామర్థ్యాలు అంత వేగంగా పెరుగుతున్నాయని, అందువల్ల బైండింగ్ ఆడిట్లు, అధికారిక ప్రకటన అవసరాలు, మరియు అస్వీకార్యమైన ప్రమాదాన్ని కలిగించే వ్యవస్థలను ప్రభుత్వ ఏజెన్సీ ఆపే అధికారాన్ని సమర్థిస్తారు.

ఆ వ్యాసంతో పాటు కంపెనీ రెండు ఫ్రేమ్‌వర్క్‌లను కూడా సమర్పించింది; ఒకటి frontier AI నియంత్రణపై కేంద్రీకృతమై ఉంది, మరొకటి AI వినియోగంతో పాటు వచ్చే ఉద్యోగ నష్టాలను పరిష్కరించడానికి రూపొందించబడింది. ఉద్యోగ నష్టం ఫ్రేమ్‌వర్క్‌కు గణనీయమైన నిధులతో మద్దతు ఇవ్వడానికి తాము సిద్ధమని Anthropic చెబుతోంది. అయితే కొత్త ప్యాకేజీకి కేంద్రబిందువు నియంత్రణాత్మక మలుపే. కంపెనీ ఇకపై frontier-model governance‌ను ప్రధానంగా రిపోర్టింగ్ మరియు పారదర్శకత అంశంగా కాకుండా, సాంకేతిక తనిఖీ మరియు విడుదలకు ముందు నియంత్రణ అంశంగా చూపుతోంది.

Anthropic ఉంచుతున్న వాదన

మూలం ప్రకారం, Amodei వాదన వేగంతో మొదలవుతుంది. AI సామర్థ్య వృద్ధి scaling laws ద్వారా నడుస్తోందని, ఒకటి నుంచి రెండు సంవత్సరాల్లో ప్రపంచం “Powerful AI”ని చూడవచ్చని ఆయన అంటారు; దానిని “డేటా సెంటర్‌లోని మేధావుల దేశం”గా వర్ణిస్తారు. ఈ రూపకల్పన రెండు పనులు చేస్తుంది. మొదట, ఇది వేగవంతమైన పెరుగుదలని హైలైట్ చేస్తుంది. రెండవది, frontier AIను వాణిజ్య సాధనం నుంచి వ్యూహాత్మక మౌలిక సదుపాయానికి దగ్గరగా ఉన్నదిగా ఎత్తిచూపుతుంది.

Anthropic వ్యాసం వేగవంతమైన సాంకేతిక మార్పు మరియు నెమ్మదైన రాజకీయ స్పందన మధ్య ఉన్న అసమతౌల్యాన్ని వివరించడానికి Lord of the Rings ఉపమానాన్ని ఉపయోగించిందని తెలుస్తోంది. ఆ కథలో Treebeard రాజకీయ వ్యవస్థకు ప్రతీక, ముందస్తు చర్య కోసం హెచ్చరించే స్వరాలు ఆందోళనకారులవి, ముందుకు దూసుకెళ్తున్న ముప్పు నియంత్రణలేని AI. ఆ ఉపమానం నాటకీయమే, కానీ విధాన పరమైన భావం సూటిగా ఉంది: సంస్థలు సాధారణ టైమ్‌లైన్ల ప్రకారం కదిలితే, అవి చాలా ఆలస్యంగా స్పందిస్తాయి.

పాత విధానం ఇక ఎందుకు పనిచేయదని కంపెనీ చెబుతోంది

మూలం చెప్పేది ఏమిటంటే, ప్రమాదాలు ఇంకా స్పష్టంగా లేకపోవడంతో Anthropic ఇంతకుముందు పారదర్శకతను ప్రాధాన్యం ఇచ్చేది; మరింత ఖచ్చితమైన నియంత్రణకు అది సరిపోదని భావించింది. అది California SB 53, New York RAISE, మరియు Illinois SB 315 వంటి పారదర్శకత-కేంద్రీకృత చట్టాలను మద్దతిచ్చింది. ఇప్పుడు ఆ వైఖరి మారింది.

దీనికి ఆధారంగా Amodei “Claude Mythos Preview” అనుభవాన్ని చూపిస్తారు; మూలం ప్రకారం, అది గ్లోబల్ సైబర్‌సెక్యూరిటీ దృశ్యాన్ని గందరగోళపరిచింది మరియు frontier models ఆర్థిక రంగం, కీలక మౌలిక సదుపాయాలు, మరియు జాతీయ భద్రతకు నిజమైన ప్రమాదాలను సృష్టించగలవని చూపించింది. Anthropic త్వరలోనే తీవ్రమైన జీవ విజ్ఞాన మరియు స్వయంప్రతిపత్తి సంబంధ ప్రమాదాలు ఏర్పడవచ్చని కూడా భావిస్తోంది. మరో మాటలో చెప్పాలంటే, సిద్ధాంతాత్మక ఆందోళన ఇప్పుడు ప్రాయోగిక హెచ్చరిక దశకు చేరిందని కంపెనీ వాదిస్తోంది.

ఇది ప్రాముఖ్యమైన పరిమితి. ఒక ల్యాబ్ కఠిన నియమాలను కోరడం అసాధారణం కాదు. కానీ తన తాజా మోడల్ అనుభవమే పారదర్శకత ఇక సరిపోదని చూపిందని ఒక ల్యాబ్ చెప్పడం ఎక్కువ బరువును కలిగి ఉంటుంది, అయితే విమర్శకులు ఈ వాదనలో ఎంత భాగం సూత్రం, ఎంత భాగం వ్యూహం అని తప్పకుండా అడుగుతారు.

ప్రభుత్వాలు ఏమి చేయాలని Anthropic కోరుతోంది

ప్రతిపాదిత ఫ్రేమ్‌వర్క్ నాలుగు ప్రమాద వర్గాల్లో అర్హత కలిగిన మూడో పక్షాల ద్వారా తప్పనిసరి పరీక్షలపై ఆధారపడుతుంది: సైబర్‌సెక్యూరిటీ, జీవాయుధాలు, AI వ్యవస్థలపై నియంత్రణ కోల్పోవడం, మరియు ఆ ప్రమాదాలను వేగవంతం చేయగల ఆటోమేటెడ్ పరిశోధన మరియు అభివృద్ధి. ఒక ప్రభుత్వ ఏజెన్సీకి ప్రకటనలను స్వీకరించే అధికారం మాత్రమే కాకుండా, ప్రమాణాన్ని చేరని మోడళ్లను అడ్డుకునే లేదా తీసివేసే అధికారం కూడా ఉండాలని Anthropic కోరుతోంది.

Federal Aviation Administrationను ఒక నమూనాగా Amodei ప్రస్తావిస్తున్నారని మూలం చెబుతోంది. ఈ ఉపమానం ముఖ్యమైనది. తయారీదారు అది సురక్షితమని చెప్పినందుకే విమానం ప్రజా వినియోగానికి ఆమోదించబడదు. దాన్ని తనిఖీ చేస్తారు, పరీక్షిస్తారు, ధృవీకరిస్తారు, మరియు అవసరమైతే జోక్యం చేసుకుంటారు. frontend AI కూడా ఇలాంటి వ్యవస్థ వైపు కదలాలని Anthropic వాదిస్తోంది, అంటే విడుదల కేవలం నోటీసు అవసరాలను తీర్చడంపై కాకుండా సాంకేతిక ప్రమాద సమీక్షను దాటడంపై ఆధారపడాలి.

ఇది గతంలో అనేక టెక్ కంపెనీలు ఇష్టపడ్డ దానికంటే ఉన్నత స్థాయి నియంత్రణ దృష్టి. దీనర్థం ప్రమాణాలు మాత్రమే కాదు, అమలు చేయగల పర్యవేక్షణ మరియు షిప్‌మెంట్ ఆలస్యం లేదా నిరాకరణ అవకాశమూ. విధాన పరంగా ఇది పారదర్శకత ద్వారా పాలన నుంచి అనుమతి ద్వారా పాలనకు మార్పు.

AIని జాతీయ భద్రత సమస్యగా చూడడం

మూలం ప్రకారం, AIను దేశాలు ఉపయోగించే వ్యూహాత్మక ఆయుధంగా Anthropic ఎక్కువగా చిత్రీకరిస్తోంది. అదే ఈ ప్రతిపాదన తక్షణతను వివరిస్తుంది. frontier modelsను ప్రధానంగా ఉత్పాదకత సాధనాలుగా చూస్తే, ప్రకటనలు మరియు మార్కెట్ శాసనం సరిపోవచ్చు. కానీ వాటిని సైబర్ దాడులు, కీలక మౌలిక సదుపాయాలు, బయోసెక్యూరిటీ, మరియు భౌగోళిక రాజకీయ పోటీపై ప్రభావం చూపే వ్యవస్థలుగా చూస్తే, విడుదలకు ముందే నియంత్రణలు మరింత సాధ్యంగా కనిపిస్తాయి.

అందుకే Anthropic హైలైట్ చేసే నాలుగు ప్రమాద ప్రాంతాలు ఎంతో నిర్దిష్టంగా ఉన్నాయి. కంపెనీ సాధారణ నైతిక సమీక్షను కోరడం లేదు. అది లక్ష్యిత పరీక్షలను కోరుతోంది, అక్కడ సామర్థ్య పురోగతి ఉన్నత ప్రభావం కలిగిన దుర్వినియోగం లేదా వ్యవస్థాత్మక వైఫల్యంగా మారే అవకాశం ఉంటుంది. ప్రమాదం AI ఒక సారాంశ వర్గంగా కాకుండా, ఇప్పటికే ప్రమాదకరమైన డొమైన్లను మరింత బలపరచగల frontier సామర్థ్యాల ఉపసమూహంగా ఉందనే అంచనా.

కఠిన నియమాలను కోరడంలోని రాజకీయాలు

నియమాలను ఎవరు రాయాలి, లేదా ప్రైవేట్ ల్యాబ్లు ఉన్న కంపెనీలకు లాభం చేకూరే విధంగా నియంత్రణను మలచడానికి ప్రయత్నిస్తున్నాయా అనే చర్చను Anthropic ప్రతిపాదన ముగించదు. ఆ ప్రశ్నలు తప్పించుకోలేనివి. కానీ ఈ కొత్త పత్రాలు ఇంకా ముఖ్యం; ఎందుకంటే అత్యంత ప్రసిద్ధ AI కంపెనీలలో ఒకటి తన మునుపటి నియంత్రణ అభిరుచి ఇక సరిపోదని బహిరంగంగా తేల్చిందని అవి చూపుతున్నాయి.

ప్రభుత్వాలు ఈ అజెండాలోని కొంత భాగాన్ని మాత్రమే స్వీకరించినా కూడా ఈ మార్పు కీలకమే. ప్రధాన ల్యాబ్లు తప్పనిసరి మూడో పక్ష ఆడిట్లు మరియు విడుదలలను అడ్డుకునే ఏజెన్సీ-స్థాయి అధికారాన్ని సమర్థించడం ప్రారంభించిన తర్వాత, చర్చ స్వచ్ఛంద హామీలను దాటి వెళుతుంది. ఇది సంస్థాగత రూపకల్పన ప్రశ్నగా మారుతుంది: ఎవరు పరీక్షిస్తారు, ఎవరు నిర్ణయిస్తారు, ఏది జోక్యాన్ని ప్రేరేపిస్తుంది, మరియు ప్రారంభానికి ముందు కంపెనీలు ఎంత సామర్థ్య ఆధారాలను వెల్లడించాలి?

విస్తృత ప్రభావాలున్న విధాన మలుపు

Anthropic జోక్యంలో అత్యంత ప్రభావవంతమైన భాగం దాని సమయమే కావచ్చు. వచ్చే ఒకటి నుంచి రెండు సంవత్సరాల్లో ప్రస్తుతం ప్రజా వినియోగంలో ఉన్న వాటికంటే ఎంతో శక్తివంతమైన వ్యవస్థలు రావచ్చని కంపెనీ చెబుతోంది. విధాన రూపకర్తలు ఆ కాలక్రమాన్ని అంగీకరిస్తే, పర్యవేక్షణ నిర్మాణాలను నిర్మించడానికి ఉన్న విండో చిన్నదే. వారు దాన్ని తిరస్కరించినా, frontier modelsకి విడుదలకు ముందు ఆడిట్లు అవసరమనే ఆలోచనను సాధారణీకరించడం ద్వారా భవిష్యత్ నియమాల ఆకారాన్ని Anthropic ఫ్రేమ్‌వర్క్ ప్రభావితం చేయవచ్చు.

ఏదైనా, కంపెనీ AI విధాన చర్చ కేంద్రాన్ని పునర్నిర్వచించడంలో సహాయపడుతోంది. వాదన ఇకపై AI సంస్థలు మరింత తెరవడి ఉండాలని మాత్రమే కాదు. కొన్ని మోడళ్ళు బాహ్య సాంకేతిక సమీక్ష మరియు “లేదు” అని చెప్పగల రాష్ట్ర అధికారము లేకుండా విడుదల చేయడానికి చాలా కీలకమైనవిగా ఉండొచ్చన్నదే వాదన.

ఇది ప్రారంభ AI విధాన చర్చలలో ఆధిపత్యం చెలాయించిన దానికంటే చాలా దూకుడైన పాలనా సిద్ధాంతం. ఇది frontier వ్యవస్థల పెరుగుతున్న ఆకాంక్షను, అలాగే వాటి నిర్మాతలలో కొందరిలో పారదర్శకత మాత్రమే తదుపరి దశను నియంత్రించలేదనే పెరుగుతున్న నమ్మకాన్ని ప్రతిబింబిస్తుంది.

This article is based on reporting by The Decoder. Read the original article.