నలుగురు AI నాయకులు, ఒక సడలు వాగ్దానం
OpenAI CEO శామ్ ఆల్ట్మన్, Anthropic CEO డారియో అమోడే, Google DeepMind సహ-వ్యవస్థాపకుడు డెమిస్ హసాబిస్, SpaceX అధిపతి ఎలాన్ మస్క్ వారాంతంలో కృత్రిమ మేధస్సు అభివృద్ధిని నెమ్మదించడానికి సడలుగా అంగీకరించినప్పుడు, ఆ చట్రం ఉద్దేశపూర్వకంగా ఉంది. వారి ప్రకటిత లక్ష్యం "ఫ్రాంటియర్ను నెమ్మదించడం" — ఈ భాష నిగ్రహాన్ని వెనక్కి తగ్గడం కాకుండా బాధ్యతాయుత నిర్వహణగా చిత్రీకరిస్తుంది. ఈ బృందం మూడు ఆలోచనల చుట్టూ నిర్మించిన ప్రతిపాదనకు, కనీసం పాక్షికంగా, సంతకం చేసింది: AI డెవలపర్లతో మూడవ పక్ష ఆడిటర్లను పొందుపరచడం, దేశీయ ల్యాబ్లను నియంత్రించడం, చివరికి అభివృద్ధి వేగాన్ని నెమ్మదించడానికి ప్రపంచ ఒప్పందానికి చేరుకోవడం.
చప్పట్లు ఎక్కువసేపు నిలవలేదు. కొన్ని గంటల్లోనే, సందేహాస్పదులు అదే ప్రకటనకు భిన్నమైన అర్థాన్ని చేరుకున్నారు. వారి దృష్టిలో, ఎప్పటికప్పుడు పెద్ద మోడళ్లను పంపడానికి సంవత్సరాలుగా పోటీపడిన కంపెనీలు, జాగ్రత్త వారి మార్కెట్ స్థానాలను రక్షించే క్షణంలోనే జాగ్రత్త యొక్క సద్గుణాలను అకస్మాత్తుగా కనుగొన్నాయి. కొందరు విమర్శకులు మరింత ముందుకు వెళ్లి, ఈ ఏర్పాటును నేరుగా కార్టెల్ అని అభివర్ణించారు.
పరిశ్రమ అంతటా ఉన్న మూలాల ప్రకారం, సత్యం ఏ వర్గం అనుమతించే దానికంటే క్లిష్టమైనది. అందుకే ఈ సంఘటనను నిశితంగా చదవడం విలువైనది: ఇది సంవత్సరాల పాటు AI విధానాన్ని నిర్వచించే పోరాటాలకు ప్రారంభ రిహార్సల్.
మూడు-దశల ప్రతిపాదన వాస్తవంగా ఏమి కోరుతుంది
ప్రణాళిక యొక్క సారాంశం దానికి జోడించిన వ్యక్తిత్వాల కంటే ముఖ్యమైనది. ఈ చట్రాన్ని అమోడే ఒక వ్యాసంలో వివరించారు, మరియు దాని భాగాలు గత కొన్ని సంవత్సరాలుగా AI భద్రతా చర్చలను అనుసరించిన ఎవరికైనా తెలిసినవి.
- మూడవ పక్ష ఆడిటర్లు: ల్యాబ్లు తమను తాము పోలీసు చేసుకుంటాయని నమ్మడం కాకుండా, మోడళ్లు మరియు శిక్షణ పద్ధతులను పరిశీలించడానికి డెవలపర్లతో పొందుపరచిన స్వతంత్ర సమీక్షకులు.
- దేశీయ ల్యాబ్ నియంత్రణ: స్వచ్ఛంద అంతర్గత మార్గదర్శకాలు కాకుండా, యునైటెడ్ స్టేట్స్ లోపల పనిచేసే ల్యాబ్లను నియంత్రించే అధికారిక నియమాలు.
- ప్రపంచ నెమ్మదిరం ఒప్పందం: ఫ్రాంటియర్ అభివృద్ధి వేగాన్ని నిలిపివేయడానికి ప్రధాన శక్తుల మధ్య అంతర్జాతీయ అవగాహన.
ఆ ఆలోచనలు ఏవీ ఇప్పుడు వాటిని ఆమోదిస్తున్న కార్యనిర్వాహకుల నుండి పుట్టలేదు. AI భద్రతా న్యాయవాదులు సంవత్సరాలుగా బాహ్య ఆడిటింగ్ మరియు కట్టుబడి పర్యవేక్షణ కోసం పోరాడుతున్నారు, తరచుగా అదే ల్యాబ్లు ఈ ఆలోచనను వ్యతిరేకిస్తున్నప్పుడు. ఆ చరిత్రే వారాంతపు ఒప్పందం మీరు ఎక్కడ కూర్చున్నారో బట్టి ఎందుకు భిన్నంగా చదవబడుతుందో భాగం. ఒక ప్రతిపాదన సూత్రంలో సరైనది కావచ్చు, అయినప్పటికీ దాని అత్యంత ఉత్సాహభరితమైన మద్దతుదారులు దానిని అతి తక్కువగా నియంత్రించే పక్షాలే అయినప్పుడు అనుమానాస్పదంగా ఉండవచ్చు.
కార్టెల్ ఆరోపణ, వివరించబడింది
ఈ వాగ్దానం యొక్క కఠినమైన విమర్శకులు నెమ్మదించడం అంతర్లీనంగా తప్పు అని వాదించడం లేదు. వారు ఎవరు నిర్ణయించాలి, మరియు ఆ నిర్ణయం ఏమి రక్షిస్తుంది అనే దానిపై వాదిస్తున్నారు. మూడు ఆందోళనలు పునరావృతమవుతాయి.
ఇది సంభావ్య పోటీదారులను బహిష్కరించగలదు. ఇప్పటికే ఫ్రాంటియర్లో పనిచేస్తున్న కంపెనీకి విరామం నుండి నష్టం తక్కువ, మరియు దాని నుండి లాభం చాలా ఎక్కువ. నెమ్మదిగా అభివృద్ధి చెందడం నాయకులు మరియు మిగతా అందరి మధ్య ఉన్న అంతరాన్ని నాయకులకు మాత్రమే తగ్గిస్తుంది, ఎందుకంటే వారు మోడళ్లు, కంప్యూట్ సంబంధాలు, మరియు ప్రతిభను ఇప్పటికే కలిగి ఉన్నారు. పురోగతి వేగాన్ని పరిమితం చేసే నియమం ఒక కందకంగా పనిచేయగలదు.
ఇది ఓపెన్-సోర్స్ అభివృద్ధిని కుంటుపరచగలదు. ఆడిటింగ్ విధానాలు మరియు ల్యాబ్ నియంత్రణలు పెద్ద చట్టపరమైన మరియు భద్రతా సిబ్బంది ఉన్న కంపెనీకి అల్పమైన సమ్మతి ఖర్చులను విధిస్తాయి మరియు చిన్న ఓపెన్-సోర్స్ బృందాలకు శిక్షాత్మకంగా ఉంటాయి. భద్రతా చట్రం యొక్క ఆచరణాత్మక ప్రభావం కేవలం కొన్ని బాగా పెట్టుబడి ఉన్న సంస్థలు మాత్రమే చట్టబద్ధంగా ఫ్రాంటియర్ మోడళ్లను శిక్షణ ఇవ్వగలవు అని ఉంటే, అప్పుడు ఆ చట్రం జాగ్రత్త పతాకం కింద ఏకీకరణను అందించింది.
ఇది నిజమైన చట్టపరమైన రక్షణలకు ప్రత్యామ్నాయంగా పనిచేయగలదు. పరిశ్రమ తన స్వంత నియమాలను రాసుకున్నప్పుడు, ఆ నియమాలు ఏమి మినహాయించాయో కూడా నిర్ణయిస్తుంది. స్వచ్ఛంద కట్టుబాట్లకు జరిమానాలు జోడించబడవు, స్వతంత్ర అమలు ఉండదు, మరియు కార్పొరేట్ వ్యూహంలో మార్పు నుండి తప్పించుకునే యంత్రాంగం ఉండదు. నియంత్రణలా కనిపించే వాగ్దానం వాస్తవ నియంత్రణను అనవసరంగా అనిపించేలా చేయగలదు — ఇది విమర్శకులు ఎక్కువగా భయపడే ఫలితం.
నియంత్రణ శూన్యత వాదన
నిజమైన బరువు కలిగిన ఒక ప్రతివాదం ఉంది, మరియు అది కార్టెల్ థీసిస్కు వ్యతిరేకంగా కోస్తుంది. ప్రస్తుత పరిపాలనలో, అర్థవంతమైన AI నియంత్రణ దానంతట అదే రావడం అసంభవం. ఎంపిక ప్రైవేట్ కట్టుబాట్లు మరియు ఏమీ లేకపోవడం మధ్య ఉంటే, ప్రైవేట్ కట్టుబాట్లు ఏమీ కావు, అవి అసంపూర్ణమైనప్పటికీ.
ఆ తర్కం ఈ ప్రతిపాదనకు సహజంగా బిగ్ టెక్కు సహానుభూతి చూపని వ్యక్తుల నుండి మద్దతు ఎందుకు లభించిందో వివరిస్తుంది. ఇది వివరించే మూడు దశలు — ఆడిటర్లు, దేశీయ నియమాలు, అంతర్జాతీయ నెమ్మదిరం — భద్రతా న్యాయవాదులు అభ్యర్థిస్తున్న అదే దశలు. అత్యంత సమర్థవంతమైన ల్యాబ్ల నాయకులను ఆ మాటలు బహిరంగంగా చెప్పించడం ఒక ప్రజా ప్రమాణాన్ని సృష్టిస్తుంది. ఒక కట్టుబాటు రికార్డులో ఉన్నప్పుడు, వెనక్కి తగ్గడం ఒక కథ అవుతుంది, మరియు కథలకు ఖర్చులు ఉంటాయి.
కానీ అదే శూన్యతే సందేహాస్పదులను ఆందోళనకు గురిచేస్తుంది. ఖాళీ స్థలాన్ని నింపే ఒక చట్రం కూడా తనను తాను స్థిరపరచుకోవచ్చు, అధికారిక శాసనం ఎందుకు అనవసరం అని అడిగినప్పుడు శాసనసభ్యులు సూచించే వాస్తవ ప్రమాణంగా మారవచ్చు. ప్రమాదం ఏమిటంటే, ఈ వాగ్దానం చాలా ఎక్కువ చేస్తుంది అని కాదు. అది బలమైన దాన్ని పక్కనపెట్టేంత మాత్రమే చేస్తుంది.
ఈ సంభాషణను ఎవరు నడిపించాలి?
పరిశ్రమ అంతటా, ఒక అంగీకారం ఉద్భవిస్తుంది: AI నాయకులు ఈ పోరాటాన్ని నడిపించడానికి ఉత్తమ వ్యక్తులు కాదు. వారి ఉద్దేశాలు నిజమైనవి అయినప్పటికీ, వారు ఏకకాలంలో నియమాలకు లోబడేవారు, నియమాల రచయితలు, మరియు నియమాలు ఏమి చెప్పాలి అనే చర్చలో అత్యంత బిగ్గరగా మాట్లాడేవారు. ఇంత విస్తృతమైన పరిణామాలు ఉన్న ఏ సాంకేతికతకైనా ఇది పనిచేసే ఏర్పాటు కాదు.
ఈ ప్రతిపాదనకు పళ్ళు ఇచ్చేది — పరిశ్రమ యొక్క స్వంత చట్రం ఆహ్వానించే పదబంధం — బాహ్య ధృవీకరణ మరియు పరిణామం. నిజమైన ప్రాప్యత మరియు ఫలితాలను ప్రచురించే సామర్థ్యం ఉన్న స్వతంత్ర ఆడిటర్లు. జరిమానాలు జోడించిన నియంత్రణలు, కేవలం బహిర్గత అవసరాలు మాత్రమే కాదు. దాన్ని అమలు చేయగల ప్రభుత్వాలను కలిగి ఉన్న అంతర్జాతీయ సమన్వయం, కొద్దిమంది కార్యనిర్వాహకుల సద్భావనపై ఆధారపడటం కాదు, వారు తమ మనసు మార్చుకోవచ్చు.
ముఖ్యాంశం
"ఫ్రాంటియర్ను నెమ్మదించడం" వాగ్దానం స్వచ్ఛమైన భద్రతా ఒప్పందం కాదు, నిరూపితమైన కార్టెల్ కాదు. ఇది సమర్థించదగిన భాగాలతో కూడిన ప్రతిపాదన, ప్రజా ప్రయోజనంతో పూర్తిగా సరిపోలని ప్రోత్సాహకాలు ఉన్న వ్యక్తులచే ముందుకు తీసుకురాబడింది. రెండూ నిజం కావచ్చు, మరియు వేరే విధంగా నటించడం ఉంచుకోవాల్సిన భాగాల కేసును బలహీనపరుస్తుంది.
ఈ సమస్య ప్రాముఖ్యతలో మాత్రమే పెరుగుతుంది, అందుకే వివరాలు దృశ్యం కంటే ముఖ్యమైనవి. ఆడిటర్లు, నియమాలు, మరియు అంతర్జాతీయ ఒప్పందాలు సరైన సాధనాలు. వారాంతపు కరచాలనం బహిరంగంగా వదిలివేసే ప్రశ్న ఏమిటంటే వాటిని ఎవరు కలిగి ఉంటారు, మరియు బోర్డ్రూమ్ వెలుపల ఎవరైనా వాగ్దానం చేసినదాన్ని అమలు చేయగలరా అనేది.
ఈ వ్యాసం The Verge యొక్క రిపోర్టింగ్ ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on theverge.com