ఆల్ట్మన్ ఫ్రాంటియర్ AIను ఆపడం కాదు, క్రమబద్ధీకరించడంపైనే మరింత దృష్టి పెడుతున్నారు
శాం ఆల్ట్మన్ మరోసారి అధునాతన కృత్రిమ మేధస్సు అభివృద్ధిని నెమ్మదించాలనే వాదనను బలంగా వినిపిస్తున్నారు — కానీ ఆ జాగ్రత్తను ఎవరూ నిలిపివేతగా పొరబడకూడదని కూడా ఆయన అంతే దృఢంగా నిర్ణయించుకున్నారు. సెప్టెంబర్ 14 తేదీని ప్రస్తావిస్తూ చేసిన వ్యాఖ్యల్లో, OpenAI ప్రధాన కార్యనిర్వాహక అధికారి అమెరికా అంతటా అధునాతన AIను నియంత్రించే ఒకే ఏకరీతి భద్రతా ఫ్రేమ్వర్క్ను కోరారు, అదే సమయంలో చట్టసభల సభ్యులు దానిని అందించే వరకు పరిశ్రమ వేచి ఉండకూడదని కూడా వాదించారు. ఆయన సాధిస్తున్న సమతుల్యత సూక్ష్మమైనది: వేగవంతమైన పురోగతికి నియంత్రణ తోడుగా ఉండాలి, దానికి ప్రత్యామ్నాయం కాదు.
ఆయన వాదనలో కేంద్రమైనది "వేగాన్ని క్రమబద్ధీకరించడం" మరియు "ఆపడం" మధ్య ఉన్న భేదం. అభివృద్ధి "కొనసాగుతూనే ఉంటుంది" అని ఆల్ట్మన్ అంగీకరించారు — కానీ సామర్థ్య లాభాలను నియంత్రణ లేకుండా సాధించాలని చూసినప్పుడు ఉండేంత వేగంగా కాదు. ఆయన చిత్రణలో నెమ్మదించడం అనేది ఆశయాన్ని త్యాగం చేయడం కాదు, చెల్లించదగిన ఖర్చు.
ప్రధాన శిక్షణ ప్రయోగాలకు ముందు ఇప్పుడు భద్రతా ప్రోటోకాల్స్
ఆ తత్వశాస్త్రంలో కొంత భాగాన్ని OpenAI అంతర్గతంగా అధికారికం చేసింది. సామర్థ్యంలో గణనీయమైన దూకుడు సృష్టించగల శిక్షణ ప్రయోగాలను చేపట్టే ముందు కంపెనీ ఇప్పుడు స్పష్టమైన భద్రతా ప్రోటోకాల్స్ను నిర్దేశిస్తోంది; ఇది నమూనాలో ఇమిడిపోయే ముందే ప్రమాదాలను గుర్తించడానికి ఉద్దేశించిన విధానపరమైన చర్య. పోటీ డెవలపర్లు "మా విధానాల నుండి నేర్చుకుని తమ స్వంతమైనవి ప్రతిపాదిస్తారని" ఆశిస్తున్నట్లు ఆల్ట్మన్ తెలిపారు; OpenAI అంతర్గత పద్ధతిని ఆదేశంగా కాక ఉదాహరణగా చూపుతూ.
ఆ పదాల ఎంపిక చాలా చెప్పేది ఉంది. పోటీదారులు అదే జాబితాను అనుసరించాలని డిమాండ్ చేయకుండా, స్కేలింగ్ చేసే ముందు ప్రమాదాన్ని ఎలా అంచనా వేస్తారో ల్యాబ్లు బహిరంగంగా నిర్వచించే విస్తృత నియమాన్ని ఆల్ట్మన్ ప్రోత్సహిస్తున్నట్లు కనిపిస్తోంది. అలాంటి స్వచ్ఛంద చర్యలకు నిజమైన బరువు ఉంటుందా — లేక కేవలం పత్రాలు తయారవుతాయా — అనేది ఈ మొత్తం విధానంపై వేలాడుతున్న ప్రశ్నగానే మిగిలిపోయింది.
పోటీ ఒత్తిడి వర్సెస్ నిర్లక్ష్యం
పోటీతత్వ ఆవశ్యకతకు, నిర్లక్ష్యానికి మధ్య ఆల్ట్మన్ స్పష్టమైన గీత గీశారు; అమెరికా పోటీ ఒత్తిడి ఎంత ఉన్నా నిర్లక్ష్యాన్ని సమర్థించదని, లేదా వాటిని అలైన్ చేయడానికి, పర్యవేక్షించడానికి రూపొందించిన వ్యవస్థలను సామర్థ్యాలు మించిపోనివ్వకూడదని వాదించారు. వేగాన్ని క్రమబద్ధీకరించడం ఖర్చుకు తగినదేనని ఆయన అభివర్ణించారు.
ఈ ప్రకటన అలైన్మెంట్ మరియు పర్యవేక్షణను ముడి సామర్థ్యంతో సమాన స్థాయిలో ఉంచుతుంది; ఇది ఫ్రాంటియర్-ల్యాబ్ సందేశాల్లో పునరావృతమయ్యే ఇతివృత్తంగా మారింది. నియంత్రణ సంస్థలు, పరిశోధకులు చాలాకాలంగా ఎత్తిచూపుతున్న ఒక ప్రమాదాన్ని ఇది పరోక్షంగా అంగీకరిస్తుంది: శక్తివంతమైన వ్యవస్థలను నిర్మించే సామర్థ్యం, వాటిని అర్థం చేసుకునే లేదా నియంత్రించే సామర్థ్యం కంటే వేగంగా రావచ్చు.
ఒక వారాంతంలో గమనార్హమైన ఏకాభిప్రాయం
ఆల్ట్మన్ స్థానం ఒంటరిగా ఉద్భవించలేదు. వారాంతంలో, మరింత కఠినంగా నియంత్రించిన AI అభివృద్ధికి మద్దతు తెలుపుతూ పరిశ్రమ ప్రముఖుల ఆకట్టుకునే వరుస వ్యక్తులే వచ్చారు — వీరిలో Anthropic ప్రధాన కార్యనిర్వాహక అధికారి డారియో అమోడే, DeepMindకు చెందిన డెమిస్ హసాబిస్, మైక్రోసాఫ్ట్ ప్రధాన కార్యనిర్వాహక అధికారి సత్య నాదెళ్ల మరియు ఎలాన్ మస్క్ ఉన్నారు. ఈ ఏకీభావం గమనార్హం ఎందుకంటే వీరు పోటీదారులు — కొన్ని సందర్భాల్లో స్పష్టమైన ప్రత్యర్థులు — విధానంపై అరుదుగా ఏకీభవిస్తారు.
పోటీ ల్యాబ్ల కార్యనిర్వాహకులు, ఒక ప్రధాన సాఫ్ట్వేర్ మరియు క్లౌడ్ విక్రేత, మరియు ఒక స్వతంత్ర బిలియనీర్ — వీరందరూ కొద్ది రోజుల వ్యవధిలో ఒకే సాధారణ దిశను సమర్థించినప్పుడు, ఫ్రాంటియర్ ప్రమాదాన్ని నిర్వహించాలా వద్దా అనే చర్చ నుండి ఎలా నిర్వహించాలి అనే దానికి మారిందని సూచిస్తుంది. ఇప్పుడు విభేదం యంత్రాంగం, అమలు, మరియు ఎవరు టేబుల్ వద్ద కూర్చోవాలి అనే దానిపై ఉంది.
స్వయం-నియంత్రణ చర్చలు మరియు కార్టెల్ భయాలు
యంత్రాంగం అనేదే చర్చ మరింత పదునెక్కే ప్రదేశం. The Information నివేదిక ప్రకారం, OpenAI, Anthropic మరియు Google స్వతంత్ర పర్యవేక్షణ సంస్థ ద్వారా స్వయం-నియంత్రణ గురించి నెలల తరబడి చర్చలు జరుపుతున్నాయి. కాగితంపై ఈ ఆలోచన సూటిగా ఉంటుంది: శాసనం కోసం వేచి ఉండకుండా అతిపెద్ద ల్యాబ్లను ఉమ్మడి ప్రమాణాలకు కట్టుబడి ఉంచే బాహ్య సంస్థ.
అందరూ అలా చూడటం లేదు. Cohere వంటి చిన్న ఆటగాళ్లు అలాంటి ఏర్పాటు కార్టెల్గా గట్టిపడవచ్చనే ఆందోళనలను లేవనెత్తాయి — ఇందులో ప్రస్తుత ఆటగాళ్లే కొత్తవారు అనుసరించాల్సిన నియమాలను రాస్తారు, భద్రత అనే నినాదం కింద ప్రవేశ అడ్డంకులను సమర్థవంతంగా పెంచుతారు. ఇది పరిశ్రమ నేతృత్వంలోని పాలనపై సుపరిచితమైన విమర్శ, మరియు ఆమోదయోగ్యమైన ప్రమాదాన్ని ఎవరు నిర్వచించాలి అనే దాని హృదయాన్ని తాకుతుంది.
పరిశ్రమ ఎందుకు చట్టసభల కోసం వేచి ఉండటం లేదు
దేశవ్యాప్త ఫ్రేమ్వర్క్ కోసం ఆల్ట్మన్ ప్రతిపాదన ఒక ఆచరణాత్మక వాస్తవాన్ని ప్రతిబింబిస్తుంది: శాసనకర్తలు చర్చిస్తున్నప్పుడు AI అభివృద్ధి ఆగదు. ఒకే జాతీయ ప్రమాణం, ఆయన దృష్టిలో, ఒకే కంపెనీలపై పరస్పర విరుద్ధమైన బాధ్యతలను విధించగల రాష్ట్ర-స్థాయి నియమాల మిశ్రమం కంటే ఉత్తమం.
అయినప్పటికీ, అంతర్జాతీయ సమన్వయానికి అమెరికా ప్రభుత్వం మద్దతు అవసరమవుతుందని ఆయన స్పష్టం చేశారు — కంప్యూట్ పాలన నుండి సరిహద్దుల అంతటా భద్రతా నిబద్ధతల వరకు అత్యంత పరిణామాత్మక ప్రశ్నలను ప్రైవేట్ కంపెనీలు ఒంటరిగా పరిష్కరించలేవనే గుర్తింపు ఇది. ఫలితం ఒక సంకర భంగిమ: పరిశ్రమ ముందుగా వ్యవహరిస్తుంది, ప్రభుత్వం వెనుకంజలో వస్తుంది, చివరికి రెండూ కలిసి కలవాలని ఆశిస్తారు.
తర్వాత ఏమి గమనించాలి
- OpenAI, Anthropic మరియు Google నెలల చర్చలను అధికారిక స్వతంత్ర పర్యవేక్షణ సంస్థగా మారుస్తాయా.
- Cohere వంటి చిన్న ల్యాబ్లకు అర్థవంతమైన ప్రాతినిధ్యం లభిస్తుందా, లేక ప్రస్తుత ఆటగాళ్లే ఎజెండాను ఆధిపత్యం చేస్తారా.
- దేశవ్యాప్త ఫ్రేమ్వర్క్ ప్రతిపాదన ప్రస్తుత మరియు ప్రతిపాదిత రాష్ట్ర-స్థాయి నియమాలతో ఎలా నిలబడుతుంది.
- ప్రకటించిన శిక్షణ-పూర్వ భద్రతా ప్రోటోకాల్స్ ఉమ్మడి పరిశ్రమ నియమంగా మారుతాయా లేక OpenAI అంతర్గత పద్ధతిగానే మిగిలిపోతాయా.
ప్రస్తుతానికి, ఆల్ట్మన్ సందేశం మరెవరో చేసే ముందే నెమ్మదించే ప్రక్రియ నిబంధనలను నిర్వచించాలనే ప్రయత్నంగా కనిపిస్తుంది. ఆశయం చెక్కుచెదరకుండా ఉంది; సర్దుబాటు చేయబడుతున్నది వేగం మాత్రమే.
ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com
