AI భద్రతా చర్చలో ఆశ్చర్యకరమైన ఏకాభిప్రాయం
కృత్రిమ మేధస్సులో అత్యంత ప్రముఖ వ్యక్తులలో ముగ్గురు — OpenAI చీఫ్ ఎగ్జిక్యూటివ్ సామ్ ఆల్ట్మన్, ఎలాన్ మస్క్, మాజీ DeepMind CEO డెమిస్ హస్సాబిస్ — AI ప్రయోగశాలల్లో స్వతంత్ర పర్యవేక్షణ కోసం ఆంత్రోపిక్ CEO డారియో అమోడేయి చేసిన ప్రతిపాదనకు కనీసం పాక్షికంగా మద్దతు తెలిపారు. The Decoder నివేదించిన ఈ ఏకీభావం, నాయకులు తరచుగా ప్రజల్లో ప్రమాదం, కాలక్రమాలు, నియంత్రణపై విభేదించే రంగంలో ఒక గమనార్హమైన క్షణాన్ని సూచిస్తుంది. ఇది AI అభివృద్ధిని నెమ్మదించడంపై పూర్తి ఏకాభిప్రాయాన్ని సూచించదు, కానీ బాహ్య లేదా స్వతంత్ర మూల్యాంకనం అనే ఆలోచన ప్రధాన స్రవంతికి దగ్గరగా వచ్చిందని సూచిస్తుంది.
మస్క్ వైఖరి అతి తక్కువ ఆశ్చర్యకరమైనది. అతను సంవత్సరాలుగా AI ప్రమాదాల గురించి హెచ్చరిస్తూ, తరచుగా అధునాతన వ్యవస్థలను అస్తిత్వ సమస్యగా చిత్రీకరిస్తాడు. దీనికి విరుద్ధంగా, ఆల్ట్మన్ మరియు హస్సాబిస్ అత్యాధునిక నమూనాల వేగవంతమైన అమలుపై వాణిజ్య విజయం ఆధారపడిన సంస్థలను నడుపుతున్నారు. స్వతంత్ర పర్యవేక్షణకు — కనీసం పాక్షికంగా — మద్దతు ఇవ్వడానికి వారి సుముఖత, పర్యవేక్షణ అవసరమా అనే దాని నుండి అది ఎలా రూపకల్పన చేయాలి మరియు ఎవరు నిర్వహించాలి అనే దానికి చర్చ మారిందని సూచిస్తుంది.
అమోడేయి ప్రతిపాదించినది
అమోడేయి ప్రతిపాదన, AI ల్యాబ్లు తమ స్వంత భద్రతకు ఏకైక న్యాయనిర్ణేతలు కాకూడదనే సూత్రంపై కేంద్రీకృతమై ఉంది. ఈ చట్రంలో, స్వతంత్ర మూల్యాంకనం బాహ్య నిపుణులకు నమూనాలు మరియు శిక్షణ ప్రక్రియలకు ప్రాప్యతను ఇస్తుంది, తద్వారా వారు అమలుకు ముందు సామర్థ్యాలు మరియు ప్రమాదాలను అంచనా వేయగలరు. ఆల్ట్మన్ మరియు అమోడేయి ఈ ప్రధాన అంశంపై ఏకీభవిస్తున్నట్లు నివేదించబడింది: AI ల్యాబ్లు స్వతంత్రంగా మూల్యాంకనం చేయబడాలి. ఈ ఏకీభావం ముఖ్యమైనది ఎందుకంటే ఇద్దరు పురుషులు అత్యాధునిక స్థాయిలో పోటీపడుతున్న కంపెనీలను నడుపుతున్నారు, మరియు ఇద్దరూ గతంలో స్వయం-నియంత్రణ అనేది తమ స్వంత హోంవర్క్ను మార్క్ చేసుకోవడమే అనే విమర్శను ఎదుర్కొన్నారు.
భాగస్వామ్య సూత్రంగా స్వతంత్ర మూల్యాంకనం
ఆల్ట్మన్, మస్క్, హస్సాబిస్ల నుండి వచ్చిన మద్దతు స్థగనం లేదా ప్రపంచవ్యాప్త వేగ పరిమితిపై సర్వత్రా ఒప్పందం కాదు. ఇది ఒక పాలనా యంత్రాంగానికి మద్దతుగా బాగా అర్థం చేసుకోవచ్చు: అత్యాధునిక వ్యవస్థల స్వతంత్ర పరిశీలన. ఆ వ్యత్యాసం ముఖ్యమైనది. ఒక ల్యాబ్ బాహ్య మూల్యాంకనాన్ని అంగీకరిస్తూనే, మూల్యాంకనం వ్యవస్థ కొనసాగించడానికి తగినంత సురక్షితమని చూపితే, వేగవంతమైన అభివృద్ధి కోసం వాదించవచ్చు. దీనికి విరుద్ధంగా, ఒక విమర్శకుడు తప్పనిసరి నెమ్మదింపులను వ్యతిరేకిస్తూనే స్వతంత్ర పర్యవేక్షణకు మద్దతు ఇవ్వవచ్చు.
ఒప్పందం ఎందుకు పాక్షికం మాత్రమే
మద్దతు యొక్క పాక్షిక స్వభావం అమలుపై తీవ్రమైన విభేదాలకు స్థలం ఇస్తుంది. మూల్యాంకనకర్తలను ఎవరు నియమిస్తారు? వారికి ఎంత ప్రాప్యత లభిస్తుంది? ఒక ల్యాబ్ వారి ఫలితాలను వివాదించినట్లయితే ఏమి జరుగుతుంది? ఆ ప్రశ్నలు ఏవీ భాగస్వామ్య సూత్రం ద్వారా పరిష్కరించబడలేదు. AI ల్యాబ్లలో స్వతంత్ర పర్యవేక్షణ అవసరమని నాయకులు ఏకీభవించారని The Decoder గమనించింది, కానీ ఆచరణాత్మక వివరాలు తెరిచే ఉన్నాయి — మరియు ఆ వివరాలే పర్యవేక్షణ అర్థవంతమైనదా లేదా ప్రతీకాత్మకమైనదా అని నిర్ణయిస్తాయి.
OpenAI IPO సమయం మరియు భద్రతా వివరణ
ఆల్ట్మన్ ఫార్చ్యూన్కు కూడా చెప్పారు, OpenAI ఈ సంవత్సరం పబ్లిక్గా వెళ్లదు, భద్రతా ఆందోళనలను కారణంగా పేర్కొన్నారు. అతను ఈ నిర్ణయాన్ని జూన్లో అంతర్గతంగా ఇప్పటికే తెలియజేశారు. అభ్యర్థి సంక్షిప్త పత్రం ఈ చర్యను భద్రతా పరిగణనల కారణంగా IPOని 2027కి వాయిదా వేయడంగా చిత్రీకరిస్తుంది, అదే సమయంలో ప్రత్యామ్నాయ పఠనాన్ని కూడా గుర్తిస్తుంది: OpenAI యొక్క ఆర్థిక పరిస్థితి ప్రస్తుతం IPOకి మద్దతు ఇవ్వకపోవచ్చు, ముఖ్యంగా ఆంత్రోపిక్తో పోలిస్తే. రెండు వివరణలు ఏకకాలంలో నిజం కావచ్చు. ఒక కంపెనీ ప్రతికూల మార్కెట్ పరిస్థితులను ఎదుర్కొంటూనే వేచి ఉండడానికి కారణంగా భద్రతను నొక్కి చెప్పడానికి ఎంచుకోవచ్చు.
ఆలస్యం యొక్క రెండు పఠనాలు
భద్రతా వివరణ ఆల్ట్మన్ యొక్క ఇటీవలి ప్రజా వైఖరికి సరిపోతుంది. అత్యాధునిక AI తీవ్రమైన ప్రమాదాలను కలిగి ఉంటే, పబ్లిక్ లిస్టింగ్ యొక్క బహిర్గత బాధ్యతలు మరియు త్రైమాసిక ఒత్తిళ్లను తీసుకోవడం ఉద్దేశపూర్వక భద్రతా వ్యూహాన్ని క్లిష్టతరం చేయవచ్చు. ఆర్థిక వివరణ పోటీ దృశ్యానికి సరిపోతుంది. ఆంత్రోపిక్ పోలిక బిందువుగా పేర్కొనబడింది, మరియు IPO చివరికి తాత్వికమైనది కావడంతో పాటు మార్కెట్ నిర్ణయం కూడా. పెట్టుబడిదారులు మరియు నియంత్రకులు ఏ అంశం కాలక్రమాన్ని నడిపిస్తోందో స్పష్టత కోసం ఒత్తిడి తేవచ్చు.
ఏదేమైనా, ఈ ఆలస్యం ప్రధాన AI సంస్థల మధ్య OpenAIని దాని స్వంత వర్గంలో ఉంచుతుంది: ఒక ప్రముఖ ల్యాబ్, దాని నాయకత్వం తన మూలధన-మార్కెట్ నిర్ణయాలను భద్రతా ఆందోళనలతో బహిరంగంగా అనుసంధానిస్తోంది. ఆ అనుసంధానం పర్యవేక్షణ చర్చకు ఒక నిర్దిష్ట కార్పొరేట్ కోణాన్ని ఇస్తుంది. ఇది ఇకపై నైరూప్య సూత్రాల గురించి మాత్రమే కాదు; ఒక అత్యాధునిక ల్యాబ్ తన పాలన, దాని బహిర్గతం, మరియు బాహ్య పరిశీలన పట్ల దాని బాధ్యతలను ఎలా నిర్మిస్తుంది అనే దాని గురించి.
ప్రతిఘటన: నిజమైన వేగ పరిమితిగా స్థిరత్వం
అమోడేయి ప్రతిపాదించిన వేగ పరిమితి వెనుక ఉన్న ఆధారాన్ని అందరూ అంగీకరించరు. గూగుల్ పరిశోధకుడు పెయ్మాన్ మిలాన్ఫార్ ప్రతిఘటించారు, పునరావృత స్వీయ-మెరుగుదల (RSI) ఒక అమాయక ఊహ అని వాదిస్తూ, ఎందుకంటే దానిలోని ఫీడ్బ్యాక్ లూప్లు స్వాభావికంగా అస్థిరంగా ఉంటాయి. అతని దృష్టిలో, ఒక వ్యవస్థ తనను తాను ఆప్టిమైజ్ చేసుకోవడానికి ఎంత ఎక్కువ ప్రయత్నిస్తే, అంత లోతుగా అది అంధ బిందువుల్లో పడిపోతుంది. నమ్మదగిన ఆధారాలు బెంచ్మార్క్ల నుండి కాకుండా నిజ ప్రపంచం నుండి వస్తాయని అతను వాదిస్తారు.
వేగ పరిమితి అనవసరమని మిలాన్ఫార్ ఎందుకు చెబుతారు
మిలాన్ఫార్ వాదన అతనిని వేరే ముగింపుకు చేరుస్తుంది: స్వీయ-మెరుగుదల సహజంగా పరిమితమైనది కాబట్టి తప్పనిసరి వేగ పరిమితి అవసరం లేదు. తమను తాము నమ్మదగిన రీతిలో మెరుగుపరుచుకోగల వ్యవస్థలు, స్వచ్ఛమైన సామర్థ్య దృక్కోణం నుండి వ్యర్థంగా కనిపించే మార్జిన్ల ద్వారా పాలించబడతాయి, తగ్గించబడతాయి, నెమ్మదించబడతాయి మరియు నియంత్రించబడతాయి. అతని సూత్రీకరణలో, స్థిరత్వం స్వయంగా ప్రభావవంతమైన వేగ పరిమితిగా పనిచేస్తుంది. అది సరైనదైతే, అనియంత్రిత పునరావృత మెరుగుదల అనేది ఫీడ్బ్యాక్ లూప్ల దుర్బలత్వాన్ని విస్మరించే సైద్ధాంతిక దృశ్యం మాత్రమే, సమీపిస్తున్న నిశ్చయత కాదు.
అది పర్యవేక్షణ కోసం పిలుపులను ప్రేరేపించే ప్రమాద నమూనాకు నేరుగా సవాలు. బాహ్య పరిమితులు విధించకపోతే ల్యాబ్లు సురక్షితమైన వేగాన్ని మించి వెళ్లగలవని అమోడేయి ప్రతిపాదన ఊహిస్తుంది. అంతర్లీన డైనమిక్స్ ఇప్పటికే తమ స్వంత పరిమితులను విధిస్తాయని, మరియు బెంచ్మార్క్-ఆధారిత కథనాలు ఒక వ్యవస్థ తన సామర్థ్యాలను ఎంత సజావుగా బూట్స్ట్రాప్ చేసుకోగలదో అతిగా చెబుతాయని మిలాన్ఫార్ ప్రతిస్పందన ఊహిస్తుంది. భద్రత ముఖ్యమా అనే దానిపై విభేదం కాదు; సాంకేతికతకు వాస్తవానికి ఎలాంటి జోక్యం, ఉంటే, అవసరమో అనే దానిపై ఉంది.
చర్చ తర్వాత ఎక్కడికి వెళుతుంది
రెండు శిబిరాల మధ్య విభజన AI పాలన ఎలా అభివృద్ధి చెందుతుందో రూపొందిస్తుంది. స్వతంత్ర పర్యవేక్షణ ప్రామాణిక అంచనాగా మారితే, ల్యాబ్లు తమ బాహ్య మూల్యాంకనకర్తల విశ్వసనీయతపై పోటీ పడవచ్చు. అస్థిరత వాదన బలం పుంజుకుంటే, నెమ్మదింపుల కోసం పిలుపులు ఇప్పటికే తమ స్వంత పరిమితులతో కట్టుబడి ఉన్న వ్యవస్థలపై అనవసరమైన బ్రేక్లుగా పునర్నిర్మించబడవచ్చు.
- ఆల్ట్మన్, మస్క్, హస్సాబిస్లు AI ల్యాబ్లలో స్వతంత్ర పర్యవేక్షణ కోసం అమోడేయి పిలుపుకు ఒక్కొక్కరు పాక్షికంగా మద్దతు ఇచ్చారు.
- AI ల్యాబ్లు స్వతంత్రంగా మూల్యాంకనం చేయబడాలని ఆల్ట్మన్ మరియు అమోడేయి ఏకీభవిస్తున్నట్లు నివేదించబడింది.
- భద్రతా ఆందోళనలను కారణంగా పేర్కొంటూ OpenAI ఈ సంవత్సరం పబ్లిక్గా వెళ్లదని ఆల్ట్మన్ ఫార్చ్యూన్కు చెప్పారు, ఈ నిర్ణయాన్ని జూన్లో అంతర్గతంగా తెలియజేశారు.
- అభ్యర్థి సంక్షిప్త పత్రం పోటీ ఆర్థిక పఠనాన్ని కూడా గుర్తిస్తుంది: OpenAI యొక్క సంఖ్యలు ప్రస్తుతం IPOకి మద్దతు ఇవ్వకపోవచ్చు, ముఖ్యంగా ఆంత్రోపిక్తో పోలిస్తే.
- స్వీయ-ఆప్టిమైజింగ్ ఫీడ్బ్యాక్ లూప్లు అస్థిరంగా ఉంటాయి మరియు ఆప్టిమైజేషన్తో అంధ బిందువులు లోతుగా మారతాయి కాబట్టి RSI ఒక అమాయక ఊహ అని గూగుల్ పరిశోధకుడు పెయ్మాన్ మిలాన్ఫార్ వాదిస్తారు.
- నమ్మదగిన ఆధారాలు బెంచ్మార్క్ల నుండి కాదు, నిజ ప్రపంచం నుండి వస్తాయని మరియు స్థిరత్వం ప్రభావవంతమైన వేగ పరిమితిగా పనిచేస్తుందని మిలాన్ఫార్ వాదిస్తారు.
ప్రస్తుతానికి, అత్యంత పరిణామాత్మకమైన పరిణామం, ఒకప్పుడు పర్యవేక్షణ ప్రతిపాదనలను కొట్టిపారేసిన నాయకులకు మరియు వాటిని సమర్థించిన నాయకులకు మధ్య ఉన్న అంతరం తగ్గడం కావచ్చు. స్వతంత్ర మూల్యాంకనం ఇకపై అంచు డిమాండ్ కాదు. ఇది OpenAI నుండి ఆంత్రోపిక్ వరకు, మస్క్ యొక్క దీర్ఘకాలిక హెచ్చరికల నుండి హస్సాబిస్ యొక్క పరిశోధన నేపథ్యం వరకు — అత్యాధునిక స్థాయిలోని వ్యక్తులు కనీసం పాక్షికంగా ఆమోదించగల స్థానం. మిగిలిన ప్రశ్నలు సంస్థాగత రూపకల్పన, అమలు, మరియు IPOని ఆలస్యం చేయడానికి భద్రతా కారణం ఒక శాశ్వత వ్యూహాన్ని ప్రతిబింబిస్తుందా లేదా సౌకర్యవంతమైన కథనాన్ని ప్రతిబింబిస్తుందా అనే దాని గురించి. వేగ పరిమితి చర్చలో ఏ వైపు గెలిచినా, ఆ ప్రశ్నలు పరిశ్రమను దాని తదుపరి దశలోకి అనుసరిస్తాయి.
ఈ వ్యాసం The Decoder నివేదికపై ఆధారపడి ఉంది. అసలు వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com
