OpenAI మిలీనియం ప్రూఫ్ వివాదం AI పరిశోధనపై నమ్మకం గురించి క్లిష్టమైన ప్రశ్నలను లేవనెత్తుతుంది

ఒక AI ల్యాబ్ మిలీనియం సమస్యను వెంబడించినప్పుడు

ఈ వివాదం ఒక అసాధారణ వాదనతో ప్రారంభమైంది: ఒక AI వ్యవస్థ నావియర్-స్టోక్స్ సమీకరణాలకు ఒక రుజువును రూపొందించింది, ఇది క్లే గణిత సంస్థ యొక్క ఏడు మిలీనియం సమస్యలలో ఒకటి మరియు దశాబ్దాలుగా గణిత శాస్త్రవేత్తలను నిరోధించిన సవాలు. ఈ ఘటన AI-సహాయ పరిశోధనకు ఒక మైలురాయిగా ఉండాల్సింది. బదులుగా, ఇది స్వతంత్ర పరిశోధకులు మరియు వాటిని అభివృద్ధి చేయడానికి ఉపయోగించే అల్గారిథమ్లు మరియు ప్లాట్ఫారమ్లను నియంత్రించే శక్తివంతమైన ల్యాబ్ల మధ్య ఆలోచనలు ఎలా కదులుతాయనే దాని గురించి ఒక హెచ్చరిక కథగా మారింది.

అన్ని ప్రధాన పక్షాలు ఇప్పుడు బహిరంగ ప్రకటనలు చేశాయి, మరియు ఖాతాలు తీవ్రంగా విభేదిస్తున్నాయి. కేంద్రంలో గణిత శాస్త్రవేత్త ట్రిస్టన్ బక్మాస్టర్ ఉన్నారు, అతను లెవెంట్ అల్పోజ్తో కలిసి అతను అనుసరిస్తున్న పరిశోధన ప్రాజెక్ట్ గురించి తెలుసుకున్న తర్వాత OpenAI దుర్వినియోగంలో పాల్గొందని ఆరోపించారు. OpenAI అత్యంత తీవ్రమైన ఆరోపణలను ఖండించింది, కానీ ప్రత్యర్థి ల్యాబ్ ఆంత్రోపిక్ యొక్క మోడల్స్ సాధించిన వాటి గురించిన పుకార్ల ద్వారా దాని చర్యలు రూపొందించబడ్డాయని అంగీకరించింది.

ఒత్తిడి మరియు సాహిత్య దొంగతనం ఆరోపణలు

బక్మాస్టర్ తన విమర్శలో అసాధారణంగా సూటిగా ఉన్నారు. OpenAI తాను మరియు అల్పోజ్ OpenAI యొక్క కోడెక్స్ వాతావరణంలో అప్లోడ్ చేసిన డ్రాఫ్ట్ల నుండి మెటీరియల్ను తీసుకుందని, పరిశోధన ప్రక్రియలో తనపై ఒత్తిడి తెచ్చిందని, అల్పోజ్ ఆంత్రోపిక్లో పనిచేస్తున్నందున అతన్ని సహ-రచయితగా తొలగించడానికి ప్రయత్నించిందని మరియు తన వృత్తికి పరిణామాలతో బెదిరించిందని ఆయన అన్నారు. బక్మాస్టర్ దృష్టిలో, ఈ ప్రవర్తన సంపూర్ణ విద్యాపరమైన దుర్వినియోగానికి సమానం.

ఒత్తిడి ఆరోపణను బయటి నుండి ధృవీకరించడం అసాధ్యం. డాక్యుమెంట్ చేయగలిగేది ఏమిటంటే, OpenAI ఆంత్రోపిక్ యొక్క మోడల్స్ మిలీనియం సమస్యను పరిష్కరించాయనే పుకార్లను విన్నది మరియు దాని స్వంత అంగీకారం ప్రకారం, దాని వనరులను అదే లక్ష్యం వైపు మళ్లించింది. OpenAI CEO సామ్ ఆల్ట్మాన్ మరియు పరిశోధకుడు సెబాస్టియన్ బుబెక్ సాహిత్య దొంగతనాన్ని ఖండించారు. పుకారు ప్రచారం అయిన తర్వాత వారి బృందం ప్రత్యేకంగా ఈ సమస్య కోసం ఒక మోడల్ను అభివృద్ధి చేసిందని వారు అంగీకరించారు, కానీ కంపెనీ ఫలితం బక్మాస్టర్ మరియు అల్పోజ్ నుండి ఎత్తివేయబడిందనే సూచనను వారు తిరస్కరించారు.

ఒకే పని యొక్క రెండు చాలా భిన్నమైన సంస్కరణలు

విభేదం యొక్క సాంకేతిక ప్రధానాంశం వాస్తవికత. OpenAI తన పరిష్కారం గణిత శాస్త్రవేత్తల పని నుండి గణనీయంగా భిన్నంగా ఉందని నిర్వహిస్తుంది. బక్మాస్టర్ మరియు అల్పోజ్ అంగీకరించలేదు. వారు ఇదే విధమైన విధానాన్ని OpenAI యొక్క సిస్టమ్లలోకి ప్రవేశించారని మరియు ఆ ఇన్పుట్ శిక్షణ డేటాలో ముగిసిందని వారు అనుమానిస్తున్నారు. అది నిజమైతే, కంపెనీ తన పోటీదారులను అధిగమించి, ఆ పోటీదారులు తమ అభివృద్ధి సాధనాలకు అప్పగించిన ఆలోచనలను ఉపయోగించి వేగవంతం చేసి ఉండవచ్చు.

ఆ అవకాశం ఒక సాధారణ కారణంతో ముఖ్యమైనది: పరిశోధకులు సాధారణంగా తమ ప్రచురించని పనిని పోటీదారుడికి శిక్షణ కోసం సమర్పించరు. కానీ AI ల్యాబ్లు కోడింగ్ సహాయకులు మరియు క్లౌడ్ ప్లాట్ఫారమ్లను అందించినప్పుడు, వినియోగదారులు తమ అత్యంత ఆశాజనకమైన మేధో సంపత్తిని నేరుగా ల్యాబ్ యొక్క స్వంత మోడల్లను మెరుగుపరిచే వ్యవస్థలోకి అందిస్తూ ఉండవచ్చు. సాధనాన్ని ఉపయోగించడం మరియు పరిశోధనను దానికి అప్పగించడం మధ్య సరిహద్దును పర్యవేక్షించడం కష్టమవుతుంది.

శిక్షణ డేటా ప్రశ్నకు సమాధానం లేదు

OpenAI ఉద్యోగులు కంపెనీ సమర్పించిన పరిష్కారాలపై శిక్షణ పొందే అవకాశం తక్కువగా ఉందని, ప్రత్యేకించి ఇద్దరు పరిశోధకులు వారి ఇన్పుట్లను శిక్షణ కోసం ఉపయోగించడానికి అనుమతించే ఎంపికను నిలిపివేసినట్లయితే, ఎత్తి చూపారు. వారు అలా చేశారో లేదో బహిరంగంగా తెలియదు. శాస్త్రీయ దృక్కోణం నుండి, ఆ అనిశ్చితి ఖచ్చితంగా ఈ వివాదాన్ని ప్రమాదకరంగా చేస్తుంది. ఈ రకమైన ఆరోపణను స్వతంత్రంగా పరిశోధించలేనప్పుడు, పరిశోధకులు తమ శిక్షణ పైప్లైన్ను బాహ్య తనిఖీకి తెరవడానికి చట్టపరమైన బాధ్యత లేని కార్పొరేషన్ మాటపై ఆధారపడతారు.

OpenAI పరిశోధకుడు బోఅజ్ బరాక్, మోడల్కు బయటి సహాయం అవసరం లేదనే ఆలోచనను తిప్పికొట్టారు. అతని కథనంలో, మోడల్ తెలిసిన వాదనను పునరుత్పత్తి చేయలేదు; ఇది గణిత శాస్త్రవేత్తలు చేసిన దానికంటే బలమైన వాదనను నిరూపించడం ద్వారా ప్రారంభమైంది. అలా సూచించడం, అతని అభిప్రాయంలో, వాస్తవిక అంచనా కంటే కోపింగ్. అయినప్పటికీ, ఈ రక్షణ మూలం యొక్క లోతైన ప్రశ్నను పరిష్కరించడానికి చాలా తక్కువ చేస్తుంది. అంతిమంగా పరిశోధకుల పనిని అధిగమించిన మోడల్ కూడా వారి డ్రాఫ్ట్లచే ప్రభావితమై ఉండవచ్చు. శాస్త్రీయ సమగ్రత అనేది అవుట్పుట్ కాపీ చేయబడిందా అనే దాని గురించి మాత్రమే కాదు; అనుమతి లేకుండా ఒక ఆలోచన తీసుకోబడిందా అనే దాని గురించి కూడా ఇది సమానంగా ఉంటుంది.

టెరెన్స్ టావో నుండి ఒక హెచ్చరిక

అత్యంత తీవ్రమైన ప్రతిస్పందనలలో ఒకటి గణిత శాస్త్రవేత్త టెరెన్స్ టావో నుండి వచ్చింది. భవిష్యత్తులో ఇలాంటి సంఘటనలు స్వతంత్ర గణిత శాస్త్రవేత్తలను అసాధ్యమైన స్థితిలో ఉంచవచ్చని ఆయన హెచ్చరించారు. ఒక పుకారు పెద్ద టెక్నాలజీ కంపెనీకి చేరుకున్నప్పుడు, ఆ కంపెనీ కొన్ని రోజుల్లో గణనీయమైన కంప్యూట్ మరియు ప్రతిభను సమీకరించగలదు. ఒక చిన్న విద్యావేత్తల బృందం ఆ వేగాన్ని అందుకోలేదు, ప్రత్యేకించి పుకారు వారి స్వంత ప్రచురించని పనిపై ఆధారపడి ఉంటే. ఫలితంగా, AI ల్యాబ్లు మంచి చెవులు మరియు పెద్ద యంత్రాలను కలిగి ఉన్నందున సాధారణంగా అసలైన పరిశోధన ప్రాజెక్టులను అధిగమించవచ్చు.

టావో యొక్క హెచ్చరిక తక్షణ వివాదానికి మించి విస్తరించింది. ఇది సైన్స్లో అభివృద్ధి చెందుతున్న అసమతుల్యతను సూచిస్తుంది: అత్యంత శక్తివంతమైన మోడల్లను సృష్టించే సమూహాలు ప్రారంభ ఫలితాల గురించి వినడానికి, వాటిని శిక్షణ రన్లలోకి అనుసంధానించడానికి మరియు మొదట ప్రచురించడానికి ఉత్తమ స్థితిలో ఉన్నాయి. విద్యాపరమైన ప్రోత్సాహకాలు ప్రాధాన్యత మరియు బహిరంగత చుట్టూ నిర్మించబడ్డాయి, కానీ ఒక ప్రత్యర్థి సమ్మతి లేకుండా బహిర్గతం కాని డేటాను గ్రహించగలిస్తే ఆ ప్రోత్సాహకాలు అర్థరహితంగా మారతాయి.

ఓపెన్ సైన్స్కు దీని అర్థం ఏమిటి

నావియర్-స్టోక్స్ వివాదం కేవలం ఇద్దరు వ్యక్తులు మరియు ఒక ల్యాబ్ మధ్య వివాదం కాదు. ఇది AI అభివృద్ధి మరియు ఓపెన్ రీసెర్చ్ మధ్య సంబంధం గురించి ప్రాథమిక ప్రశ్నలను లేవనెత్తుతుంది.

• పరిశోధకులు తమ ప్రచురించని ఆలోచనలను కంపెనీ శిక్షణ డేటా నుండి దూరంగా ఉంచుతూ AI కోడింగ్ ప్లాట్ఫారమ్లను సురక్షితంగా ఉపయోగించగలరా? చాలా మంది వినియోగదారులు అటువంటి రక్షణలు ప్రభావవంతంగా ఉన్నాయని ధృవీకరించడానికి మార్గం లేదు.
• AI ల్యాబ్లు మరొక సంస్థ నుండి గోప్యమైన లేదా పుకారు పని ఆధారంగా తమ పరిశోధన ప్రయత్నాలను మళ్లించడానికి అనుమతించాలా, ప్రత్యేకించి పుకారు వారి స్వంత సాధనాల నుండి ఉద్భవించినప్పుడు?
• సహ-రచయిత పోటీ ల్యాబ్లో పనిచేస్తున్నప్పుడు, ఆ వాస్తవం రచయితత్వాన్ని ప్రభావితం చేయాలా? బక్మాస్టర్ OpenAI ఆ కారణంగా అల్పోజ్ను కాగితం నుండి తొలగించడానికి ప్రయత్నించిందని చెప్పారు, అయితే కంపెనీ దుర్వినియోగాన్ని ఖండించింది కానీ దాని రచయిత విధానాన్ని స్పష్టం చేయలేదు.
• సాహిత్య దొంగతనం ఆరోపించినప్పుడు శిక్షణ డేటా మరియు మోడల్ బరువులకు ఎవరికి ప్రాప్యత ఉండాలి? ప్రస్తుత వివాద పరిష్కార విధానాలు బాహ్య ఆడిటర్లకు స్పష్టమైన మార్గాన్ని అందించవు.
• యువ పరిశోధకులు తమ పనిని మరింత శక్తివంతమైన నటుడు గని చేస్తారని భయపడితే ప్రారంభ ఫలితాలను పంచుకునే ఫీల్డ్ యొక్క సుముఖతకు ఏమి జరుగుతుంది?

ఇవి నైరూప్య ఆందోళనలు కావు. ఈ వివాదం AI కంపెనీలు తటస్థ శాస్త్రీయ భాగస్వాములుగా పనిచేయగలవనే ఆలోచనపై నమ్మకాన్ని ఇప్పటికే దెబ్బతీసింది. నావియర్-స్టోక్స్పై ఆసక్తి లేని పరిశోధకులు కూడా AI ల్యాబ్ నిర్వహించే ప్లాట్ఫారమ్కు ఆశాజనకమైన లెమ్మా లేదా ప్రచురించని పద్ధతిని అప్లోడ్ చేయడానికి సహేతుకంగా వెనుకాడవచ్చు.

నమ్మకాన్ని ఊహించలేము

OpenAI మరియు దాని రక్షకులు ఎటువంటి దుర్వినియోగం జరగలేదని చెప్పడం సరైనదే కావచ్చు. అందుబాటులో ఉన్న సాక్ష్యం అసంపూర్ణంగా ఉంది మరియు అమాయకమైన యాదృచ్చికం అవకాశం నిజమైనది. కానీ ఈ ఘటన బాధ్యతాయుతమైన AI పరిశోధన ఎలా ఉండాలనే దానికి బార్ను పెంచింది. గణిత శాస్త్రవేత్తల కోసం సాధనాలను అభివృద్ధి చేసే ల్యాబ్ వారి పనిని ఉపయోగించకూడదనే అస్పష్టమైన వాగ్దానంపై ఆధారపడదు. పారదర్శక డేటా-నిర్వహణ విధానాలు మరియు స్వతంత్ర ఆడిట్ యంత్రాంగాల ద్వారా, వినియోగదారు సహకారాలు సమ్మతి లేకుండా భవిష్యత్తు మోడళ్లలో కనిపించవని ప్రదర్శించాలి.

విస్తృత పాఠం ఏమిటంటే, శాస్త్రవేత్తలు మరియు AI ల్యాబ్లు వేర్వేరు తర్కాలతో పనిచేస్తాయి. విద్యావేత్తలు జ్ఞానాన్ని నిర్మించడానికి పంచుకుంటారు; కంపెనీలు ప్రయోజనాన్ని పెంచుకోవడానికి పంచుకుంటాయి. రెండు వ్యవస్థలు ఢీకొన్నప్పుడు, బలహీనమైన వైపు సాధారణంగా కార్పొరేట్ గోడల వెలుపల ఉన్న పరిశోధకుడు. నావియర్-స్టోక్స్ వివాదం దానిని ప్రేరేపించిన గణిత విజయానికి మాత్రమే కాకుండా, జనరేటివ్ AI యుగంలో ఓపెన్ సైన్స్ యొక్క దుర్బలత్వం గురించి అది వెల్లడించిన దానికి కూడా గుర్తుంచబడుతుంది. త్వరలో స్పష్టమైన నిబంధనలు స్థాపించబడకపోతే, తదుపరి మిలీనియం సమస్య బ్లాక్బోర్డ్పై ఒంటరి గణిత శాస్త్రవేత్తచే కాకుండా, ప్రశ్న ప్రచురించబడకముందే సమాధానాన్ని చూసిన కార్పొరేట్ బృందంచే పరిష్కరించబడవచ్చు.

ఈ వ్యాసం ది డీకోడర్ యొక్క రిపోర్టింగ్ ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.