ముగ్గురు AI భద్రతా పరిశోధకులను తొలగించడంపై OpenAI వెనక్కి తగ్గడం లేదు

OpenAI వెనక్కి తగ్గడానికి నిరాకరిస్తోంది

AI భద్రతపై పనిచేసిన ముగ్గురు పరిశోధకులను తొలగించాలనే తన నిర్ణయంపై OpenAI స్థిరంగా ఉంది. ఫ్రాంటియర్ మోడల్ ప్రమాదంపై కంపెనీ వైఖరిపై ఆందోళనలు వ్యక్తం చేసినందుకు ప్రతీకారంగా ఈ తొలగింపులు జరిగాయనే వాదనను అది తిరస్కరించింది. The Verge నివేదిక ప్రకారం, అంతర్గత విచారణలో వారు కంపెనీ వర్ణించిన "గణనీయమైన విశ్వాస భంగం" చేసినట్లు తేలిన తర్వాత జాస్మిన్ వాంగ్, టోమెక్ కోర్బాక్ మరియు మికితా బలేస్నీలను తొలగించినట్లు ల్యాబ్ శుక్రవారం Xలో ఒక ప్రకటన విడుదల చేసింది.

కంపెనీ మరియు దాని మాజీ ఉద్యోగుల మధ్య అసాధారణంగా బహిరంగంగా జరుగుతున్న ఈ వివాదం నేపథ్యంలో ఈ ప్రకటన వచ్చింది. AI ల్యాబ్లు తమ అత్యంత క్లిష్టమైన భద్రతా సమస్యలపై పనిచేస్తున్న వ్యక్తులకు ఎంత పారదర్శకత అందించాలనే విస్తృత చర్చలో ఇది వేగంగా ఒక కేంద్ర బిందువుగా మారింది.

OpenAI చెప్పినది ఏమిటి

Xలోని తన పోస్ట్లో, "సున్నితమైన సమాచారాన్ని నిర్వహించడంపై స్పష్టమైన విధానాలను" ఉల్లంఘించినందుకు ఆ ముగ్గురు పరిశోధకులను తొలగించినట్లు OpenAI పేర్కొంది. భద్రతా తత్వశాస్త్రంపై భేదాభిప్రాయం కాకుండా, అంతర్గత నియమాల ప్రశ్నగానే ఈ విషయాన్ని కంపెనీ చిత్రీకరించింది.

కంపెనీ గురించి లేదా AI భద్రతపై వారి ఆందోళనల గురించి ఆ ముగ్గురు బహిరంగంగా మాట్లాడినందుకు ఈ తొలగింపులు జరిగాయనే భావనను OpenAI నేరుగా తిరస్కరించింది. సంస్థ లోపల రక్షిత న్యాయవాదానికి, తాను విధాన ఉల్లంఘనగా భావించే ప్రవర్తనకు మధ్య స్పష్టమైన గీత గీయాలని ల్యాబ్ కోరుకుంటోంది — ఈ వాదన కంపెనీ సందేశంలో కేంద్రమైనది.

పరిశోధకులు ప్రచురించిన లేఖలో "వివరించిన దానికంటే మించిన" ఉల్లంఘనలను తమ అంతర్గత విచారణ వెల్లడించిందని కంపెనీ తెలిపింది, కానీ వివరాలు ఇవ్వడానికి నిరాకరించింది. ఈ వివరాల లోపం OpenAI చెప్పేదానికి, ప్రజలు స్వతంత్రంగా ధృవీకరించగలిగే దానికి మధ్య గణనీయమైన అంతరాన్ని మిగిల్చింది.

పరిశోధకుల బహిరంగ లేఖ

గురువారం ఆ ముగ్గురు ప్రచురించిన బహిరంగ లేఖకు కంపెనీ పోస్ట్ నేరుగా స్పందనగా వచ్చింది. తమ తొలగింపులకు గల కారణాలపై OpenAI మరింత పారదర్శకంగా ఉండాలని ఆ లేఖలో కోరారు. ఆ లేఖలో మరియు దానితో పాటు వచ్చిన సోషల్ మీడియా పోస్ట్ల శ్రేణిలో, భద్రతా ఆందోళనలు వ్యక్తం చేసినందుకే తమను తొలగించారని తాము భావిస్తున్నట్లు వాంగ్, కోర్బాక్ మరియు బలేస్నీ తెలిపారు.

తమ ప్రవర్తన సరైనదేనని కూడా వారు వాదించారు. తాము "OpenAI మిషన్కు అనుగుణంగా మరియు ఆ సమయంలోని పని నియమాల పరిధిలో" వ్యవహరించామని పేర్కొన్నారు. ఇది ఏ ఒక్క సంఘటన గురించే కాకుండా ప్రక్రియ మరియు సంస్కృతి గురించి కూడా మాట్లాడే రక్షణ: వారు ఏమి చేసినా, సంస్థ ఆ సమయంలో పనిచేస్తున్న ప్రమాణాల పరిధిలో దాన్ని ఆమోదయోగ్యమనే భావించారనే సూచన ఇందులో ఉంది.

దీని ఫలితంగా ఒకే సంఘటనల క్రమాన్ని ఇరు పక్షాలు పూర్తిగా భిన్నమైన పదాల్లో వివరించే ప్రతిష్ఠంభన ఏర్పడింది. OpenAI ఈ విషయాన్ని గోప్యత మరియు విశ్వాసానికి సంబంధించినదిగా వర్ణిస్తే, తొలగించబడిన పరిశోధకులు దీన్ని భద్రతా న్యాయవాదానికి శిక్ష విధించడంగా వర్ణిస్తున్నారు.

భద్రతా వివాదం కాదు, "విశ్వాస భంగం"

OpenAI చేస్తున్న ఈ వ్యత్యాసం ముఖ్యమైనది. సున్నితమైన సమాచార విధానాల ఉల్లంఘనల వల్లే ఈ తొలగింపులు జరిగి ఉంటే, ఇది సాంప్రదాయక ఉద్యోగ మరియు గోప్యతా వివాదం — అయినా ఎక్కడో అభివృద్ధి చేయబడుతున్న అత్యంత ప్రభావవంతమైన సాంకేతికతలలో ఒకటి ఇందులో ఉంది. పరిశోధకుల భద్రతా ఆందోళనల కంటెంట్ వల్లే అవి జరిగి ఉంటే, AI ప్రయోగశాలలు అంతర్గత విమర్శను ఎలా పరిగణిస్తాయనే దానిపై ప్రభావాలు చాలా విస్తృతంగా ఉంటాయి.

OpenAI అంతర్లీన ఆధారాలను బహిర్గతం చేయనందున, బయటి నుండి ఏ వ్యాఖ్యానాన్ని పూర్తిగా ధృవీకరించలేము. లేఖలో వివరించిన దానికంటే మించిన ఉల్లంఘనలు విచారణలో తేలాయని కంపెనీ పట్టుబట్టడం సమర్థనగానూ, తదుపరి పరిశీలనకు వ్యతిరేకంగా కవచంగానూ పనిచేస్తుంది.

భద్రతా సిబ్బంది ఎందుకు నిశితంగా గమనిస్తున్నారు

AI కంపెనీలు నిర్మిస్తున్న వ్యవస్థల ప్రమాద స్వరూపంపై అంతర్గత ఆందోళనలు తీవ్రమైన సమయంలో ఈ తొలగింపులు జరిగాయి. గత సంవత్సరంలో జరిగిన అనేక ప్రముఖ భద్రతా ఉల్లంఘనల వల్ల కొంతవరకు నడిచిన ఈ ఆందోళనలు, ఫ్రాంటియర్ వ్యవస్థల భద్రతపై సిబ్బందిలో పెరుగుతూ వచ్చాయి — వాటిలో అత్యంత ప్రముఖంగా, OpenAIతో అనుసంధానించబడిన Hugging Faceకు సంబంధించిన ఉల్లంఘన ఒకటి.

ఆ వాతావరణం అంతర్గత భావనలో స్పష్టమైన మార్పును తీసుకొచ్చింది. అభివృద్ధి వేగాన్ని తగ్గించాలని, స్వయం-మెరుగుపరచుకునే వ్యవస్థలను నిర్మించడం వల్ల కలిగే సంభావ్య పరిణామాలకు వ్యతిరేకంగా రక్షణలపై ఎక్కువ పెట్టుబడి పెట్టాలని ఇప్పుడు అనేక మంది ఉద్యోగులు తమ యజమానులను కోరుతున్నారు. భద్రతా పనిపై నేరుగా బాధ్యత ఉన్న పరిశోధకులే మాట్లాడటం ప్రమాదకరమని నిర్ణయించుకుంటే, ఇతరులు హెచ్చరికలు చేయడానికి ఉన్న సుముఖత కూడా క్షీణించవచ్చు.

ఫ్రాంటియర్ AIకు విస్తృత పందెం

విస్తృత పరిశ్రమకు, ఈ సంఘటన చట్టబద్ధమైన అంతర్గత భిన్నాభిప్రాయానికి, కంపెనీలు నియంత్రించడానికి అర్హత కలిగిన ప్రవర్తనకు మధ్య సరిహద్దు ఎక్కడ ఉందనే అసౌకర్యకరమైన ప్రశ్నలను లేవనెత్తుతుంది. AI ప్రయోగశాలలు విశ్వాసంపై ఆధారపడతాయి — ప్రజల నుండి మరియు వాటి పనిని చుట్టుముట్టే నియంత్రకుల నుండి — మరియు భద్రత పట్ల వాటి నిబద్ధతల విశ్వసనీయతపై ఆధారపడతాయి.

యజమాని గోప్యతను ప్రస్తావించే, మాజీ ఉద్యోగులు భద్రతా ఆందోళనలను ప్రస్తావించే వివాదాన్ని కేవలం ప్రకటనల ద్వారా పరిష్కరించడం కష్టం. ఇది అంతర్గత సమీక్ష ప్రక్రియల పరిశీలనకు ఆహ్వానం పలుకుతుంది: వాటిని ఎవరు నిర్వహిస్తారు, ఏ ప్రమాణాలను వర్తింపజేస్తారు, మరియు ఫలితాలు ప్రభావితులకు ఎలా తెలియజేయబడతాయి.

పరిష్కరించబడనివి

• సున్నితమైన సమాచారంపై తన విధానాలను ఉల్లంఘించినట్లు తాను చెప్పే ప్రవర్తనను OpenAI వివరించలేదు.
• భద్రతా ఆందోళనలు వ్యక్తం చేసినందుకే తమను తొలగించారని, తమ ప్రవర్తన ఆ సమయంలోని పని నియమాలకు అనుగుణంగా ఉందని ఆ ముగ్గురు పరిశోధకులు వాదిస్తున్నారు.
• బహిరంగ లేఖలో వివరించిన దానికంటే మించిన ఉల్లంఘనలు తమ విచారణలో తేలాయని కంపెనీ చెబుతోంది, కానీ ఎటువంటి వివరాలు ఇవ్వలేదు.
• అంతర్లీన ఆధారాలను ఏ మూడవ పక్షం సమీక్షించినట్లు ప్రదర్శించబడలేదు.

ఇరు పక్షాలు బహిరంగంగా తమ స్థానాలను కలిగి ఉన్నందున, వాస్తవాల విషయంలో ఎవరు సరైనవారనే దానిపై కంటే, విస్తృత AI సమాజం ఈ సంఘటనను ఎలా అర్థం చేసుకుంటుందనే దానిపై ఆచరణాత్మక ఫలితం ఆధారపడవచ్చు. ఫ్రాంటియర్ మోడల్ అభివృద్ధిపై సందేహాలు వ్యక్తం చేయాలా వద్దా అని ఆలోచిస్తున్న పరిశోధకులకు, ఈ తొలగింపులు పంపే సంకేతం OpenAIలో మరియు సహచర ప్రయోగశాలల్లో కొంతకాలం పాటు అంతర్గత సంస్కృతిని రూపొందించగలదు.

ఈ వ్యాసం The Verge నివేదిక ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.