ఓపెన్‌ఏఐ భద్రతా నివేదిక రచయిత రాజీనామా, ఏఐ సంస్కృతి 'విరిగిపోయింది' అని హెచ్చరిక

ఓపెన్‌ఏఐ భద్రతా రచయిత వైదొలగడం

సంవత్సరాలుగా, ఓపెన్‌ఏఐ యొక్క అతిపెద్ద మోడల్ విడుదలలతో పాటు వచ్చే భద్రతా పత్రాలను తయారు చేసిన వ్యక్తులలో డేవిడ్ రాబిన్సన్ ఒకరు. ఆ నివేదికలు ప్రయోగశాలకు, బయటి ప్రపంచానికి మధ్య వంతెనగా ఉండేలా రూపొందించబడ్డాయి — కొత్త వ్యవస్థ ఏమి చేయగలదు, దాని పరిమితులు ఎక్కడ ఉన్నాయి, వినియోగదారులకు చేరే ముందు ఏ రక్షణలు ఉన్నాయి అనే విషయాల లిఖిత వర్ణన. ఈ వారం, రాబిన్సన్ ఆ పాత్ర నుండి రాజీనామా చేశారు, నిశ్శబ్దంగా వెళ్లిపోకుండా, ది అట్లాంటిక్‌లో ఒక సంపాదకీయం ద్వారా తన వాదనను బహిరంగంగా వెల్లడించారు.

ఓపెన్‌ఏఐకి మరికొన్ని పేజీల అంతర్గత విధానం అవసరమని ఆయన అనడం లేదు. ఫ్రాంటియర్ ఏఐ పరిశ్రమలో నెలకొన్న సంస్కృతి ప్రాథమికంగా విరిగిపోయింది — మరియు దాన్ని సరిచేయడానికి కొత్త నియమాలు లేదా వ్యాపారానికి జోడించిన నియంత్రణ చెక్‌లిస్ట్‌ల కంటే చాలా లోతైనది అవసరమని ఆయన వాదిస్తున్నారు.

రాబిన్సన్ వివరించిన సంస్కృతి సమస్య

ఒక తరం పాటు సిలికాన్ వ్యాలీని రూపొందించిన అలవాట్ల సమూహాన్ని రాబిన్సన్ ఎత్తి చూపుతున్నారు: ఆయన వివరించిన విధంగా తీవ్రమైన ఆత్మవిశ్వాసం, నిరంతర స్ప్రింట్‌ల చక్రం, మరియు ప్రతి కొత్త మోడల్‌ను నిస్సందేహమైన ముందడుగుగా భావించే అడ్డంకులు లేని ఆశావాదం. ఆ వాతావరణంలో, సంభావ్య హానులు కొలవబడకుండా, తగ్గించబడకుండా, నిర్లక్ష్యం చేయబడతాయి లేదా ఊహించబడతాయి.

ఆ చట్రం ముఖ్యమైనది ఎందుకంటే అది చర్చ యొక్క స్వరూపాన్ని మారుస్తుంది. సమస్య ఒకే ఒక చెడు నిర్ణయం లేదా తక్కువ వనరులున్న ఒక బృందం అయితే, లక్ష్యంగా చేసిన జోక్యం సరిపోవచ్చు. కానీ పరిశ్రమ యొక్క అంతర్లీన మనోభావమే సమస్య అయితే, పరిష్కారం ఈ కంపెనీలు తమ స్వీయ పతనశీలత గురించి ఎలా ఆలోచిస్తాయో మార్చడంలో ఉండాలి — బాహ్య నియమావళి ఏదీ దాన్ని కేవలం ఆదేశించలేదు.

రాబిన్సన్ సూచించే మార్గం వినయంతో ప్రారంభమవుతుంది. ఏఐ కంపెనీలు తాము పెరిగిన సంకుచిత, వేగంగా కదలండి-విషయాలు విరగ్గొట్టండి ప్రపంచాన్ని దాటి చూడాలని, మరియు తాము పూర్తిగా తొలగించలేని ప్రమాదాన్ని నిర్వహించడం ఎలాగో దశాబ్దాలుగా నేర్చుకున్న రంగాల నుండి వివేచనను అరువు తెచ్చుకోవాలని ఆయన వాదిస్తున్నారు.

అణు కేంద్రాలు, విమానాశ్రయాలు, మరియు పునరావృత్తి కోసం వాదన

రాబిన్సన్ వాదనలో అత్యంత స్పష్టమైన భాగం, ఫ్రాంటియర్ ప్రయోగశాలలు ఎలా పనిచేయాలి అనే దానికి ఆయన ఇచ్చిన ఉపమానం. ప్రమేయంలో ఉన్న ప్రమాదాల స్థాయిని బట్టి, అవి ప్రయోగ తేదీని వెంబడించే స్టార్టప్‌లలా కాకుండా అణు విద్యుత్ కేంద్రాలు లేదా రద్దీగా ఉండే విమానాశ్రయాలలా నడపాలని ఆయన వాదిస్తున్నారు.

అవి విపత్కర నష్టాన్ని సమాజం ఇప్పటికే విశ్వసించే సంస్థలు. మనుషులు తప్పులు చేస్తారనే ఊహపై అవి రూపొందించబడ్డాయి, మరియు అప్పుడప్పుడు తప్పనిసరిగా జరిగే లోపం విపత్తుకు దారి తెరవకుండా ఉండేందుకు పునరావృత్తి పొరలు మరియు ఉద్దేశపూర్వకంగా సమయం తీసుకునే ప్రణాళికతో నిర్మించబడ్డాయి. లక్ష్యం ఏ ఒక్క ఆపరేటర్ నుండి నిష్కళంక ప్రదర్శన కాదు, తప్పులు తిరుగులేని దానిగా మారే ముందు వాటిని గ్రహించే వ్యవస్థ.

ఏఐ అభివృద్ధికి అనువదించినప్పుడు, ఆ తర్కం నెమ్మదిగా విడుదల చక్రాలు, బహుళ స్వతంత్ర సమీక్షా మార్గాలు, మరియు పరిశ్రమ ప్రస్తుతం పూర్తి వ్యర్థంగా భావించే సమయాన్ని ఖర్చు చేసే సుముఖతను సూచిస్తుంది. భద్రతా పని నిర్మాణం ముగింపులో తయారయ్యే పత్రం కాదు, ప్రారంభం నుండి నిర్మాణం ఎలా నిర్వహించబడుతుందనే దాని నిర్మాణాత్మక లక్షణం అని కూడా ఇది సూచిస్తుంది.

కేవలం నియమాలు ఎందుకు సరిపోకపోవచ్చు

రాబిన్సన్ ప్రధాన వాదన ఏమిటంటే, శిక్షణ పరుగులు ఎలా నిర్వహించబడతాయనే దానిపై కొన్ని కొత్త నిబంధనలు విధించడం కంటే ఇది లోతైన సమస్య. నియమాలు అంచులలో ప్రవర్తనను నియంత్రించగలవు, కానీ అవి పని చేసే వ్యక్తుల ప్రోత్సాహకాలను లేదా స్వీయ-చిత్రాన్ని అరుదుగా మారుస్తాయి. తాము ప్రపంచాన్ని కాపాడుతున్నామని నమ్మే కంపెనీ, ఘర్షణగా భావించే అనుపాలన అవసరం వల్ల ఎక్కువగా నెమ్మదించదు.

ఆయన వివరిస్తున్నది, ప్రభావంలో, లోపలి నుండి పరిష్కరించాల్సిన సంస్కృతి సమస్య — తాము తప్పు కావచ్చని బహిరంగంగా చెప్పగల నాయకుల ద్వారా, మరియు అలా చెప్పడం వృత్తి ఆత్మహత్య కాకుండా నిర్మించబడిన సంస్థల ద్వారా.

పెరుగుతున్న వైదొలగడాల జాబితా

రాబిన్సన్ గుర్తించదగిన నమూనాలో తాజా వ్యక్తి: ప్రముఖ ఏఐ సంస్థలను విడిచిపెట్టి, తాము చూసినదాని గురించి బహిరంగంగా మాట్లాడే పరిశోధకులు మరియు భద్రతా సిబ్బంది. ప్రస్తుత తరంగం జాకబ్ కాక్సన్ ద్వారా ప్రారంభమైనట్లు కనిపిస్తుంది, ఆయన ఆంత్రోపిక్ నుండి రాజీనామా చేసి, ఈ దశాబ్దం చివరి నాటికి ఏఐ మనల్నందరినీ చంపగలదని హెచ్చరించారు.

ఇతరులు అనుసరించారు:

• రాబర్ట్ ఓ'కల్లహాన్, బిలాల్ చుగ్తాయ్, మరియు జోష్ ఎంగెల్స్, వీరందరూ గూగుల్ డీప్‌మైండ్ నుండి వైదొలగారు.
• జో బెంటన్, ఆంత్రోపిక్ నుండి వెళ్లారు.

ప్రతి వైదొలగడం, భద్రతా దృష్టి కలిగిన వ్యక్తులను ప్రయోగశాలల నుండి బయటకు నెట్టేస్తున్న వ్యవస్థాగతమైనది ఏదో ఉందనే వాదనకు ఒక డేటా పాయింట్‌ను జోడిస్తుంది. ప్రమాదాన్ని గురించి ఆలోచించడానికి నియమించబడిన వ్యక్తులు, లోపలి నుండి ఆ పనిని సమర్థవంతంగా చేయలేమని పదేపదే నిర్ధారించుకుంటే, ఆ ఆందోళనలకు అంతర్గతంగా ఎంత ప్రాధాన్యం ఉందనే దానిపై స్పష్టమైన ప్రశ్నలు లేస్తాయి.

నిరాశావాద సమస్య

ఇదంతా ఒక న్యాయమైన అభ్యంతరం ఉంది. ఒక సాంకేతికతను నిర్మించడంలో సహాయపడిన వ్యక్తులు తిరిగి దాని గురించి హెచ్చరించినప్పుడు నిరాశావాదం అనుభూతి చెందడం సులభం — వారు ఇప్పుడు వివరిస్తున్న పరిస్థితికి దోహదపడ్డారు, మరియు వారి హెచ్చరికలు వ్యవస్థలు ఇప్పటికే అమలులోకి వచ్చిన తర్వాత వస్తాయి.

కానీ ఆ ప్రతిచర్య, ఎంత అర్థవంతమైనదైనా, వారు చెప్తున్న విషయం యొక్క సారాంశాన్ని చెల్లనిదిగా చేయదు. ఇన్సైడర్ జ్ఞానం ఈ వృత్తాంతాలను ఉపయోగకరంగా చేసేది. భద్రతా నివేదికలు రాసిన, మూల్యాంకనాలు నిర్వహించిన, మరియు విడుదల నిర్ణయాలు తీసుకునే గదులలో కూర్చున్న వ్యక్తులు, ఆ నిర్ణయాలు వాస్తవానికి ఎలా తీసుకోబడతాయో వివరించడంలో బయటి వ్యాఖ్యాతల కంటే మెరుగైన స్థానంలో ఉన్నారు.

తదుపరి మోడల్ విడుదలకు ఇది అర్థం ఏమిటి

ఆచరణాత్మక పందేలు సూటిగా ఉన్నాయి. ప్రతి ప్రధాన మోడల్ ప్రయోగం ఇప్పుడు వినియోగదారులు, సంస్థలు, మరియు నియంత్రణ సంస్థలను ఒప్పించడానికి ఉద్దేశించిన పత్రాలతో వస్తుంది. ఆ పత్రాలను రాసిన వ్యక్తి, దాన్ని ఉత్పత్తి చేసే సంస్కృతి విరిగిపోయిందని నిర్ధారించుకుంటే, మొత్తం బహిర్గత వ్యాయామం యొక్క విశ్వసనీయత ప్రశ్నార్థకమవుతుంది.

రాబిన్సన్ సమాధానం ఆ పనిని విడిచిపెట్టడం కాదు, కానీ మరింత జాగ్రత్తగల పునాదిపై దాన్ని పునర్నిర్మించడం — మానవ లోపాన్ని వివరించి తొలగించాల్సిన మినహాయింపుగా కాకుండా, చుట్టూ ఇంజనీరింగ్ చేయాల్సిన నిశ్చయతగా భావించే పునాది. ఫ్రాంటియర్ ప్రయోగశాలలు ఆ భంగిమను స్వచ్ఛందంగా స్వీకరిస్తాయా, లేక బాహ్య ఒత్తిడి బలవంతం చేసిన తర్వాతేనా అనేది ఇప్పుడు పరిశ్రమ యొక్క తదుపరి విడుదలలపై వేలాడుతున్న కేంద్ర ప్రశ్న.

ప్రస్తుతానికి, హెచ్చరికలు నిర్మాణాత్మక మార్పుల కంటే వేగంగా పోగుపడుతున్నాయి. రాబిన్సన్ రాజీనామా, సాంకేతికతకు అత్యంత సన్నిహితంగా ఉన్న వ్యక్తులు దాని విడుదల వేగంతో అత్యంత అసౌకర్యంగా ఉన్నారనే తాజా సంకేతం.

ఈ వ్యాసం ది వర్జ్ నివేదనపై ఆధారపడింది. అసలు వ్యాసం చదవండి.