AI నాయకులు DNA స్క్రీనింగ్‌ను తప్పనిసరి చేయాలని కాంగ్రెస్‌ను కోరుతున్నారు

కాంగ్రెస్ వెంటనే చర్య తీసుకోవాలని కోరుతున్న అరుదైన కూటమి

కృత్రిమ మేధస్సు మరియు విజ్ఞాన రంగాల్లో అత్యంత ప్రముఖమైన కొన్ని పేర్లు, సింథటిక్ DNA ఆర్డర్ల స్క్రీనింగ్‌ను అమెరికా ప్రభుత్వం చట్టపరంగా తప్పనిసరి చేయాలని కోరుతున్నాయి. సంతకదారుల్లో OpenAIకి చెందిన Sam Altman, Anthropicకి చెందిన Dario Amodei, Google DeepMindకి చెందిన Demis Hassabis, Microsoft AIకి చెందిన Mustafa Suleyman, అలాగే నోబెల్ బహుమతి విజేతలు David Baker మరియు Martin Hellman ఉన్నారు. వారి సందేశం స్పష్టం: వేగంగా మెరుగవుతున్న AI వ్యవస్థలు సృష్టిస్తున్న జీవ సంబంధ ప్రమాదాలు, వాటిని కేవలం స్వచ్ఛంద పరిశ్రమ పద్ధతులకే వదిలేయలేనంత తీవ్రంగా మారాయి.

అందించిన మూల పదార్థం ప్రకారం, సంతకదారులు ప్రస్తుత సమావేశంలోనే కాంగ్రెస్ చర్య తీసుకోవాలని కోరుతున్నారు. ఆ అత్యవసరత ముఖ్యమైనది. AIతో ముడిపడి ఉన్న బయోసెక్యూరిటీ హెచ్చరికలు చాలాసార్లు సైద్ధాంతికంగా లేదా దూరంగా అనిపించాయి. ఈ లేఖ మాత్రం దానికి విరుద్ధంగా వాదిస్తోంది. DNA స్క్రీనింగ్‌ను తక్షణ, ప్రాయోగిక భద్రతా చర్యగా ఇది చూపుతోంది, పూర్తి సంక్షోభం కోసం ఎదురుచూడకుండా అమలు చేయగలిగినదిగా.

హెచ్చరిక మధ్యలో సింథటిక్ DNA ఎందుకు ఉంది

సింథటిక్ DNA ద్వారా వైరస్‌లను తిరిగి నిర్మించవచ్చని శాస్త్రవేత్తలకు రెండు దశాబ్దాలుగా తెలుసు. ఆ నిజం కొత్తది కాదు. కానీ ఇప్పుడు మారింది ఏమిటంటే, ప్రయోగశాల విధానాలకు సంబంధించిన సాంకేతిక ప్రశ్నలలో వినియోగదారులకు మార్గనిర్దేశం చేయడంలో అధునాతన AI వ్యవస్థలు పోషించగల పాత్ర అని మూల ప్యాకేజ్ చెబుతోంది. ఆలాంటి ప్రశ్నల్లో AI వ్యవస్థలు ఇప్పటికే PhD-స్థాయి వైరాలజిస్టులను మించిపోయాయని వ్యాసం పేర్కొంటోంది, దీని వల్ల దుర్వినియోగాన్ని ఒకప్పుడు పరిమితం చేసిన జ్ఞాన అడ్డంకులు తగ్గిపోవచ్చనే ఆందోళన పెరుగుతోంది.

ఈ లేఖ వెనుక ఉన్న ప్రధాన విధాన మార్పు ఇదే. ప్రమాదం ఇకపై కేవలం పదార్థాలు లేదా ప్రత్యేక పరికరాలకు ప్రాప్యతగా మాత్రమే చూపబడడం లేదు. అది మార్గదర్శకత్వానికి ప్రాప్యత గురించీ. జీవ సంబంధ ప్రక్రియలను అర్థం చేసుకోవడానికి అవసరమైన నైపుణ్య స్థాయిని AI గణనీయంగా తగ్గించగలిగితే, సంప్రదాయ chokepoints‌ను మాత్రమే లక్ష్యంగా చేసుకున్న రక్షణ చర్యలు ఇక సరిపోవు.

ప్రతిపాదిత పరిష్కారం సంకుచితమైనదైనా స్పష్టమైనది

సంతకదారులు సింథటిక్ బయాలజీని పూర్తిగా నిలిపివేయాలని లేదా శక్తివంతమైన మోడళ్లపై విస్తృత నిషేధం విధించాలని కోరడం లేదు. దానికి బదులుగా, వారు ఒక నిర్దిష్ట జోక్యాన్ని ముందుకు తెస్తున్నారు: సింథటిక్ DNA ఆర్డర్లకు తప్పనిసరి స్క్రీనింగ్, అలాగే ట్రేసబిలిటీ కోసం రికార్డ్-కీపింగ్ అవసరాలు. మూల పాఠ్యం ప్రకారం, అనేక సరఫరాదారులు ఇప్పటికే స్వచ్ఛందంగా ఆర్డర్లను స్క్రీన్ చేస్తున్నారు, కానీ ఈ కూటమి అన్ని తయారీదారులకూ ఏకరీతి నియమాలు కావాలని కోరుతోంది.

ఈ దృష్టి వ్యూహాత్మకంగా ముఖ్యమైనది. DNA స్క్రీనింగ్ అందుబాటులో ఉన్న అత్యల్ప పరిమితి గల, అత్యంత ప్రభావవంతమైన పరికరాలలో ఒకటిగా చూపబడుతోంది. ప్రతి సంభావ్య పరిశోధనా మార్గాన్ని నియంత్రించడానికి ప్రయత్నించడానికి బదులుగా, ఈ ప్రతిపాదన జీవ సరఫరా గొలుసులో గుర్తించబడిన ఒక నియంత్రణ బిందువుపై దృష్టి పెడుతోంది.

ఏకరీతి నియమాలు ఎందుకు ముఖ్యమైనవి

స్వచ్ఛంద అనుగుణతకు స్పష్టమైన పరిమితులు ఉన్నాయి. కొంతమంది సరఫరాదారులు బలమైన స్క్రీనింగ్ ప్రోటోకాళ్లను పాటిస్తారు, మరికొందరు ఖర్చు, పోటీ ఒత్తిడి లేదా బలహీన పాలన కారణంగా తక్కువ చేయవచ్చు. ప్రమాదకరమైన పని అత్యల్ప పరిమితి గల సరఫరాదారుడి వైపు కదిలే రంగంలో, అసమాన రక్షణలు వ్యవస్థాత్మక బలహీనతను సృష్టిస్తాయి.

ఏకరీతి చట్టపరమైన అవసరాలు ఆ లెక్కను మారుస్తాయి. అవి షార్ట్‌కట్లు తీసుకోవడంలో ఉన్న ప్రయోజనాన్ని తగ్గిస్తాయి మరియు తయారీదారుల అంతటా మరింత స్థిరమైన ప్రాథమిక ప్రమాణాన్ని ఏర్పరుస్తాయి. రికార్డ్-కీపింగ్ ద్వారా ఒక అనుమానాస్పద ఆర్డర్ తర్వాత దర్యాప్తులో భాగమైనప్పుడు దాని ట్రేసబిలిటీని నిలుపుకోవడం ద్వారా మరో పొర చేరుతుంది.

ఇలాంటి తర్కం ఇతర అధిక-ప్రమాద రంగాల నుంచి తెలిసినదే. అనుగుణత ఐచ్ఛికంగా ఉండి, పర్యవేక్షణ చీలిపోయిన చోట భద్రతా వ్యవస్థలు సాధారణంగా అత్యంత బలహీనంగా ఉంటాయి. సింథటిక్ DNAని సంస్థ విధానాల చెల్లాచెదురు సమాహారంగా కాకుండా, కీలక మౌలిక సదుపాయంలా పరిగణించాల్సిన స్థాయికి చేరిందని లేఖ రచయితలు వాదిస్తున్నారు.

ఇది రాజకీయంగా ఎందుకు గమనించదగినది

లేఖ సంతకదారులు తరచూ నేరుగా పోటీ పడే లేదా AI విధానంపై తీవ్రంగా విభేదించే సంస్థల నుంచి వస్తున్నారు. మూల పాఠ్యం దీన్ని తరచూ విరుద్ధంగా ఉండే భాగస్వాముల మధ్య అరుదైన ఏకాభిప్రాయ క్షణంగా పేర్కొంటోంది. అది మాత్రమే ఈ జోక్యం ప్రాముఖ్యతను పెంచుతుంది. సాధారణంగా నియంత్రణపై పోరాడే కంపెనీలు ఒక నిర్దిష్ట కాంగ్రెస్ అభ్యర్థనపై ఏకమైతే, శాసనసభ్యులకు ఒకే సంస్థ లాబీయింగ్ ప్రయత్నం కంటే భిన్నమైన సంకేతం అందుతుంది.

ఈ కూటమి AI నాయకులను శాస్త్రవేత్తలతో కలిపి, హెచ్చరిక విశ్వసనీయతను విస్తరిస్తోంది. ఇది కేవలం టెక్ కంపెనీల ప్రతిష్ఠ పరిరక్షణ మాత్రమే కాదని; ఇది నిజమైన మరియు పెరుగుతున్న బయోసెక్యూరిటీ సమస్యపై భాగస్వామ్య అంచనా అని సూచిస్తోంది.

పెద్ద AI పాలన పాఠం

ఈ కథ AI పాలన ఎటు వెళ్తోందో మరింత లోతుగా చూపిస్తోంది. సంవత్సరాలుగా చర్చలు సారాంశాత్మక అస్తిత్వ ప్రమాదం, తప్పుడు సమాచారం, కార్మిక అంతరాయం, మరియు కాపీరైట్ చుట్టూ తిరిగాయి. DNA స్క్రీనింగ్ భిన్నమైనది. ఇది ఆపరేషనల్. ఇది ఒక నిర్దిష్ట వైఫల్య విధానాన్ని, ఒక నిర్దిష్ట సరఫరా-శృంఖల నియంత్రణ బిందువును, మరియు ఒక నిర్దిష్ట శాసన పరిష్కారాన్ని గుర్తిస్తుంది.

అది AI ప్రమాదం సమీపకాల విధాన అభ్యర్థనగా మారుతున్న స్పష్టమైన ఉదాహరణలలో ఒకటిగా నిలుస్తుంది. కాంగ్రెస్ ఈ సమావేశంలో చర్య తీసుకున్నా లేకపోయినా, ఈ వాదన మోడల్ సామర్థ్యం, ప్రాప్యత నియంత్రణలు, మరియు డిజిటల్ మేధస్సు భౌతిక ప్రపంచ ప్రమాదాలతో ఎలా పరస్పరం చర్య చేస్తుందో గురించి భవిష్యత్తు చర్చలను ఆకృతీకరించే అవకాశం ఉంది.

తక్షణ निष్కర్ష

సంతకదారుల వాదన AI ఇప్పటికే ఒక జీవ సంబంధ విపత్తును కలిగించిందని కాదు. ప్రమాదకరమైన జీవ సంబంధ పని సహజంగా అరుదైన నైపుణ్యాల చేత నియంత్రించబడుతుందనే పాత అంచనా ఇక తక్కువ విశ్వసనీయంగా మారుతోందని వారు అంటున్నారు. ఆ అంచనా బలహీనమైతే, సింథటిక్ DNA స్క్రీనింగ్ వంటి upstream నియంత్రణలు మరింత విలువైనవిగా మారుతాయి.

ప్రస్తుతానికి ప్రతిపాదన సూటిగా ఉంది: స్క్రీనింగ్‌ను తప్పనిసరి చేయండి, రికార్డులను కోరండి, మరియు స్వచ్ఛంద అనుగుణత వదిలే ఖాళీలను మూసేయండి. సాధారణంగా అస్పష్ట సూత్రాలే ఆధిపత్యం వహించే విధాన రంగంలో, ఇది స్పష్టమైన మరియు అమలు చేయదగిన డిమాండ్. ఇది ప్రముఖ AI ల్యాబ్‌లు మరియు శాస్త్రీయ సంస్థల నాయకుల నుంచి రావడం వల్ల, శాసనసభ్యులు దీన్ని ఊహాగానంగా కొట్టిపారేయడం కష్టమవుతుంది. ఇప్పుడు కాంగ్రెస్ ముందు స్పష్టమైన ప్రశ్న ఉంది: AI ఆధారిత జీవ సంబంధ సహాయం పెద్ద భద్రతా సమస్యగా మారకముందే, ఇప్పటికే ఉన్న స్వచ్ఛంద రక్షణను చట్టపరమైన ప్రమాణంగా మార్చాలా అనే దానిపై.

ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.