AI अपोकॅलिप्सच्या इशाऱ्या सर्वत्र आहेत — पुरावे नाहीत

बातम्यांचा फीड स्क्रोल करा, तंत्रज्ञान परिषदेचे मुख्य भाषण ऐका, किंवा संसदीय समिती दुपारभर ऐका, आणि तुम्हाला थोड्या वेगळ्या शब्दांत तोच इशारा आढळेल: कृत्रिम बुद्धिमत्ता एका उंबरठ्याकडे वेगाने धावत आहे ज्याच्या पलीकडे ती नियंत्रित करता येणार नाही, आणि परिणाम आपत्तीजनक असू शकतो — कदाचित अस्तित्वविषयकही. हे चित्रण आधुनिक कव्हरेजचा एक स्थिर भाग बनले आहे, प्रसारण विभाग, मत स्तंभ आणि पॅनेल चर्चांमध्ये पुनरावृत्ती होत आहे जोपर्यंत ते शोधापेक्षा एक मूड म्हणून कार्य करत नाही.

त्या मूडमध्ये एक समस्या आहे. न्यू सायंटिस्ट म्हणते त्याप्रमाणे, AI निर्माण करणाऱ्या अस्तित्वविषयक धोक्याबद्दलचे भयानक इशारे सर्व बातम्यांमध्ये आहेत, तरीही त्यांना पाठिंबा देण्यासाठी फारच कमी पुरावे आहेत. ही विसंगती — एका बाजूला मोठ्याने आत्मविश्वास, दुसऱ्या बाजूला विरळ पुष्टी — स्वतःच्या अटींवर लक्ष देण्यास पात्र आहे, कारण धोका कसा वर्णन केला जातो ते सरकार कसे नियमन करतात, कंपन्या कशा बांधतात आणि जनता कशाला घाबरायचे हे ठरवते यावर परिणाम करते.

एक वाक्यांश, अनेक अगदी भिन्न दावे

AI "धोकादायकपणे नियंत्रणाबाहेर जात आहे" ही कल्पना वक्तृत्वात्मकदृष्ट्या संक्षिप्त पण विश्लेषणात्मकदृष्ट्या सैल आहे. ती चिंतेच्या श्रेणी एकत्र करते ज्या किती चांगल्या प्रकारे समजल्या जातात आणि किती सहजपणे प्रदर्शित केल्या जाऊ शकतात यामध्ये प्रचंड भिन्न आहेत:

• प्रणाली त्यांच्या ऑपरेटरने इच्छित नसलेल्या किंवा पूर्णपणे स्पष्ट करू न शकणाऱ्या पद्धतींनी वागत आहेत.
• क्षमता सुधारणा देखरेख, चाचणी किंवा कायदा शोषून घेऊ शकतात त्यापेक्षा वेगाने येत आहेत.
• राज्ये, गुन्हेगार किंवा व्यक्तींद्वारे शक्तिशाली मॉडेल्सचा जाणीवपूर्वक गैरवापर.
• दीर्घ-क्षितीज परिस्थिती ज्यामध्ये मानवता त्याच्या सर्वात सक्षम मशीनवर अर्थपूर्ण नियंत्रण कायमचे गमावते.

पहिल्या दोन श्रेणी तत्त्वतः लॉग, ऑडिट आणि घटना अहवालांसह तपासल्या जाऊ शकतात. शेवटचा भविष्याबद्दलचा अंदाज आहे जो आला नाही. जेव्हा सर्व चार एका शीर्षकात संकुचित केले जातात, तेव्हा सर्वात अटकळीच्या बाबीशी जोडलेली तातडीची आभा शांतपणे संपूर्ण संचावर — आणि ती संबोधित करण्याचा दावा करणाऱ्या कोणत्याही धोरण प्रस्तावावर — हस्तांतरित केली जाते.

इशारे दस्तऐवजीकरणापेक्षा वेगाने का प्रवास करतात

इशारे पुराव्यांपेक्षा वेगाने धावण्याची संरचनात्मक कारणे आहेत. एक सजीव, उच्च-दाव परिस्थिती स्वाभाविकपणे काळजीपूर्वक शून्य निकालापेक्षा अधिक बातमीयोग्य असते. संशोधक, वकिली गट आणि प्रयोगशाळा सर्व प्रोत्साहन संरचनांमध्ये कार्य करतात जे नाट्यमय चित्रणाला बक्षीस देतात: आपत्तीबद्दल प्रश्नचिन्हासह शीर्षक असलेला पेपर लक्ष वेधून घेतो जे माफक क्षमता वाढीचे दस्तऐवजीकरण करणारा पेपर करत नाही.

सावधगिरीचा युक्तिवाद या परिणामाला वाढवतो. जर तोटा खरोखर सभ्यताविषयक असेल, तर युक्तिवाद असा आहे की, आपण कार्य करण्यापूर्वी पुराव्यांची वाट पाहू शकत नाही. हा तर्क काही क्षेत्रांमध्ये समर्थनीय असू शकतो, परंतु तो एक वक्तृत्वात्मक सापळा निर्माण करतो: दावा जितका अत्यंत, तितका तो कमी समर्थन आवश्यक वाटतो, कारण समर्थनाची मागणी बेपर्वा समाधान म्हणून पुन्हा तयार केली जाते.

अंदाजक्षमता समस्या

अनियंत्रित प्रणालींबद्दलचे दावे तपासणे खरोखर कठीण आहे. मानवी स्वायत्ततेच्या अंतावर नियंत्रित चाचणी करू शकत नाही. परंतु पडताळणीची अडचण धोक्याच्या पुराव्यासारखी नाही — आणि दोन्हींना समतुल्य मानणे हेच बरेच कव्हरेज चुकते.

पुरावे खरोखर कसे दिसतील

पुराव्याची अनुपस्थिती ही अनुपस्थितीचा पुरावा नाही, आणि पुष्टी म्हणून काय मोजले जाईल याबद्दल अचूक असणे योग्य आहे. नियंत्रण-हानीच्या दाव्यांसाठी अर्थपूर्ण समर्थनामध्ये प्रणाली त्यांच्या डिझाइनरने निर्दिष्ट न केलेली उद्दिष्टे Pursuing चे दस्तऐवजीकृत, पुनरुत्पादक उदाहरणे; कथानकात स्वारस्य असलेल्या संस्थांबाहेर त्या निष्कर्षांची स्वतंत्र प्रतिकृती; क्षमता आणि नियंत्रण यामधील अंतरामध्ये काल्पनिक अंदाजांऐवजी मोजण्यायोग्य कल; आणि सतत सुधारित होण्याऐवजी परिणामांविरुद्ध तपासल्या जाऊ शकणाऱ्या अंदाजांचा समावेश असेल.

आज, बरेच सार्वजनिक संभाषण विचार प्रयोग, सादृश्य आणि परिस्थिती-निर्मितीवर आधारित आहे. ती साधने कमी-संभाव्यता, उच्च-प्रभाव घटनांसाठी तयारी करण्यासाठी मूल्यवान आहेत. ती स्वतःच, घटना सुरू आहे याचा पुरावा नाहीत.

फरक का महत्त्वाचा आहे

सर्व AI धोका एका अस्तित्वविषयक चौकटीत संकुचित करण्याचे व्यावहारिक परिणाम आहेत. ते अधिक चांगल्या प्रकारे दस्तऐवजीकृत आणि अधिक तात्काळ संबोधनीय हानींकडे लक्ष विचलित करू शकते, कारण सभ्यता-अंत परिस्थिती कोणत्याही तुलनेवर वर्चस्व गाजवते. हे प्रमाणित धोरण तयार करणे देखील कठीण करते: प्रजाती-स्तरीय आपत्तीद्वारे न्याय्य ठरवलेले उपाय तैनात प्रणालींमध्ये प्रत्यक्षात दिसणाऱ्या सामान्य अपयशांवर लागू केल्यावर अति वाटतील.

याचा अर्थ AI सुरक्षित आहे किंवा अत्यंत धोक्याचा अभ्यास करणारे संशोधक त्यांचा वेळ वाया घालवत आहेत असा नाही. याचा अर्थ इशाऱ्याचा आत्मविश्वास त्यामागील पुराव्याच्या सामर्थ्याशी जुळला पाहिजे — आणि अस्तित्वविषयक प्रश्नावर, तो आत्मविश्वास सध्या नोंदीपेक्षा खूप पुढे धावतो.

अनर्जित निश्चिततेची किंमत

अतिशयोक्ती स्वतःचे धोके वाहते. निरीक्षणीय घटनांमध्ये कधीही निराकरण न होणारे अंदाज सामान्यतः तज्ञतेवरील सार्वजनिक विश्वास कमी करतात, ज्यामुळे चांगल्या पुराव्यांसह समस्या उद्भवल्यास लक्ष mobilise करणे कठीण होते. आसन्न विनाशावर त्यांची विश्वासार्हता पणाला लावणाऱ्या संस्था वेळापत्रक घसरल्यावर ती विश्वासार्हता खर्च झालेली आढळू शकतात.

अर्थात, आरसा-प्रतिमा धोका आहे: सर्वात मोठ्याने बोलणाऱ्यांनी तो अतिशयोक्त केला म्हणून खरा धोका डismiss करणे. जबाबदार स्थिती प्रतिक्षिप्त अलार्म किंवा प्रतिक्षिप्त संशय नाही तर प्रमाणशीलता आहे — अंतर्निहित कामाच्या गुणवत्तेशी विश्वास calibrate करणे.

पुढील इशारा कसा वाचावा

पुढील भयानक AI शीर्षक आल्यावर, काही प्रश्न विश्लेषण वातावरणापासून वेगळे करण्यास मदत करतात:

• कोणती विशिष्ट यंत्रणा दावा केली जात आहे, आणि ती खरी असल्यास निरीक्षण करता येईल का?
• हे दस्तऐवजीकृत शोध की प्रक्षेपित परिस्थिती?
• या चित्रणाचा फायदा कोणाला होतो, आणि स्वतंत्र कामाने त्याची पुष्टी केली आहे का?
• दावा असा मांडला गेला आहे का की तो कधीही चुकीचा दाखवता येईल?

सातत्याने लागू केल्यास, ते प्रश्न प्रगत AI एक दिवस आपत्तीजनक धोका निर्माण करेल का हे ठरवत नाहीत. ते फक्त सर्वात नाट्यमय दाव्यांना वगळण्यात आलेली पुराव्याची सामान्य मानके पुनर्संचयित करतात. न्यू सायंटिस्ट सुचवते त्याप्रमाणे, कथा ही नाही की AI निश्चितपणे सुरक्षित आहे — ती ही आहे की जे ठामपणे सांगितले जाते आणि जे प्रदर्शित केले जाते यामधील अंतर असामान्यपणे रुंद झाले आहे, आणि ते अंतर स्वतःच नोंदण्यायोग्य आहे.

हा लेख न्यू सायंटिस्टच्या अहवालावर आधारित आहे. मूळ लेख वाचा.