कृत्रिम बुद्धिमत्ता विकासक अनेकदा मॉडेलच्या विसंगत वर्तनाचे स्पष्टीकरण यादृच्छिकतेची समस्या म्हणून करतात: प्रशिक्षण डेटाच्या क्रमात केलेला फेरबदल, हार्डवेअरमधील छोटा संख्यात्मक फरक किंवा नियंत्रण करणे कठीण असलेला अन्य घटक. सिडनी विद्यापीठातील नव्या संशोधनानुसार, काही प्रसंगी यामागचे कारण अधिक मूलभूत असू शकते. न्यूरल नेटवर्क ज्या ठिकाणाहून सुरू होते त्यातील अगदी लहान फरकही, डेटा, प्रशिक्षण प्रक्रिया आणि संगणकीय वातावरण समान ठेवले असतानाही, त्याला लक्षणीयरीत्या वेगवेगळ्या शिकलेल्या वर्तनांकडे नेऊ शकतात.

Nature Machine Intelligenceमध्ये प्रकाशित झालेले हे संशोधन जवळजवळ समान परिस्थितीत न्यूरल नेटवर्क वेगवेगळ्या उपायांपर्यंत का पोहोचू शकतात, याचा अभ्यास करते. त्याचा मुख्य निष्कर्ष गणितीय आहे: वेगवेगळ्या प्रशिक्षण परिणामांमधील सीमांची रचना फ्रॅक्टल स्वरूपाची असू शकते. याचा अर्थ असा की मॉडेलच्या सुरुवातीच्या मांडणीतील आणखी सूक्ष्म फरकांकडे संशोधकांनी झूम केले तरी त्या सीमा गुंतागुंतीने एकमेकांत मिसळलेल्या राहतात.

शिकण्याच्या प्रक्रियेतच अंतर्भूत असलेली मर्यादा

प्रशिक्षणादरम्यान न्यूरल नेटवर्क मोठ्या संख्येने अंतर्गत पॅरामीटर्स समायोजित करून शिकतात. आधुनिक प्रणालींमध्ये या पॅरामीटर्सची संख्या लाखो किंवा अब्जावधी असू शकते. प्रशिक्षणातील इनपुट अधिक काळजीपूर्वक नियंत्रित केल्यास परिणाम अधिक पुनरुत्पादक होतील, अशी नेहमीची अपेक्षा असते. या अपेक्षेला एक महत्त्वाची मर्यादा असल्याचे सिडनीच्या संशोधकांना आढळले.

प्राध्यापक Pulin Gong आणि डॉक्टोरल संशोधक Andrew Ly यांनी निर्धारक प्रशिक्षण वातावरणांचा अभ्यास केला, ज्यामध्ये यादृच्छिकतेचे बाह्य स्रोत काढून टाकले होते. तरीही, मॉडेलच्या प्रारंभिक स्थितींमध्ये होणारे अत्यंत लहान बदल प्रशिक्षण प्रक्रियेला वेगवेगळ्या परिणामांकडे वळवू शकत होते.

संशोधक हा परिणाम प्रारंभिक स्थितींच्या फुलपाखरासारख्या नकाशाच्या रूपात दाखवतात. एक रंग एका प्रशिक्षण परिणामापर्यंत पोहोचणारे प्रारंभिक बिंदू दर्शवतो; दुसरा रंग वेगळ्या परिणामापर्यंत पोहोचणारे बिंदू दाखवतो. साध्या, गुळगुळीत सीमेत विभागले जाण्याऐवजी हे रंग एकमेकांत विखुरलेले दिसतात. सलग क्लोज-अपमध्ये हे मिश्रण आणखी सूक्ष्म पातळ्यांवर पुन्हा दिसून येते.

व्यावहारिकदृष्ट्या, ही भूमिती पुनरुत्पादकतेचे साधे आश्वासन देणे कठीण बनवते. दोन सेटअप जवळचे असले, पण अशा सीमारेषेच्या विरुद्ध बाजूंवर असले, तर सामान्य प्रयोगात्मक नोंदींमध्ये ते प्रभावीपणे एकसारखे दिसत असूनही वेगवेगळी वर्तने निर्माण करू शकतात.

प्रयोगशाळेच्या प्रयोगापलीकडे या निष्कर्षाचे महत्त्व

आरोग्यसेवा, व्यवसाय, संशोधन आणि दैनंदिन उत्पादनांमध्ये AI प्रणालींचा वापर वाढत आहे, जिथे सातत्यपूर्ण वर्तन महत्त्वाचे असते. मॉडेलच्या प्रत्येक रनमधील फरकाचे श्रेय सॉफ्टवेअरमधील चूक किंवा अविश्वसनीय हार्डवेअरला देता येत नाही, हे स्पष्ट करून या तंत्रज्ञानांची विश्वासार्हता आणि भरोसेमंदपणा सुधारण्यास त्यांचे काम मदत करू शकते, असे संशोधक म्हणतात.

Sydney researchers uncover a hidden limit to AI predictability
प्रत्येक रंगीत बिंदू AI मॉडेलच्या एका प्रारंभिक सेटअपचे प्रतिनिधित्व करतो: निळा एका प्रशिक्षण परिणामाकडे, तर नारिंगी दुसऱ्या परिणामाकडे नेतो. एकत्रितपणे ते फुलपाखरासारखा आकर्षक नमुना तयार करतात; निळ्या भागांमध्ये नारिंगी बिंदू आणि नारिंगी भागांमध्ये निळे बिंदू विखुरलेले आहेत. घड्याळाच्या दिशेने पुढे जाताना, काळ्या रेषांनी दर्शवलेल्या भागांचे सलग क्लोज-अप हे गुंतागुंतीचे मिश्रण अधिक सूक्ष्म पातळ्यांवर दाखवतात. प्रारंभिक सेटअपमधील अगदी लहान फरकही वेगवेगळ्या प्रशिक्षण परिणामांकडे नेऊ शकतात आणि त्यामुळे त्यांचा अंदाज व पुनरुत्पादन करणे का कठीण होते, हे यावरून स्पष्ट होते. श्रेय: प्राध्यापक Pulin Gong/The University of Sydney

संघ विविधतेचे निदान कसे करतात, यासाठी हा फरक महत्त्वाचा आहे. एखाद्या अनियंत्रित बाह्य घटकामुळे विचलन होत असेल, तर चांगली अभियांत्रिकी नियंत्रणे ते दूर करू शकतात. ते शिकण्याच्या अंतर्निहित गतिशीलतेतून उद्भवत असेल, तर नियंत्रण उपाय महत्त्वाचेच राहतील; मात्र ते प्रशिक्षणासाठी एकच पुनरावृत्तीक्षम गंतव्य निश्चित करतीलच असे नाही.

AI प्रणाली विश्वासार्ह बनवता येत नाहीत, असे हा अभ्यास म्हणत नाही. उलट, परिचित फरकांच्या स्रोतांवर उपाय केल्यानंतरही काही प्रकारची अनिश्चितता का टिकून राहू शकते, याचे एक कारण तो ओळखतो. आउटपुटमधील फरक हा बग आहे, मोजता येणारी संवेदनशीलता आहे की शिकण्याच्या लँडस्केपचेच वैशिष्ट्य आहे, याचे मूल्यांकन करू इच्छिणाऱ्या संशोधकांसाठी ही उपयुक्त माहिती आहे.

पुनरुत्पादकतेकडून मजबुतीकडे

AI विश्वासार्हतेचे मूल्यांकन कसे केले जावे, यामध्ये व्यापक बदलाची दिशा हा निष्कर्ष दाखवतो. एक अचूक प्रशिक्षण परिणाम पुन्हा निर्माण करणे उपयुक्त ठरू शकते; पण शिकण्याच्या प्रक्रियेत प्रारंभिक स्थितींमधील सूक्ष्म आणि अपरिहार्य फरक वाढत गेले, तर ते पुरेसे ठरणार नाही. जवळच्या अनेक प्रशिक्षण परिणामांच्या समूहामध्येही मॉडेल सुरक्षित आणि उपयुक्त राहते का, हा प्रश्न विकासकांना विचारावा लागू शकतो.

वैज्ञानिक वापरकर्त्यांसाठी, प्रयोगात्मक परिस्थिती स्पष्टपणे नोंदवणे आणि केवळ एका रनऐवजी अनेक रन तपासणे किती महत्त्वाचे आहे, हे हा निष्कर्ष अधोरेखित करतो. AI तैनात करणाऱ्या संस्थांसाठी, विश्वासार्हता मूल्यांकनात निवडलेल्या चेकपॉइंटच्या कामगिरीसोबत प्रशिक्षित मॉडेल्समधील फरकाचाही विचार केला पाहिजे, असे तो सुचवतो.

एकच कृतीपद्धती वापरल्यासारखे दिसणारे दोन रन वेगवेगळे का वागू शकतात, या मशीन-लर्निंग तज्ज्ञांना परिचित असलेल्या निराशाजनक अनुभवासाठी हे संशोधन दृश्य आणि गणितीय भाषाही उपलब्ध करून देते. हे नेहमी संगणकीय आवाजाचा अपघाती परिणाम नसतो, असा सिडनी टीमचा निष्कर्ष आहे. काही प्रसंगी, प्रशिक्षण प्रक्रियेतच अशा सूक्ष्मरीत्या रचलेल्या प्रदेशांचा समावेश असतो जिथे पूर्वानुमानक्षमता ढासळते.

हे प्रदेश समजून घेतल्याने आव्हान नाहीसे होणार नाही, पण ते अधिक स्पष्ट होऊ शकते. AI अधिक परिणामकारक भूमिका स्वीकारत असताना, पुनरुत्पादकतेला अंतर्निहित मर्यादा कुठे आहेत हे जाणून घेणे, योग्य प्रकारे तपासल्या, देखरेख केल्या आणि विश्वास ठेवल्या जाणाऱ्या प्रणाली तयार करण्याचा आवश्यक भाग आहे.

हा लेख Phys.orgच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.

Originally published on phys.org