कृत्रिम बुद्धिमत्ता के विकासकर्ता अक्सर मॉडल के असंगत व्यवहार को यादृच्छिकता की समस्या के रूप में बताते हैं: प्रशिक्षण डेटा के क्रम में बदलाव, हार्डवेयर में संख्यात्मक स्तर पर मामूली अंतर या कोई अन्य ऐसा चर जिसे नियंत्रित करना कठिन हो। सिडनी विश्वविद्यालय का नया शोध तर्क देता है कि कुछ मामलों में इसका स्रोत इससे भी अधिक बुनियादी हो सकता है। न्यूरल नेटवर्क जिस प्रारंभिक स्थिति से शुरू होता है, उसमें बेहद छोटे अंतर भी उसे स्पष्ट रूप से अलग-अलग सीखे हुए व्यवहारों की ओर ले जा सकते हैं, भले ही डेटा, प्रशिक्षण प्रक्रिया और कंप्यूटिंग वातावरण समान रखे गए हों।

Nature Machine Intelligence में प्रकाशित यह शोध जांचता है कि लगभग समान परिस्थितियों में न्यूरल नेटवर्क अलग-अलग समाधानों तक क्यों पहुंच सकते हैं। इसका मुख्य निष्कर्ष गणितीय है: अलग-अलग प्रशिक्षण परिणामों के बीच की सीमाओं की संरचना फ्रैक्टल हो सकती है। इसका अर्थ है कि जब शोधकर्ता मॉडल की प्रारंभिक व्यवस्था में लगातार छोटे अंतरों पर ध्यान केंद्रित करते हैं, तब भी ये सीमाएं जटिल रूप से एक-दूसरे में मिली रहती हैं।

सीखने की प्रक्रिया में अंतर्निहित सीमा

प्रशिक्षण के दौरान न्यूरल नेटवर्क बड़ी संख्या में आंतरिक पैरामीटरों को समायोजित करके सीखते हैं। आधुनिक प्रणालियों में इन पैरामीटरों की संख्या लाखों या अरबों तक हो सकती है। आम तौर पर यह अपेक्षा की जाती है कि प्रशिक्षण इनपुट को अधिक सावधानी से नियंत्रित करने पर परिणाम अधिक दोहराने योग्य होंगे। सिडनी के शोधकर्ताओं ने पाया कि इस अपेक्षा की एक महत्वपूर्ण सीमा है।

प्रोफेसर Pulin Gong और डॉक्टोरल शोधकर्ता Andrew Ly ने नियतात्मक प्रशिक्षण वातावरणों की जांच की, जहां यादृच्छिकता के बाहरी स्रोतों को हटा दिया गया था। फिर भी, मॉडल की प्रारंभिक स्थितियों में बेहद छोटे बदलाव प्रशिक्षण प्रक्रिया को अलग-अलग परिणामों तक ले जा सकते थे।

शोधकर्ता इस परिणाम को प्रारंभिक स्थितियों के तितली जैसी आकृति वाले मानचित्र के रूप में प्रस्तुत करते हैं। एक रंग उन शुरुआती बिंदुओं का प्रतिनिधित्व करता है जो एक प्रशिक्षण परिणाम तक पहुंचते हैं; दूसरा रंग उन बिंदुओं को दर्शाता है जो अलग परिणाम तक पहुंचते हैं। एक सरल, चिकनी सीमा में अलग होने के बजाय, दोनों रंग एक-दूसरे के बीच बिखरे हुए हैं। क्रमिक रूप से अधिक नजदीक से देखने पर यह मिश्रण और सूक्ष्म स्तरों पर फिर दिखाई देता है।

व्यावहारिक रूप से, यह ज्यामिति पुनरुत्पादन की सरल गारंटी देना कठिन बना देती है। यदि दो व्यवस्थाएं एक-दूसरे के करीब हों, लेकिन ऐसी सीमा के विपरीत पक्षों पर स्थित हों, तो सामान्य प्रयोगात्मक रिकॉर्ड में लगभग समान दिखने के बावजूद वे अलग-अलग व्यवहार उत्पन्न कर सकती हैं।

प्रयोगशाला अभ्यास से आगे इस परिणाम का महत्व

AI प्रणालियों का उपयोग स्वास्थ्य सेवा, कारोबार, शोध और रोजमर्रा के उत्पादों में लगातार बढ़ रहा है, जहां सुसंगत व्यवहार महत्वपूर्ण है। शोधकर्ताओं का कहना है कि उनका काम यह स्पष्ट करके इन तकनीकों की विश्वसनीयता और भरोसेमंदता बढ़ाने में मदद कर सकता है कि मॉडल के अलग-अलग रन के बीच हर अंतर का कारण सॉफ्टवेयर की गलती या अविश्वसनीय हार्डवेयर नहीं होता।

Sydney researchers uncover a hidden limit to AI predictability
हर रंगीन बिंदु AI मॉडल की एक प्रारंभिक व्यवस्था को दर्शाता है: नीला एक प्रशिक्षण परिणाम तक ले जाता है और नारंगी दूसरे तक। साथ मिलकर वे तितली जैसी प्रभावशाली आकृति बनाते हैं, जिसमें नीले क्षेत्रों के बीच नारंगी बिंदु और नारंगी क्षेत्रों के बीच नीले बिंदु बिखरे हुए हैं। घड़ी की दिशा में आगे बढ़ते हुए, काली रेखाओं से दर्शाए गए क्षेत्रों के क्रमिक नजदीकी दृश्य इस जटिल मिश्रण को लगातार सूक्ष्म स्तरों पर दिखाते हैं। इससे पता चलता है कि प्रारंभिक व्यवस्था में बेहद छोटे अंतर भी अलग-अलग प्रशिक्षण परिणामों तक ले जा सकते हैं, जिससे उनका पूर्वानुमान और पुनरुत्पादन कठिन हो जाता है। श्रेय: Professor Pulin Gong/The University of Sydney

यह अंतर इस बात के लिए महत्वपूर्ण है कि टीमें विविधता के कारणों का पता कैसे लगाती हैं। यदि विचलन किसी अनियंत्रित बाहरी कारक के कारण है, तो बेहतर इंजीनियरिंग नियंत्रण उसे समाप्त कर सकते हैं। यदि यह सीखने की अंतर्निहित गतिशीलता से उत्पन्न होता है, तो नियंत्रण उपाय फिर भी महत्वपूर्ण रहेंगे, लेकिन वे प्रशिक्षण के लिए एक ही दोहराने योग्य अंतिम परिणाम की गारंटी नहीं दे सकते।

अध्ययन यह नहीं कहता कि AI प्रणालियों को भरोसेमंद नहीं बनाया जा सकता। इसके बजाय, यह उस कारण की पहचान करता है जिसके चलते विविधता के परिचित स्रोतों को दूर करने के बाद भी कुछ प्रकार की अनिश्चितता बनी रह सकती है। यह उन शोधकर्ताओं के लिए उपयोगी जानकारी है जो यह आकलन करना चाहते हैं कि आउटपुट में अंतर किसी बग, मापी जा सकने वाली संवेदनशीलता या स्वयं सीखने के परिदृश्य की विशेषता का परिणाम है।

पुनरुत्पादन से मजबूती की ओर

यह निष्कर्ष इस बात में व्यापक बदलाव की ओर संकेत करता है कि AI की विश्वसनीयता का मूल्यांकन कैसे किया जा सकता है। एक सटीक प्रशिक्षण परिणाम को दोहराना उपयोगी हो सकता है, लेकिन जब प्रारंभिक स्थितियों में छोटे और अपरिहार्य अंतर सीखने के दौरान बढ़ जाते हैं, तब यह पर्याप्त नहीं हो सकता। विकासकर्ताओं को यह भी पूछना पड़ सकता है कि क्या कोई मॉडल पास-पास के प्रशिक्षण परिणामों की पूरी श्रेणी में सुरक्षित और उपयोगी बना रहता है।

वैज्ञानिक उपयोगकर्ताओं के लिए यह निष्कर्ष प्रयोगात्मक परिस्थितियों को स्पष्ट रूप से दर्ज करने और केवल एक रन से अधिक का परीक्षण करने के महत्व को मजबूत करता है। AI तैनात करने वाले संगठनों के लिए यह संकेत देता है कि विश्वसनीयता के आकलन में केवल चुने गए चेकपॉइंट के प्रदर्शन पर नहीं, बल्कि प्रशिक्षित मॉडलों के बीच भिन्नता पर भी विचार किया जाना चाहिए।

यह शोध कई मशीन-लर्निंग विशेषज्ञों के लिए परिचित और निराशाजनक अनुभव को व्यक्त करने के लिए एक दृश्य और गणितीय भाषा भी उपलब्ध कराता है: एक ही नुस्खे का उपयोग करते हुए प्रतीत होने वाले दो रन अलग-अलग व्यवहार कर सकते हैं। सिडनी टीम का निष्कर्ष है कि यह हमेशा कंप्यूटिंग शोर का आकस्मिक परिणाम नहीं होता। कुछ मामलों में, प्रशिक्षण प्रक्रिया में स्वयं ऐसे सूक्ष्म रूप से संरचित क्षेत्र होते हैं जहां पूर्वानुमेयता टूट जाती है।

इन क्षेत्रों को समझने से चुनौती समाप्त नहीं होगी, लेकिन इससे चुनौती अधिक स्पष्ट हो सकती है। जैसे-जैसे AI अधिक महत्वपूर्ण भूमिकाएं निभा रहा है, यह जानना कि पुनरुत्पादन की अंतर्निहित सीमाएं कहां हैं, उन प्रणालियों को डिजाइन करने का आवश्यक हिस्सा है जिनका उचित रूप से परीक्षण, निगरानी और भरोसा किया जाता है।

यह लेख Phys.org की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।

Originally published on phys.org