ब्रेन-इंस्पायर्ड चिपने AI हार्डवेअर ऊर्जा वापर 70 टक्के कमी केली

AI च्या मध्यभागी ऊर्जा संकट

कृत्रिम बुद्धिमत्तेचा विस्फोटक विकास ऊर्जा वापरण्याची समस्या तयार केली आहे जी आता अनदेखी करणे कठीण झाले आहे. मोठ्या भाषा मॉडेल्सचे प्रशिक्षण विशाल संगणकीय संसाधन आवश्यक आहे, परंतु अधिक व्यापक आव्हान अनुमान आहे — AI मॉडेल्स उत्पादनमध्ये चलवणे प्रश्नांची उत्तरे देणे, प्रतिमांचे विश्लेषण करणे किंवा सेंसर डेटा प्रक्रिया करणे — मोठ्या प्रमाणावर जे एकूणच प्रशिक्षणापेक्षा अधिक ऊर्जा वापरते. डेटा सेंटर ऑपरेटर आणि उपकरण निर्माता अशी संगणन आर्किटेक्चर शोधण्यासाठी वाढते दबाव अनुभवत आहेत जे वर्तमान ऊर्जा खर्चाच्या अंशामध्ये AI कार्यप्रदर्शन देऊ शकते.

वैज्ञानिकांच्या एका संघाने निकाल प्रकाशित केले आहेत जे दर्शवतात की न्यूरोमॉर्फिक चिप — जी जैविक न्यूरल सर्किट्सच्या स्पाइक-आधारित, इव्हेंट-चालित माहिती प्रक्रिया करण्याची नक्कल करण्यासाठी डिজाइन केली गई आहे — परंपरागत ग्राफिक्स प्रोसेसिंग युनिट किंवा अनुप्रयोग-विशिष्ट AI त्वरणापेक्षा 70 टक्के कमी ऊर्जेमध्ये AI अनुमान कार्यभार चलवू शकते. हा परिणाम न्यूरोमॉर्फिक संगणनालाई मुख्यतः सैद्धांतिक प्रस्ताव पासून AI हार्डवेअर तैनातीसाठी थेट प्रासंगिकता असलेली प्रदर्शित इंजिनिअरिंग क्षमता पर्यंत पुढे करते.

न्यूरोमॉर्फिक संगणन कसे भिन्न आहे

परंपरागत संगणन मेमरी आणि प्रोसेसिंग युनिट्सच्या दरम्यान डेटाच्या मोठ्या ब्लॉक्स हलवून माहिती प्रक्रिया करते, घनदाट मॅट्रिक्स क्रिया करते ज्यांना उच्च बँडविड्थ आणि सतत विजेची आपूर्ती आवश्यक आहे. हा दृष्टिकोन अत्यंत समांतर, समक्रमित संगणनासाठी कुशल आहे जो न्यूरल नेटवर्क अनुमानमध्ये समाविष्ट आहे, परंतु हे डेटा हालचाल, घड़ी वितरण आणि सर्किट घटकांमध्ये सक्रिय स्थिती ठेवण्याच्या आवश्यकतेतून अंतर्निहित ऊर्जा खर्च वहन करते जे वर्तमानमध्ये संगणनामध्ये योगदान देत नाहीत.

जैविक न्यूरल सर्किट्स माहिती अगदी वेगळ्या पद्धतीने हाताळतात. न्यूरॉन्स बहुतेकदा शांत असतात, केवळ संकेत थ्रेसहोल्ड ओलांडतो तेव्हा जाग होतात आणि संगणन नेटवर्कमध्ये वितरित केली जाते न की केंद्रीभूत प्रोसेसिंग युनिटमध्ये. मेंदू अंदाजे 20 वाट सतत विजेवर उल्लेखनीय संज्ञानात्मक कार्यप्रदर्शन साधते — एक मानदंड जे वर्तमान AI हार्डवेअर तुलनेने कार्य करताना पोहोचू शकत नाही.

न्यूरोमॉर्फिक चिप्स सिलिकॉनमध्ये या स्पाइक-आधारित, इव्हेंट-चालित आर्किटेक्चरच्या ऊर्जा कार्यक्षमता कॅप्चर करण्याचा प्रयत्न करतात. सतत घड़ी वाली संगणनाऐवजी, न्यूरोमॉर्फिक प्रोसेसर तेव्हा आग लगवतात जेव्हा इनपुट थ्रेसहोल्ड ओलांडतात, सक्रिय प्रोसेसिंगसाठी ऊर्जा वापरतात पूर्ण शक्तीवर निष्क्रिय राहण्याऐवजी संगणन चरणांमध्ये.

70 टक्के कार्यक्षमता लाभ

संशोधन संघाने प्रतिमा वर्गीकरण, नैसर्गिक भाषा अनुमान आणि सेंसर फ्यूजन यांचा समावेश असलेल्या अनेक मानक AI बेंचमार्क कार्यांमध्ये 70 टक्के ऊर्जा कमी साध्य केली — AI क्रियाकलाप जे दैनिक किनारी उपकरण, सर्व्हर फार्मे आणि मोबाइल अनुप्रयोगांमध्ये अरबो वेळा चलतात. ऊर्जा लाभ विरल, इव्हेंट-चालित इनपुट्ससाठी सर्वात उच्चारलेला होता — सेंसर डेटा, ऑडियो प्रवाह आणि रुक-रुक करुन विचारण्याचे पद्धती — जिथे न्यूरोमॉर्फिक चिपच्या इव्हेंट्समधील निष्क्रिय राहण्याची क्षमता इनपुट दरकडे दृष्टिक्षेप न करता घड़ी क्रियाकलाप ठेवणाऱ्या प्रोसेसर वर संरचनात्मक फायदा प्रदान करते.

चिप संशोधित मानक सेमीकंडक्टर प्रक्रिया वापरून निर्मित करणे एक महत्वपूर्ण व्यावहारिक फरक आहे पूर्वीच्या न्यूरोमॉर्फिक संशोधन प्लॅटफॉर्मपासून ज्यांना विदेशी निर्माण आवश्यक होते. परंपरागत सेमीकंडक्टर बुनियादी सुविधांचा वापर करणे म्हणजे तंत्रज्ञान समर्पित निर्माण गुंतवणूकीची आवश्यकता न करता विद्यमान चिप fab द्वारे स्केल केले जाऊ शकते.

अनुप्रयोग आणि मर्यादा

सर्वात तात्काळ अनुप्रयोग लक्ष्य किनारी AI परिस्थिती आहेत: औद्योगिक IoT मध्ये सेंसर नोड्स, श्रवण साधने आणि वैद्यकीय प्रत्यारोपण, ग्राहक इलेक्ट्रॉनिक्समध्ये हमेशा-चालू कीवर्ड शोध आणि स्वायत्त वाहन धारणा प्रणाली जिथे बॅटरी जीवन किंवा थर्मल मर्यादा AI अनुमानसाठी उपलब्ध विजेचे बजेट मर्यादित करतात. हे अनुप्रयोग वैशिष्ट्य सामायिक करतात की ते विरल, वास्तविक-जगतील सेंसर डेटावर सतत किंवा उच्च वारंवारतेवर अनुमान चलवतात — अचूक शासन जिथे न्यूरोमॉर्फिक कार्यक्षमता लाभ सर्वात मोठे आहेत.

डेटा सेंटर AI कार्यभारांसाठी — विशेषतः मोठ्या भाषा मॉडेल अनुमानासाठी जिथे प्रश्न घने आहेत आणि बॅच प्रोसेसिंग सामान्य आहे — ऊर्जा लाभ कमी नाटकीय आहेत. न्यूरोमॉर्फिक प्रोसेसर सर्व श्रेणीची AI framework आणि मॉडेल्स चलवण्यापूर्वी महत्वपूर्ण सॉफ्टवेअर इकोसिस्टम कार्य उरलेले आहे जे परंपरागत GPU वर चलतात, जे व्यापक दत्तक घेण्यासाठी प्राथमिक व्यावहारिक अडथळा दर्शवतात.

प्रतिस्पर्धी लँडस्केप

अनेक प्रमुख तंत्रज्ञान कंपन्या आणि संशोधन संस्था सक्रिय न्यूरोमॉर्फिक कार्यक्रम आहेत. Intel च्या Loihi चिपने विशिष्ट कार्यांमध्ये ऊर्जा कार्यक्षमता लाभ प्रदर्शित केले आहेत, आणि IBM च्या TrueNorth एक दशकाहून अधिक समय संशोधन अनुप्रयोगांसाठी वापरले जाते. Innatera, SpiNNcloud आणि BrainChip यांसारख्या स्टार्टअप्सने किनारी अनुप्रयोगांना लक्ष्य करणारे व्यावसायिक न्यूरोमॉर्फिक उत्पादने विकसित केली आहेत. 70 टक्के ऊर्जा कमी आकृती हाइपरस्केल डेटा सेंटर ऑपरेटरकडून महत्वपूर्ण व्याज निर्माण करेल जे सक्रियपणे AI अवसंरचनाशी संबंधित खगोल विज्ञान विजेचे बिल कमी करणारी कोणतीही तंत्रज्ञान शोधत आहेत — एक खर्च जो प्रत्येक मोठ्या तंत्रज्ञान कंपनीसाठी केंद्रीय रणनीतिक चिंता बनला आहे जो मोठ्या प्रमाणावर AI चालवत आहे.

हा लेख Interesting Engineering च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.