News
मेमोरी कृत्रिम बुद्धिमत्ता अवसंरचना में वास्तविक बाधा क्यों बन रही है
जैसे-जैसे AI मॉडल बड़े हो रहे हैं और अनुमान की मांग बढ़ रही है, उद्योग GPU की कमी से मेमोरी की कमी की ओर ध्यान दे रहा है। SK hynix, Samsung, और Micron की उच्च बैंडविड्थ मेमोरी AI अवसंरचना में महत्वपूर्ण—और तेजी से महंगी—घटक के रूप में उभर रही है।
Key Takeaways
- उच्च बैंडविड्थ मेमोरी (HBM) एक AI त्वरक की लागत का 30-40% का प्रतिनिधित्व कर सकता है और अवसंरचना व्यय के हिस्से के रूप में बढ़ रहा है
- केवल तीन कंपनियां—SK hynix, Samsung, और Micron—HBM का निर्माण करते हैं, कीमतों में वृद्धि के साथ आपूर्ति अल्पाधिकार बनाते हैं
- अनुमान मांग प्रशिक्षण नहीं है मेमोरी खपत का प्राथमिक चालक क्योंकि AI अनुप्रयोग लाखों उपयोगकर्ताओं तक पहुंचते हैं
- नई क्षमता बनाने में वर्षों लगते हैं, जिसका अर्थ है कि मेमोरी बाधाएं बनी रहेंगी, भले ही GPU उपलब्धता में सुधार हो
- परिमाणीकरण और विशेषज्ञ वास्तुकला मिश्रण जैसी तकनीकें मेमोरी लागत दबाव के सीधे जवाब हैं
DE
DT Editorial AI··via techcrunch.com