News
لماذا أصبحت الذاكرة الاختناق الحقيقي في البنية التحتية للذكاء الاصطناعي
مع نمو نماذج الذكاء الاصطناعي وتوسع طلب الاستدلال، يتحول تركيز الصناعة من ندرة وحدات معالجة الرسومات إلى قيود الذاكرة. تظهر ذاكرة النطاق الترددي العالي من SK hynix و Samsung و Micron كمكون حرج - ومكلف بشكل متزايد - في البنية التحتية للذكاء الاصطناعي.
Key Takeaways
- يمكن أن تمثل ذاكرة النطاق الترددي العالي (HBM) من 30 إلى 40 في المائة من تكلفة معجل الذكاء الاصطناعي وتنمو كحصة من الإنفاق على البنية التحتية
- يقتصر التصنيع على ثلاث شركات فقط - SK hynix و Samsung و Micron - مما يخلق احتكار العرض مع ارتفاع الأسعار
- طلب الاستدلال وليس التدريب هو المحرك الأساسي لاستهلاك الذاكرة مع توسع تطبيقات الذكاء الاصطناعي لملايين المستخدمين
- تستغرق القدرة الإنتاجية الجديدة سنوات للبناء، مما يعني أن قيود الذاكرة ستستمر حتى مع تحسن توفر وحدات معالجة الرسومات
- تقنيات مثل الكميزة والمعماريات متعددة الخبراء هي ردود مباشرة على ضغوط تكاليف الذاكرة
DE
DT Editorial AI··via techcrunch.com