ఒక చిప్ తయారీదారు మరియు ఒక హైపర్స్కేలర్ AI ఇన్ఫ్రాస్ట్రక్చర్పై కలుస్తున్నాయి
Qualcomm Technologies Inc. పెద్ద ఎత్తున కంప్యూటింగ్ కోసం స్కేల్లో అనుకూలీకరించిన సిలికాన్ను అందుబాటులోకి తీసుకురావడంపై కేంద్రీకృతమైన ఒప్పందం కింద Amazonతో సహకరిస్తోంది. Interesting Engineering నివేదిక ప్రకారం, ఈ ఒప్పందం నెక్స్ట్-జెనరేషన్ AI డేటా సెంటర్ ఇన్ఫ్రాస్ట్రక్చర్ వైపు సూచిస్తుంది: ముడి విద్యుత్తును ఉపయోగకరమైన మెషిన్ ఇంటెలిజెన్స్గా మార్చే ర్యాక్లు, యాక్సిలరేటర్లు, నెట్వర్కింగ్ పరికరాలు మరియు పవర్ సిస్టమ్లు.
ఈ జోడీ రెండు విభిన్న రకాల స్కేల్లను ఒకచోట చేర్చడం వల్ల గమనించదగ్గది. Qualcomm శక్తి-సున్నితమైన ప్రాసెసర్లను రూపకల్పన చేయడంలో అనుభవజ్ఞుడైన డిజైనర్, మరియు Amazon ప్రపంచంలోని అతిపెద్ద క్లౌడ్ మరియు లాజిస్టిక్స్ ఫుట్ప్రింట్లలో ఒకటి నిర్వహిస్తుంది. ఆ పరిమాణంలోని కంపెనీలు కస్టమ్ చిప్లపై కలిసి పనిచేయడానికి అంగీకరించినప్పుడు, దాని ప్రభావాలు ప్రారంభ ప్రకటనను మించి చాలా దూరం వరకు ఉంటాయి.
స్కేల్లో అనుకూలీకరించిన సిలికాన్ అనేది కీలక పదబంధం ఎందుకు
ఒప్పందం యొక్క పదజాలం ముఖ్యం. ఇది కేవలం ఆఫ్-ది-షెల్ఫ్ హార్డ్వేర్ను కొనడం మాత్రమే కాదు; ఇది నిర్దిష్ట కస్టమర్ అవసరాలకు అనుగుణంగా సిలికాన్ను రూపకల్పన చేయడం మరియు తరువాత దానిని వాణిజ్య పరిమాణంలో ఉత్పత్తి చేయడం గురించి. ఇవి రెండు వేర్వేరు ఇంజినీరింగ్ సమస్యలు, మరియు రెండింటినీ ఒకేసారి పరిష్కరించడం ఒక పైలట్ ప్రాజెక్ట్ను నిజమైన డిప్లాయ్మెంట్ నుండి వేరు చేస్తుంది.
వర్క్లోడ్-నిర్దిష్ట రూపకల్పన
సాధారణ-ప్రయోజన చిప్లు అనేక రకాల పనులను ఆమోదయోగ్యంగా నిర్వహించడానికి నిర్మించబడతాయి. దీనికి విరుద్ధంగా, AI శిక్షణ మరియు ఇన్ఫరెన్స్ నిర్దిష్ట డేటా రకాలు, మెమరీ బ్యాండ్విడ్త్ ప్రొఫైల్స్ మరియు ఇంటర్కనెక్ట్ టోపోలాజీలకు ట్యూన్ చేయబడిన చిప్లకు ప్రతిఫలం ఇస్తాయి. అనుకూలీకరించిన సిలికాన్ కొనుగోలుదారుకు సౌలభ్యాన్ని సామర్థ్యం కోసం ఖచ్చితంగా సామర్థ్యం నేరుగా నిర్వహణ వ్యయంగా మారే ప్రదేశాలలో వ్యాపారం చేయడానికి అనుమతిస్తుంది.
స్కేల్ సమస్య
వాల్యూమ్లు ఇంజినీరింగ్ పెట్టుబడిని సమర్థించినప్పుడు మాత్రమే కస్టమ్ డిజైన్ విలువైనది. స్కేల్లో అనే పదబంధం ఫలిత భాగాలు ప్రయోగశాలలో ప్రదర్శించబడటం కాకుండా అర్థవంతమైన పరిమాణంలో తయారు చేయబడి మరియు డిప్లాయ్ చేయబడతాయని సూచిస్తుంది. AI ఇన్ఫ్రాస్ట్రక్చర్ కోసం, స్కేల్ అనేది సరఫరా గొలుసు ప్రశ్న కూడా: వాల్యూమ్లో ఉత్పత్తి చేయలేని చిప్ అడ్డంకిని తగ్గించలేదు.
Qualcomm ఏమి అందిస్తుంది
Qualcomm యొక్క ఖ్యాతి కఠినమైన శక్తి మరియు థర్మల్ బడ్జెట్లలో చాలా పని చేసే ప్రాసెసర్లను రూపకల్పన చేయడంపై ఆధారపడి ఉంటుంది, ఇది మొబైల్ మరియు ఎడ్జ్ పరికరాలలో పదును పెట్టబడిన క్రమశిక్షణ. డేటా సెంటర్లు వేర్వేరు పరిమితులను విధిస్తాయి, కానీ అంతర్లీన నైపుణ్యం మొదట కనిపించే దానికంటే ఎక్కువ అతివ్యాప్తి చెందుతుంది.
శక్తి సామర్థ్యం, మెమరీ సోపానక్రమం మరియు కనెక్టివిటీతో కంప్యూట్ యొక్క ఏకీకరణ అన్నీ ఆ అనుభవం సంబంధితంగా ఉన్న ప్రాంతాలు, మరియు అవి ఇచ్చిన మెగావాట్ నుండి డేటా సెంటర్ ఎంత ఉపయోగకరమైన పనిని సంగ్రహించగలదో నిర్ణయించే సరిగ్గా లివర్లు. శక్తి మరియు శీతలీకరణ ఖర్చులు AI ఆర్థిక శాస్త్రాన్ని రూపొందించే యుగంలో, ఆ లివర్లు ముడి థ్రూపుట్ సంఖ్యలంత ముఖ్యమైనవి.
Amazon బయటి సిలికాన్ భాగస్వామితో ఎందుకు పనిచేస్తుంది
పెద్ద క్లౌడ్ ఆపరేటర్లు తమ స్వంత హార్డ్వేర్ విధిని నియంత్రించడానికి బలమైన ప్రోత్సాహకాలను కలిగి ఉంటారు. ఇంట్లో సిలికాన్ను రూపకల్పన చేయడం వ్యాపార చిప్ విక్రేతలపై ఆధారపడటాన్ని తగ్గించగలదు, కఠినమైన సాఫ్ట్వేర్-హార్డ్వేర్ సహ-రూపకల్పనను అనుమతించగలదు మరియు పోటీదారులు కేవలం కొనుగోలు చేయలేని భేదాన్ని సృష్టించగలదు. అదే సమయంలో, ఏ ఒక్క కంపెనీ కూడా ఒంటరిగా ప్రతిదీ చేయలేదు, ముఖ్యంగా AI డిమాండ్ ఏ ఒక్క డిజైన్ బృందం లేదా ఫ్యాబ్రికేషన్ కేటాయింపు సామర్థ్యాన్ని మించిపోతున్నందున.
వైవిధ్యీకరణ
అదనపు భాగస్వామితో పనిచేయడం కొనుగోలుదారుకు ధర పాయింట్లు, పనితీరు శ్రేణులు మరియు తయారీ షెడ్యూల్లలో ఎక్కువ ఎంపికలను ఇస్తుంది. యాక్సిలరేటర్ సరఫరా పదేపదే AI డిప్లాయ్మెంట్లకు పరిమితి కారకంగా మారిన మార్కెట్లో, ఐచ్ఛికత నిజమైన విలువను కలిగి ఉంటుంది.
ఖర్చు మరియు నియంత్రణ
కస్టమ్ సిలికాన్ చివరికి ఒక ఆర్థిక పందెం: డిప్లాయ్మెంట్ జీవితకాలంలో డాలర్ మరియు వాట్కు మెరుగైన పనితీరు కోసం ఎక్కువ ముందస్తు డిజైన్ ఖర్చు. పందెం ఫలించినట్లయితే, అది AI పని యూనిట్కు తక్కువ ఖర్చుగా కనిపిస్తుంది, ఇది చాలా పెద్ద మోడల్లను అసలు ఎవరు నడపగలరో నిర్ణయించే కొలమానం.
ప్రకటన ఇంకా మనకు ఏమి చెప్పదు
అందుబాటులో ఉన్న నివేదిక సహకారాన్ని ఉన్నత స్థాయిలో కవర్ చేస్తుంది. అనేక ప్రశ్నలు తెరిచి ఉన్నాయి, మరియు పాఠకులు వాటిని అలాగే పరిగణించాలి:
- అనుకూలీకరించిన సిలికాన్ ఏ నిర్దిష్ట వర్క్లోడ్లకు, శిక్షణ లేదా ఇన్ఫరెన్స్ లేదా రెండింటికీ, సేవ చేయడానికి ఉద్దేశించబడింది.
- Qualcomm పూర్తి యాక్సిలరేటర్లు, సహాయక భాగాలు లేదా ప్రధానంగా డిజైన్ నైపుణ్యాన్ని అందిస్తోందా.
- వాణిజ్య నిబంధనలు ఏమిటి, మరియు రెండు కంపెనీల మధ్య పని ఎలా విభజించబడుతుంది.
- ఏదైనా ఫలిత హార్డ్వేర్ ఎప్పుడు ఉత్పత్తికి చేరుకుంటుంది, మరియు ఏ వాల్యూమ్లో.
- ఈ ప్రయత్నం Amazon యొక్క ఇతర సిలికాన్ కార్యక్రమాలు మరియు దాని ప్రస్తుత సరఫరాదారు సంబంధాలతో పాటు ఎలా సరిపోతుంది.
ప్రకటన ఏమి కాదో కూడా గమనించదగ్గది. అందుబాటులో ఉన్న నివేదికలో ప్రత్యేక ఏర్పాటు గురించి ఎటువంటి సూచన లేదు, లేదా రెండు కంపెనీలలో ఏదైనా తన ఇతర సిలికాన్ సంబంధాలను వదిలివేస్తోందని ఎటువంటి సూచన లేదు. పెద్ద ఇన్ఫ్రాస్ట్రక్చర్ కొనుగోలుదారులు అరుదుగా ఒకే సరఫరాదారుపై పందెం వేస్తారు, మరియు చిప్ తయారీదారులు అరుదుగా తమను ఒక కస్టమర్కు కట్టివేస్తారు. ఈ ఒప్పందం యొక్క ఎక్కువ సంభావ్య ఆకృతి సంకలనం: ఒక కంపెనీకి అనుకూలీకరించిన హార్డ్వేర్కు మరో మార్గం, మరియు మరొకదానికి డిమాండింగ్, అధిక-వాల్యూమ్ మార్కెట్కు మరో ఛానెల్.
AI పరిశ్రమకు విస్తృత సంకేతం
ఇలాంటి ప్రకటనలను ఒకే లావాదేవీ కాకుండా నిర్మాణాత్మక మార్పుకు సాక్ష్యంగా చదవడం ఉత్తమం. గత కొన్ని సంవత్సరాలుగా, కృత్రిమ మేధస్సులో పోటీ సరిహద్దు మోడల్ సామర్థ్యం ఆధిపత్యం చెలాయించింది. పెరుగుతున్న కొద్దీ, బైండింగ్ పరిమితి భౌతికమైనది: విద్యుత్తు, శీతలీకరణ, ఫ్యాబ్రికేషన్ సామర్థ్యం, మరియు చిప్లను బిజీగా ఉంచడానికి వాటి మధ్య డేటాను తగినంత వేగంగా తరలించే సామర్థ్యం.
ఆ మార్పు ఎవరు ముఖ్యమో మారుస్తుంది. చిప్ డిజైనర్లు, ఫౌండ్రీలు, విద్యుత్ ప్రదాతలు మరియు ఇన్ఫ్రాస్ట్రక్చర్ బిల్డర్లు ఇప్పుడు AI కథనం యొక్క కేంద్రానికి చాలా దగ్గరగా కూర్చున్నారు, సాఫ్ట్వేర్ ఒంటరిగా ఫలితాలను నిర్ణయించేలా కనిపించిన సమయంలో కంటే. సెమీకండక్టర్ డిజైనర్ను హైపర్స్కేల్ ఆపరేటర్తో జత చేసే ఒప్పందం ఆ వాస్తవికతకు నేరుగా ప్రతిస్పందన.
ఇది కస్టమ్ సిలికాన్ యుగం విస్తృతమవుతోందని కూడా సూచిస్తుంది. కొద్దిమంది అతిపెద్ద టెక్నాలజీ కంపెనీల ప్రయోగంగా ప్రారంభమైనది ఇప్పుడు పోటీ వ్యూహం యొక్క ప్రామాణిక సాధనంగా మారుతోంది, మరిన్ని సంస్థలు వ్యాపార మార్కెట్ అందించే దానిని అంగీకరించడం కాకుండా తమ స్వంత వర్క్లోడ్లకు అనుగుణంగా రూపొందించిన చిప్లను కోరుతున్నాయి.
తదుపరి ఏమి చూడాలి
- సహకారం యొక్క సాంకేతిక పరిధిని పేర్కొనే తదుపరి బహిర్గతాలు.
- కస్టమ్ భాగాలను ఏ తయారీ భాగస్వాములు ఉత్పత్తి చేస్తారనే ఏదైనా సూచన.
- ఇతర చిప్ తయారీదారుల నుండి ఇలాంటి హైపర్స్కేలర్ ఏర్పాట్ల గురించి సంకేతాలు.
- AI ఇన్ఫ్రాస్ట్రక్చర్ వ్యయం ఎంత వేగంగా రవాణా చేయబడిన, ఇన్స్టాల్ చేయబడిన హార్డ్వేర్గా మారుతుంది.
ప్రస్తుతానికి, Qualcomm మరియు Amazon ఒప్పందం ఉద్దేశ్యం యొక్క స్పష్టమైన ప్రకటనగా నిలుస్తుంది: స్కేల్లో నిర్మించిన అనుకూలీకరించిన సిలికాన్, నెక్స్ట్ జనరేషన్ AI డేటా సెంటర్లను నేరుగా లక్ష్యంగా చేసుకుని. ఇంకా రావాల్సిన వివరాలు అది ఒక పాదసూచికగా మారుతుందో లేదా ఒక బ్లూప్రింట్గా మారుతుందో నిర్ణయిస్తాయి.
ఈ వ్యాసం Interesting Engineering నివేదిక ఆధారంగా రూపొందించబడింది. అసలు వ్యాసం చదవండి.
Originally published on interestingengineering.com
