பெரிய AI கிளஸ்டர்களுக்கான புதிய நெட்வொர்க்கிங் அடுக்கு

OpenAI, Multipath Reliable Connection அல்லது MRC-ஐ அறிமுகப்படுத்தியுள்ளது. இது பெரிய அளவிலான AI பயிற்சி அமைப்புகளுக்காக வடிவமைக்கப்பட்ட நெட்வொர்க்கிங் நெறிமுறை; இதில் GPUs இடையேயான தாமதங்கள் முழு பணியையும் மெதுவாக்கக்கூடும். AMD, Broadcom, Intel, Microsoft, மற்றும் NVIDIA ஆகிய நிறுவனங்களுடன் இணைந்து இந்த நெறிமுறையை உருவாக்கியதாகவும், பிற இயக்குநர்கள் அதை ஏற்றுக்கொள்ள முடியும் வகையில் அதன் விவரக்குறிப்பை Open Compute Project மூலம் வெளியிட்டதாகவும் நிறுவனம் கூறியது.

இந்த நடவடிக்கை frontier-model மேம்பாட்டில் அதிகம் தெரியாத தடைகளில் ஒன்றை குறிவைக்கிறது. பயிற்சி ஓட்டங்கள் வேகப்படுத்திகளில் இடையே நகரும் மிகப்பெரிய அளவிலான தரவின்மீது சார்ந்திருக்கின்றன; ஒரு தாமதமான பரிமாற்றமே கூட விலை உயர்ந்த வன்பொருளை பயனின்றி காத்திருப்பதில் நிறுத்தலாம். கிளஸ்டர்கள் பெரிதாகும் போது நெரிசல், இணைப்பு தோல்விகள், மற்றும் ரௌட்டிங் சிக்கல்கள் போதுமான அளவு அடிக்கடி நிகழ்வதால், நெட்வொர்க் வடிவமைப்பே பயிற்சியின் வேகத்தையும் நம்பகத்தன்மையையும் தீர்மானிக்கும் முக்கிய காரணியாகிறது என OpenAI வாதிடுகிறது.

MRC எதை சரிசெய்யும் நோக்கத்தில் உள்ளது

அமைப்பைப் பற்றிய தனது விளக்கத்தில், இந்த நெறிமுறை மூன்று கருத்துகளை மையமாகக் கொண்டதாக OpenAI கூறியது: redundancy-க்கு multi-plane high-speed networks, core congestion-ஐ குறைக்க adaptive packet spraying, மற்றும் தோல்விகளை சமாளிக்க static source routing. சிக்கலை குறைத்தபடி resilience-ஐ மேம்படுத்தும் வழியாக இந்தத் தேர்வுகளை நிறுவனம் விளக்கியது.

மூலப் பிரச்சினை அளவுதான். ஒரு நவீன பயிற்சி படி, ஒரு supercomputer fabric-இல் மில்லியன்கணக்கான தரவு பரிமாற்றங்களைத் தேவைப்படுத்தலாம். ஒரு network path நெரிசலாகிவிட்டாலோ அல்லது ஒரு சாதனம் தோல்வியுற்றாலோ, அந்த இடையூறு பரவி, பல GPUs-களில் நடைபெறும் ஒத்திசைந்த பணியை நிறுத்திவிடும். இந்த பிரச்சினைகள் பரவாமல் தடுக்கும் நோக்கில், போக்குவரத்தை மேலும் திறமையாகப் பகிர்ந்து, பலவீனமான routing நடத்தை மீது சார்ந்திருக்காமல் தோல்விகளைத் தாண்டிச் செல்ல MRC வடிவமைக்கப்பட்டுள்ளதாக OpenAI கூறியது.

மூன்று முக்கிய வடிவமைப்பு தேர்வுகள்

  • Multi-plane networking, சில மாற்றுகளைக் காட்டிலும் குறைவான கூறுகள் மற்றும் குறைந்த மின்சாரத்துடன் redundancy வழங்கும் நோக்கத்தைக் கொண்டுள்ளது.
  • Adaptive packet spraying, network core-இல் hot spots-ஐ குறைக்க போக்குவரத்தை பல பாதைகளில் பரப்புகிறது.
  • Static source routing, deployment-இல் தோல்விகளைத் தாண்டி routing failure வகைகளையே முற்றிலும் தவிர்க்க பயன்படுகிறது.
Create, edit and star in videos with two Google Vids updates
More in AI & Robotics

Google Vids-இல் Gemini Omni மற்றும் தனிப்பட்ட அவதாரங்கள் சேர்க்கப்பட்டன

Google Workspace-இல் AI வீடியோ உருவாக்கத்தை Google விரிவுபடுத்துகிறது; இதில் prompt-அடிப்படையிலான கிளிப் உருவாக்கம், திருத்தம், மேலும் selfie மற்றும் குரல் பதிவில் இருந்து உருவாக்கப்படும் தனிப்பயன் அவதாரங்களும் உள்ளன.

Read article

இது ஒரு நிறுவனத்தைக் கடந்தும் ஏன் முக்கியம்

இந்த வெளியீட்டை OpenAI தனது விரிவான compute strategy-க்கும் Stargate அளவிலான infrastructure-க்கும் உள்ள தேவைகளுடனும் இணைத்தது. முக்கிய infrastructure அடுக்குகளில் பகிரப்பட்ட standards, AI systems-ஐ ஒரு பரந்த partner ecosystem-இல் அதிகச் செயல்திறனுடன் scale செய்ய உதவும் என்று நிறுவனம் கூறியது. OCP வழியாக விவரக்குறிப்பை வெளியிடுவது, AI கிளஸ்டர்களுக்கான networking design இப்போது தனிப்பட்ட implementation detail அல்ல, ஒரு பகிரப்பட்ட தொழில் பிரச்சினையாக பார்க்கப்படத் தொடங்கியுள்ளது என்பதையும் காட்டுகிறது.

model training-இன் பொருளாதாரம் chips மற்றும் power மட்டுமல்ல, operator-கள் கிளஸ்டர்களை எவ்வளவு பயனுள்ளதாக busy-ஆக வைத்திருக்க முடியும் என்பதாலும் வடிவமைக்கப்படுகிறது. jitter-ஐ குறைத்து, failure-களை எளிதாக route around செய்யும் ஒரு நெறிமுறை, பெரிய deployments-இல் utilization-ஐ மேம்படுத்தலாம்; அதன் விளைவாக புதிய models எவ்வளவு விரைவாக train செய்யப்படலாம், குறிப்பிட்ட இலக்கை அடைய எவ்வளவு infrastructure கட்ட வேண்டும் என்பதிலும் தாக்கம் ஏற்படும்.

partner பட்டியலும் இந்தப் பிரச்சினை எவ்வளவு பரவலாகிவிட்டது என்பதை வலியுறுத்துகிறது. semiconductor vendors, cloud infrastructure operators, மற்றும் system builders அனைவரும் இதில் ஈடுபட்டுள்ளதால், AI networking தன்னிச்சையான ஒரு முக்கிய போட்டித் தளமாக மாறி வருகிறது என்பதைக் காட்டுகிறது. முழுமையான proprietary அணுகுமுறைக்கு பதிலாக OpenAI ஒரு open specification-ஐத் தேர்ந்தெடுத்தது, இந்த stack பகுதியை மூடிவைப்பதைவிட interoperability மற்றும் ecosystem adoption இப்போது அதிக மதிப்புடையவை என்ற நம்பிக்கையைச் சுட்டுகிறது.

பெரிய infrastructure signal

இந்த அறிவிப்பு ஒரு protocol feature காரணமாக மட்டும் குறிப்பிடத்தக்கதல்ல; AI infrastructure மீது அழுத்தம் எங்கு குவிகிறது என்பதையும் காட்டுவதால் முக்கியமானது. பல ஆண்டுகளாக model scaling குறித்த பொது உரையாடல் GPUs-ஐ மையமாக கொண்டிருந்தது. MRC அடுத்த நிலை தடையை வெளிப்படுத்துகிறது: accelerator எண்ணிக்கை மிகப்பெரிதாகும்போது, அவற்றுக்கிடையிலான network தான் theoretical compute உண்மையில் பயனுள்ள பணியாக மாறுமா என்பதை தீர்மானிக்கலாம்.

மிகப்பெரியதும் அதிக நம்பகத்தன்மை உடையதுமான training systems-க்கு செல்லும் பாதை, எளிமையான மற்றும் failure-tolerant network fabrics வழியாகத்தான் செல்கிறது என்று OpenAI வாதிடுகிறது. MRC உண்மையான deployments-இல் விளக்கப்பட்டபடி செயல்பட்டால், எதிர்கால hyperscale AI கிளஸ்டர்கள் எப்படி கட்டப்பட வேண்டும் என்பதற்கான எதிர்பார்ப்புகளை அது அமைக்க உதவும். குறைந்தபட்சமாக, இது AI infrastructure-இன் industrialization-இல் இன்னொரு படியாகும்; இங்கு முன்னேற்றம் model architecture-ஐ விட system engineering-இல் இருந்து கூடுதலாக வருகிறது.

இந்தக் கட்டுரை OpenAI செய்தித்தகவலின் அடிப்படையில் உள்ளது. மூலக் கட்டுரையைப் படிக்கவும்.

Originally published on openai.com