ಟೋಕನ್ ಬೇಡಿಕೆ ವಿಪರೀತವಾಗುತ್ತಿದೆ

Nvidia ಮತ್ತೊಮ್ಮೆ ದಾಖಲೆ ಪುಸ್ತಕಗಳನ್ನು ತಿರುಗಿ ಬರೆದಿದೆ. AI ಕಂಪ್ಯೂಟಿಂಗ್ ಮೂಲಸೌಕರ್ಯಕ್ಕಾಗಿ ಅಭೂತಪೂರ್ವ ಏರಿಕೆಯಿಂದಾಗಿ ಚಿಪ್‌ಮೇಕರ್ ಮತ್ತೊಂದು ದಾಖಲೆಯ ತ್ರೈಮಾಸಿಕ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ದಾಖಲಿಸಿದೆ. "ಜಗತ್ತಿನಲ್ಲಿ ಟೋಕನ್‌ಗಳ ಬೇಡಿಕೆ ಸಂಪೂರ್ಣವಾಗಿ ವಿಪರೀತವಾಗಿದೆ," ಹುವಾಂಗ್ ಅವರು ಆದಾಯದ ಘೋಷಣೆಯ ಸಮಯದಲ್ಲಿ ಹೇಳಿದ್ದಾರೆ, ಕಂಪನಿಯ ಅಸಾಧಾರಣ ಹಣಕಾಸು ಫಲಿತಾಂಶಗಳನ್ನು ಜಾಗತಿಕ ಆರ್ಥಿಕತೆಯು ಕಂಪ್ಯೂಟಿಂಗ್ ಶಕ್ತಿಯನ್ನು ಹೇಗೆ ಬಳಸುತ್ತದೆ ಎಂಬುದರಲ್ಲಿನ ಮೂಲಭೂತ ಬದಲಾವಣೆಯ ನೈಸರ್ಗಿಕ ಪರಿಣಾಮವಾಗಿ ವಿವರಿಸಿದ್ದಾರೆ.

AI ಮೂಲಸೌಕರ್ಯ ನಿರ್ಮಾಣದಲ್ಲಿ Nvidia ನ ಪ್ರಾಥಮಿಕ ಲಾಭದಾಯಕನಾಗಿ ಈ ಓಟ ಮುಂದುವರೆದಿದೆ. ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರರು ಫ್ರಂಟಿಯರ್ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡುವುದರಿಂದ ಹಿಡಿದು ಉದ್ಯಮಗಳು ಇನ್ಫರೆನ್ಸ್ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವವರೆಗೆ, ಪ್ರತಿ ವಲಯದ ಕಂಪನಿಗಳು AI ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನಿಯೋಜಿಸಲು ಓಡುತ್ತಿರುವಾಗ, Nvidia ನ GPU ಡೇಟಾ ಸೆಂಟರ್ ವ್ಯವಹಾರವು ಹಿಂದೆಂದೂ ತಂತ್ರಜ್ಞಾನ ಉದ್ಯಮವು ಕಂಡಿರದ ಬಂಡವಾಳ ವೆಚ್ಚದ ಚಕ್ರದ ಹೃದಯ ಬಡಿತವಾಗಿದೆ.

ಬಂಡವಾಳ ವೆಚ್ಚದ ಸೂಪರ್‌ಸೈಕಲ್ ಮುಂದುವರಿಯುತ್ತದೆ

Nvidia ದ ದಾಖಲೆಯ ತ್ರೈಮಾಸಿಕವು ವಿಶ್ವದ ಅತಿದೊಡ್ಡ ತಂತ್ರಜ್ಞಾನ ಕಂಪನಿಗಳಿಂದ ಐತಿಹಾಸಿಕ ಬಂಡವಾಳ ವೆಚ್ಚದ ಬದ್ಧತೆಗಳ ಹಿನ್ನೆಲೆಯಲ್ಲಿ ಬರುತ್ತದೆ. Microsoft, Google, Amazon ಮತ್ತು Meta ಸೇರಿದಂತೆ ಹೈಪರ್‌ಸ್ಕೇಲರ್‌ಗಳು AI ಮೂಲಸೌಕರ್ಯ ವೆಚ್ಚದಲ್ಲಿ ನೂರಾರು ಶತಕೋಟಿ ಡಾಲರ್‌ಗಳನ್ನು ಒಟ್ಟಾಗಿ ಭರವಸೆ ನೀಡಿದ್ದಾರೆ, ಆ ಹೂಡಿಕೆಯ ಹೆಚ್ಚಿನ ಭಾಗವು ನೇರವಾಗಿ Nvidia ದ ಡೇಟಾ ಸೆಂಟರ್ GPU ವ್ಯವಹಾರಕ್ಕೆ ಹರಿಯುತ್ತದೆ.

ವೆಚ್ಚದ ಪ್ರಮಾಣವು ಹೂಡಿಕೆದಾರರು ಮತ್ತು ವಿಶ್ಲೇಷಕರಿಂದ ಪುನರಾವರ್ತಿತ ಸಂದೇಹವನ್ನು ಹುಟ್ಟುಹಾಕಿದೆ, ಅವರು ಹೂಡಿಕೆಯ ಮೇಲಿನ ಲಾಭವು ಅಂತಹ ಅಗಾಧವಾದ ವೆಚ್ಚಗಳನ್ನು ಸಮರ್ಥಿಸಬಹುದೇ ಎಂದು ಪ್ರಶ್ನಿಸುತ್ತಾರೆ. ಆದರೂ ತ್ರೈಮಾಸಿಕದಿಂದ ತ್ರೈಮಾಸಿಕಕ್ಕೆ, ಪ್ರಮುಖ ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರರು ತಮ್ಮ ಬಂಡವಾಳ ವೆಚ್ಚದ ಯೋಜನೆಗಳನ್ನು ಕೇವಲ ನಿರ್ವಹಿಸಿಲ್ಲ, ಆದರೆ ವೇಗವರ್ಧಿಸಿದ್ದಾರೆ, ಇದು ಆಂತರಿಕ ಬೇಡಿಕೆಯ ಸಂಕೇತಗಳು ಮತ್ತು ಗ್ರಾಹಕರ ಸ್ವೀಕಾರದ ಮೆಟ್ರಿಕ್‌ಗಳು ಹೂಡಿಕೆ ಸಿದ್ಧಾಂತವನ್ನು ದೃಢೀಕರಿಸುತ್ತಲೇ ಇವೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ.

AMD ಯೊಂದಿಗೆ Meta ದ ಇತ್ತೀಚಿನ ದೊಡ್ಡ ಚಿಪ್ ಒಪ್ಪಂದದ ಘೋಷಣೆ — ಕೆಲವು ದಿನಗಳ ನಂತರ ಮಿಲಿಯನ್ ಗಟ್ಟಲೆ Nvidia GPUs ಗಳಿಗೆ ಬದ್ಧತೆ ನೀಡಿದ ನಂತರ — AI ಕಂಪ್ಯೂಟ್‌ಗೆ ಬೇಡಿಕೆ ಎಷ್ಟು ತೀವ್ರವಾಗಿದೆ ಎಂದರೆ ಅತಿದೊಡ್ಡ ಖರೀದಿದಾರರು ಸಹ ಚಿಪ್ ಮಾರಾಟಗಾರರ ನಡುವೆ ಆಯ್ಕೆ ಮಾಡುವ ಬದಲು ತಮ್ಮ ಪೂರೈಕೆದಾರರ ನೆಲೆಯನ್ನು ವೈವಿಧ್ಯಗೊಳಿಸುತ್ತಿದ್ದಾರೆ ಎಂದು ವಿವರಿಸುತ್ತದೆ. AI ಮೂಲಸೌಕರ್ಯ ಮಾರುಕಟ್ಟೆಯು ಏಕಕಾಲದಲ್ಲಿ ಬಹು ವಿಜೇತರನ್ನು ಬೆಂಬಲಿಸಲು ಸಾಕಷ್ಟು ದೊಡ್ಡದಾಗಿದೆ.

ತರಬೇತಿಯ ಹೊರಗೆ: ಇನ್ಫರೆನ್ಸ್ ಅವಕಾಶ

ಆರಂಭಿಕ AI ಬಂಡವಾಳ ವೆಚ್ಚದ ಚಕ್ರದ ಹೆಚ್ಚಿನ ಭಾಗವು ಫ್ರಂಟಿಯರ್ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡಲು ಅಗತ್ಯವಾದ ಅಗಾಧ ಕಂಪ್ಯೂಟ್ ಅವಶ್ಯಕತೆಗಳಿಂದ ನಡೆಸಲ್ಪಟ್ಟಿದ್ದರೂ, GPU ಬೇಡಿಕೆಯ ಹೆಚ್ಚುತ್ತಿರುವ ಪಾಲು ಈಗ ಇನ್ಫರೆನ್ಸ್‌ನಿಂದ ಬರುತ್ತಿದೆ — ಬಳಕೆದಾರರ ವಿನಂತಿಗಳನ್ನು ಪೂರೈಸಲು ತರಬೇತಿ ಪಡೆದ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸುವ ಪ್ರಕ್ರಿಯೆ. AI ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಸಂಶೋಧನಾ ಪ್ರಯೋಗಾಲಯಗಳಿಂದ ಹೊರಬಂದು ಲಕ್ಷಾಂತರ ಬಳಕೆದಾರರಿಗೆ ಸೇವೆ ಸಲ್ಲಿಸುವ ಉತ್ಪಾದನಾ ನಿಯೋಜನೆಗಳಿಗೆ ಹೋದಂತೆ, ಇನ್ಫರೆನ್ಸ್ ಕಂಪ್ಯೂಟ್ ಫೂಟ್‌ಪ್ರಿಂಟ್ ವೇಗವಾಗಿ ವಿಸ್ತರಿಸುತ್ತಿದೆ.

ಈ ಬದಲಾವಣೆಯು Nvidia ಗೆ ವಿಶೇಷವಾಗಿ ಮಹತ್ವದ್ದಾಗಿದೆ ಏಕೆಂದರೆ ಇನ್ಫರೆನ್ಸ್ ಕಾರ್ಯಭಾರಗಳು ತರಬೇತಿಗಿಂತ ದೊಡ್ಡ ಮತ್ತು ಹೆಚ್ಚು ಸ್ಥಿರವಾದ ಬೇಡಿಕೆಯ ಚಾಲಕವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತವೆ. ಮಾದರಿಗೆ ತರಬೇತಿ ನೀಡುವುದು ಒಂದು-ಬಾರಿ ಬಂಡವಾಳ ವೆಚ್ಚವಾಗಿದೆ, ಆದರೂ ಅದು ಅಗಾಧವಾಗಿದೆ. ಇದಕ್ಕೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, ಇನ್ಫರೆನ್ಸ್, ಬಳಕೆಯೊಂದಿಗೆ ಪ್ರಮಾಣದ ನಿರಂತರ ಕಂಪ್ಯೂಟ್ ಬೇಡಿಕೆಯನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ. ಹೆಚ್ಚಿನ ಅಪ್ಲಿಕೇಶನ್‌ಗಳು AI ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಸಂಯೋಜಿಸಿದಂತೆ ಮತ್ತು ಬಳಕೆದಾರರ ಸ್ವೀಕಾರವು ಬೆಳೆದಂತೆ, ಇನ್ಫರೆನ್ಸ್ ಬೇಡಿಕೆಯು ತರಬೇತಿಯು ಮಾಡಲಾಗದ ರೀತಿಯಲ್ಲಿ ಸಂಯೋಜಿಸುತ್ತದೆ.

ಹುಆಂಗ್ ಅವರ ವಿಪರೀತ ಟೋಕನ್ ಬೇಡಿಕೆಯ ಉಲ್ಲೇಖವು ಈ ಡೈನಾಮಿಕ್ ಅನ್ನು ನೇರವಾಗಿ ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ. ಪ್ರತಿ AI-ಚಾಲಿತ ಚಾಟ್‌ಬಾಟ್ ಪ್ರತಿಕ್ರಿಯೆ, ಕೋಡ್ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆ, ಚಿತ್ರ ಉತ್ಪಾದನೆ ಮತ್ತು ಎಂಟರ್‌ಪ್ರೈಸ್ ಆಟೊಮೇಷನ್ ವರ್ಕ್‌ಫ್ಲೋ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಅದನ್ನು ಉತ್ಪಾದಿಸಲು GPU ಕಂಪ್ಯೂಟ್ ಅಗತ್ಯವಿದೆ. AI ದೈನಂದಿನ ಡಿಜಿಟಲ್ ಸಂವಹನಗಳಲ್ಲಿ ಹೆಚ್ಚು ಸಂಯೋಜಿತವಾಗುತ್ತಿದ್ದಂತೆ, ಪ್ರಪಂಚವು ಹೆಚ್ಚು ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಮತ್ತು ಅವುಗಳನ್ನು ಉತ್ಪಾದಿಸಲು ಹೆಚ್ಚು GPUs ಅಗತ್ಯವಿದೆ.

ಸ್ಪರ್ಧಾತ್ಮಕ ಭೂದೃಶ್ಯ

ಅದರ ಪ್ರಬಲ ಮಾರುಕಟ್ಟೆ ಸ್ಥಾನದ ಹೊರತಾಗಿಯೂ, Nvidia ಹೆಚ್ಚುತ್ತಿರುವ ಸ್ಪರ್ಧಾತ್ಮಕ ವಾತಾವರಣವನ್ನು ಎದುರಿಸುತ್ತಿದೆ. Meta ದ ಇತ್ತೀಚಿನ ಬಹು-ಬಿಲಿಯನ್ ಡಾಲರ್ ಖರೀದಿ ಬದ್ಧತೆಯಿಂದ ಸಾಕ್ಷಿಯಾದಂತೆ, AMD ಅದರ MI-ಸರಣಿಯ ವೇಗವರ್ಧಕಗಳೊಂದಿಗೆ ಗಮನ ಸೆಳೆಯುತ್ತಿದೆ. Google ನ TPUs, Amazon ನ Trainium ಚಿಪ್ಸ್ ಮತ್ತು Microsoft ನ Maia ವೇಗವರ್ಧಕಗಳು ಸೇರಿದಂತೆ ಪ್ರಮುಖ ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರರಿಂದ ಕಸ್ಟಮ್ ಸಿಲಿಕಾನ್ ಸ್ಪರ್ಧೆಯ ಮತ್ತೊಂದು ವೆಕ್ಟರ್ ಅನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ, ಏಕೆಂದರೆ ಹೈಪರ್‌ಸ್ಕೇಲರ್‌ಗಳು ಯಾವುದೇ ಒಂದು ಪೂರೈಕೆದಾರರ ಮೇಲಿನ ತಮ್ಮ ಅವಲಂಬನೆಯನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಪ್ರಯತ್ನಿಸುತ್ತಾರೆ.

Nvidia ಹಾರ್ಡ್‌ವೇರ್ ಕಾರ್ಯಕ್ಷಮತೆ, ಗಮನಾರ್ಹ ಸ್ವಿಚಿಂಗ್ ವೆಚ್ಚಗಳನ್ನು ರಚಿಸುವ CUDA ಸಾಫ್ಟ್‌ವೇರ್ ಪರಿಸರ ವ್ಯವಸ್ಥೆ ಮತ್ತು ಸ್ಪರ್ಧಿಗಳನ್ನು ಹಿಂದಿನ ಪೀಳಿಗೆಯೊಂದಿಗೆ ನಿರಂತರವಾಗಿ ಹಿಡಿಯಲು ಇರಿಸುವ ವೇಗದ ಉತ್ಪನ್ನ ಕ್ಯಾಡೆನ್ಸ್‌ನ ಸಂಯೋಜನೆಯ ಮೂಲಕ ತನ್ನ ಮುನ್ನಡೆಯನ್ನು ಕಾಯ್ದುಕೊಂಡಿದೆ. ಕಂಪನಿಯ ಮುಂಬರುವ Blackwell Ultra ಮತ್ತು Rubin ಆರ್ಕಿಟೆಕ್ಚರ್‌ಗಳು AI ಸ್ಕೇಲಿಂಗ್‌ನ ಮುಂದಿನ ಪೀಳಿಗೆಯ ಮೂಲಕ ಈ ಕಾರ್ಯಕ್ಷಮತೆಯ ನಾಯಕತ್ವವನ್ನು ನಿರ್ವಹಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.

AI ಉದ್ಯಮಕ್ಕೆ ಸಂಖ್ಯೆಗಳು ಏನು ಅರ್ಥೈಸುತ್ತವೆ

Nvidia ದ ನಿರಂತರ ದಾಖಲೆಯ ಕಾರ್ಯಕ್ಷಮತೆಯು ವಿಶಾಲವಾದ AI ಉದ್ಯಮದ ಆರೋಗ್ಯ ಮತ್ತು ಪಥಕ್ಕೆ ಬಾರೋಮೀಟರ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಕಂಪನಿಯ ಆದಾಯದ ಬೆಳವಣಿಗೆಯು ಸಂಸ್ಥೆಗಳು AI ಮಹತ್ವಾಕಾಂಕ್ಷೆಗಳನ್ನು નક્ರ ಮೂಲಸೌಕರ್ಯ ಹೂಡಿಕೆಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತಿರುವ ವೇಗವನ್ನು ನೇರವಾಗಿ ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ. Nvidia ದಾಖಲೆಗಳನ್ನು ಪೋಸ್ಟ್ ಮಾಡುತ್ತಿರುವವರೆಗೆ, ಸಂಕೇತವು ಸ್ಪಷ್ಟವಾಗಿದೆ: AI ನಿರ್ಮಾಣವು ವೇಗವರ್ಧನೆಗೊಳ್ಳುತ್ತಿದೆ, ಸ್ಥಗಿತಗೊಳ್ಳುತ್ತಿಲ್ಲ.

ತಂತ್ರಜ್ಞಾನ ವಲಯ ಮತ್ತು ವಿಶಾಲವಾದ ಆರ್ಥಿಕತೆಗೆ, AI ಮೂಲಸೌಕರ್ಯ ವೆಚ್ಚವು ಮುಂದುವರಿಯುತ್ತದೆಯೇ ಎಂಬುದು ಪ್ರಶ್ನೆಯಲ್ಲ — ಅದು ಸ್ಪಷ್ಟವಾಗಿ ಮುಂದುವರಿಯುತ್ತದೆ — ಆದರೆ ಆ ಮೂಲಸೌಕರ್ಯದ ಮೇಲೆ ನಿರ್ಮಿಸಲಾದ ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಮತ್ತು ಆದಾಯದ ಹರಿವು ಅಂತಿಮವಾಗಿ ಹೂಡಿಕೆಯನ್ನು ಸಮರ್ಥಿಸುವ ಆದಾಯವನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆಯೇ ಎಂಬುದು ಪ್ರಶ್ನೆ. Nvidia ದ ಹಣಕಾಸು ಫಲಿತಾಂಶಗಳು ಸಿಲಿಕಾನ್‌ಗೆ ಹತ್ತಿರವಿರುವ ಕಂಪನಿಗಳು ಉತ್ತರ 'ಹೌದು' ಎಂದು ವಿಶ್ವಾಸ ಹೊಂದಿವೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. ಉಳಿದ ಉದ್ಯಮವು ಇನ್ನೂ ಅದನ್ನು ಸಾಬೀತುಪಡಿಸಲು ಕೆಲಸ ಮಾಡುತ್ತಿದೆ.

ಈ ಲೇಖನವು TechCrunch ನ ವರದಿಯನ್ನು ಆಧರಿಸಿದೆ. ಅಸಲಿ ಲೇಖನವನ್ನು ಓದಿ.