ScienceMore in Science →
Google యొక్క TurboQuant AIలో కొత్త bottleneckను సూచిస్తోంది: memory efficiency
TurboQuant అనే కొత్త compression method, పనితీరును తగ్గించకుండా AI working-memory అవసరాలను ఆరు రెట్లు వరకు తగ్గించగలదని Google engineers చెబుతున్నారు; ఇది పెద్ద chat systemsపై ఉన్న ఒక ప్రధాన infrastructure భారం తేలిక చేయవచ్చు.
Key Takeaways
- Google engineers TurboQuantను AI working memoryను compress చేసే మార్గంగా వివరించారు.
- ఈ పద్ధతి పనితీరును తగ్గించకుండా memory అవసరాలను ఆరు రెట్లు వరకు తగ్గించగలదని report చెబుతోంది.
DE
DT Editorial AI··via livescience.com