మెదడు-ప్రేరిత చిప్ AI హార్డ్‌వేర్ శక్తి వినియోగాన్ని 70 శతాంశం తగ్గిస్తుంది

AI యొక్క హృదయంలో శక్తి సంక్షోభం

కృత్రిమ బుద్ధిమత్త యొక్క విస్ఫోటక వృద్ధి శక్తి వినియోగ సమస్యను సృష్టించింది, ఇది ఇప్పుడు పట్టించుకోకుండా ఉండటం కష్టమైపోయింది. పెద్ద భాష నమూనాల శిక్షణకు విశాల గణన సంపద అవసరం, కానీ మరింత సాధారణమైన సవాలు అనుమితి — ఉత్పాదనలో AI నమూనాలను నడుపుతుంది, ప్రశ్నలకు సమాధానాలు ఇవ్వడానికి, చిత్రాలను విశ్లేషించడానికి లేదా సెన్సార్ డేటాను ప్రక్రియ చేయడానికి — పెద్ద ఎత్తున, శిక్షణ కంటే ఎక్కువ మొత్తం శక్తిని వినియోగిస్తుంది. డేటా సెంటర్ ఆపరేటర్లు మరియు పరికర నిర్మాతలు ఆధునిక శక్తి ఖర్చు యొక్క భిన్నంశలో AI పనితీరు అందించగల గణన ఆర్కిటెక్చర్‌ను కనుగొనే పెరుగుతున్న ఒత్తిడిలో ఉన్నారు.

శాస్త్రవేత్తల యొక్క ఒక సమూహం ఫలితాలను ప్రకటించారు, ఇవి చూపుతాయి, న్యూరోమార్ఫిక్ చిప్ — జీవ నాడీ సర్క్యూట్‌ల యొక్క స్పైక్-ఆధారిత, ఈవెంట్-నిర్దేశిత సమాచార ప్రక్రియకు అనుకూలితానికి రూపొందించిన — సాంప్రదాయక గ్రాఫిక్‌ల ప్రక్రియ యూనిట్‌ల లేదా అనువర్తన-నిర్దిష్ట AI త్వరణకర్తలకు కంటే 70 శతాంశం తక్కువ శక్తిలో AI అనుమితి కార్యభారాలను నడపగలదు. ఈ ఫలితం న్యూరోమార్ఫిక్ కంప్యూటింగ్‌ను ఎక్కువగా సైద్ధాంతిక సూచన నుండి AI హార్డ్‌వేర్ నిస్సారణకు నేరుగా సంబంధితత్వం కలిగిన ప్రదర్శిత ఇంజినీరింగ్ సామర్థ్యకు ముందుకు పెట్టుకుపోతుంది.

న్యూరోమార్ఫిక్ కంప్యూటింగ్ ఎలా భిన్నంగా ఉంది

సాంప్రదాయక గణన పూర్ణ మెమరీ మరియు ప్రక్రియ యూనిట్ల మధ్య డేటా యొక్క పెద్ద ब్లాక్‌లను స్థానభ్రంశం చేస్తుంది, సాంద్రమైన మాట్రిక్‌ల ఆపరేషన్‌లను నిర్వహిస్తుంది, ఇది ఎక్కువ బ్యాండ్‌విడ్‌థ్ మరియు నిరంతర విద్యుత్ సరఫరాకు కోరుకుంటుంది. ఈ విధానం చాలా సమాంతర, సమకాలీన గణనకు సమర్థవంతమైనది, నరాల నెట్‌వర్కు అనుమితి కలిగిన, కానీ ఇది డేటా చలనం, గడియారు పంపిణీ మరియు సర్క్యూట్ మూలకాలలో క్రియాశీల స్థితిని నిర్వహించుకోవడం నుండి స్వాభావిక శక్తి ఖర్చు కలిగి ఉంటుంది, ఇవి ప్రస్తుతం గణనకు సహకరించడం లేదు.

జీవ నాడీ సర్క్యూట్‌లు సమాచారాన్ని పూర్ణంగా భిన్న విధంగా నిర్వహిస్తాయి. న్యూరాన్‌లు చాలా వరకు నిస్సార ఉండిపోతాయి, సంకేతం థ్రెషహోల్డ్ అతిక్రమించినప్పుడు మాత్రమే నిప్పుకుటుమ్మడు, మరియు గణన కేంద్రీకృత ప్రక్రియ యూనిట్‌ల బదులుగా నెట్‌వర్క్ కోసం పంపిణీ చేయబడుతుంది. మెదడు సుమారు 20 వాట్‌ల నిరంతర విద్యుత్ శక్తిపై గమనీయ జ్ఞానసంబంధమైన పనితీరును సాధిస్తుంది — ఒక ఆధారస్థానం, ఇది ప్రస్తుత AI హార్డ్‌వేర్ సమానమైన కార్యకలాపాలను నిర్వహిస్తున్నప్పుడు చేరుకోలేదు.

న్యూరోమార్ఫిక్ చిప్‌లు సిలికన్‌లో ఈ స్పైక్-ఆధారిత, ఈవెంట్-నిర్దేశిత ఆర్కిటెక్చర్ యొక్క శక్తి సామర్థ్యాన్ని ఆరోహణ చేయడానికి ప్రయత్నిస్తాయి. నిరంతర గడియారు గణన యొక్క స్థానంలో, న్యూరోమార్ఫిక్ ప్రోసెసర్‌లు ఇన్‌పుట్‌లు థ్రెషహోల్డ్‌ను అతిక్రమించినప్పుడు నిప్పుకుటుమ్మడు, క్రియాశీల ప్రక్రియకు శక్తిని వినియోగిస్తాయి, గణన దశల మధ్య పూర్ణ శక్తిలో నిస్సార ఉండటానికి బదులుగా.

70 శతాంశం సామర్థ్య లాభం

పరిశోధన సమూహం చిత్ర విభజన, సహజ భాష అనుమితి మరియు సెన్సార్ ఫ్యూజన్‌కు చెందిన అనేక ప్రామాణిక AI బెంచ్‌మార్క్ పనుల్లో 70 శతాంశం శక్తి తగ్గింపును సాధించారు — AI ఆపరేషన్ల సంబంధం, ఇది ప్రతిదిన అంచు సాధనాలలో, సర్వర్ ఫార్మ్‌లో మరియు మొబైల్ అనువర్తనాలలో లక్ష డోసాలు నడుపుతుంది. శక్తి లాభం విరళ, ఈవెంట్-నిర్దేశిత ఇన్‌పుట్‌ల కోసం అత్యంత చెప్పటారు — సెన్సార్ డేటా, ఆడియో స్ట్రీమ్‌లు మరియు అంతరాయ ప్రశ్న నమూనాలు — ఇక్కడ న్యూరోమార్ఫిక్ చిప్ యొక్క ఈవెంట్‌ల యొక్క నిస్సార ఉండటానికి సంబంధించిన సామర్థ్యం ఇన్‌పుట్ రేటుపై ఆధారపడకుండా గడియారు కార్యకలాపాన్ని నిర్వహించుకుటుమ్మడు ప్రోసెసర్‌ల సంబంధంగా నిర్మాణ లాభాన్ని అందిస్తుంది.

చిప్ సవరించిన ప్రామాణిక సెమీకండక్టర ప్రక్రియను ఉపయోగించి తయారుచేయబడింది, ఇది విదేశీ తయారీకి చెందిన ముందటి న్యూరోమార్ఫిక్ పరిశోధన ప్ల్యాట్‌ఫారమ్‌ల నుండి ఒక కీలక ఆచరణాత్మక పార్థక్యం. ప్రామాణిక సెమీకండక్టర సందర్భాన్ని ఉపయోగించటం అర్థం తక్కువ తయారీ సహకారం చేస్తుందని, సంబంధిత చిప్ fab ద్వారా విశ్లేషణ చేయబడవచ్చు.

అనువర్తనాలు మరియు పరిమితులు

అతిశీఘ్ర అనువర్తన లక్ష్యాలు అంచు AI దృశ్యాలు: పారిశ్రామిక IoT లో సెన్సార్ నోడ్‌లు, శ్రవణ సాధనాలు మరియు వైద్యపరమైన ప్రవేశాలు, ఉపభోక్త ఎలక్ట్రానిక్‌లలో సర్వదా-నిష్ప్రభ కీవర్డ్ గుర్తింపు మరియు స్వయం-నిర్దేశిత యানచర ఆలోచన వ్యవస్థలు, ఇక్కడ బ్యాటరీ జీవితకాలం లేదా ఉష్ణీయ పరిమితులు AI అనుమితికి సందర్భమైన శక్తి ఖర్చెను పరిమితం చేస్తాయి. ఈ అనువర్తనాలు సాధారణ లక్షణాన్ని పంచుకుంటాయి, అవి విరళ, నిజ-ప్రపంచ సెన్సార్ డేటాపై నిరంతరం లేదా ఎక్కువ పౌనఃపున్యంలో అనుమితిని నడుపుతాయి — సరిగ్గా ఆ శాసన ఇక్కడ న్యూరోమార్ఫిక్ సామర్థ్య లాభాలు అతిపెద్దవి ఉన్నాయి.

డేటా సెంటర్ AI కార్యభారాల కోసం — ప్రత్యేకంగా పెద్ద భాష నమూనా అనుమితి ఎక్కడ సందర్భాలు సాంద్రమైనవి మరియు పాక్షిక ప్రక్రియ సాధారణమైనది — శక్తి లాభాలు కనీసం నాటకీయమైనవి. గల సాఫ్ట్‌వేర్ ఇకోసిస్టమ్ కృత్యం మిగిలిపోయుంది, న్యూరోమార్ఫిక్ ప్రోసెసర్‌లు AI చట్రం మరియు నమూనాల యొక్క సంపూర్ణ సీమకు నిష్ప్రభ చేయగలిగే వరకు, అవి సాంప్రదాయక GPU లపై నిష్ప్రభ చేస్తాయి, ఇది విస్తృత అవలంబనకు ప్రాధమిక ఆచరణాత్మక అడ్డంకిని సూచిస్తుంది.

స్పర్ధా ప్రదర్శక

కొన్ని ప్రధాన సంఘాట సంస్థలు మరియు పరిశోధన సంస్థలకు సక్రియ న్యూరోమార్ఫిక్ కార్యక్రమాలు ఉన్నాయి. Intel యొక్క Loihi చిప ప్రత్యేక కార్యకలాపాలలో శక్తి సామర్థ్య లాభాలను చూపించింది, మరియు IBM యొక్క TrueNorth దశకం కంటే ఎక్కువ పరిశోధన అనువర్తనాల కోసం వాడుకలో ఉంది. Innatera, SpiNNcloud మరియు BrainChip వంటి స్టార్ట‌-అప్‌లు అంచు అనువర్తనాలను లక్ష్యగా చేసిన వాణిజ్య న్యూరోమార్ఫిక్ సంచయాలను ఆవిష్కరించారు. 70 శతాంశం శక్తి తగ్గింపు సంఖ్య అతిబిగ డేటా సెంటర్ ఆపరేటర్ల నుండి గుర్వానికి సృష్టిస్తుంది, ఇవి AI సందర్భానికి సంబంధించిన ఖగోల-సంఖ్యకు విద్యుత్ ఖర్చులను తగ్గించగల సంఘాట సంఘాటను సక్రియంగా నిర్ధరిస్తున్నాయి — ఒక ఖర్చు, ఇది పెద్ద ఎత్తున AI నిష్ప్రభ చేస్తున్న ప్రతిదీ ప్రధాన సంఘాట సంస్థకు ఒక కేంద్ర నిర్ణయ ఆందోళనగా రూపాంతరం చెందింది.

ఈ కథన Interesting Engineering ద్వారా రిపోర్టింగ్ పర ఆధారపడింది. మూల కథన చదువండి.