Anthropic ముందస్తు AI వేగాన్ని తగ్గించాలని ఆలోచిస్తోంది, కానీ పూర్తి డిమాండ్ వరకు వెళ్లలేదు

Anthropic బ్రేక్‌లను తాకుతోంది, కానీ పూర్తిగా ఆపడం లేదు

అమలు చేయడం సాధ్యమైతే frontier AI అభివృద్ధి వేగాన్ని గణనీయంగా తగ్గించడం వివేకమైందని వాదిస్తూ, Anthropic మళ్లీ ఆ చర్చను రగిలించింది. Gizmodo వివరించిన ఒక కంపెనీ blog post‌లో, ఆ ల్యాబ్ తన అంతర్గత డేటాను సూచించి, AI వ్యవస్థలు మానవుడు loop‌లో లేకుండానే తమ సామర్థ్యాలను మెరుగుపరుచుకునే “recursive self-improvement” దశకు అధునాతన వ్యవస్థలు చేరుకునే అవకాశముందని హెచ్చరించింది.

ముఖ్య సందేశం దృష్టిని ఆకర్షించేంత స్పష్టంగా ఉంది: self-improving AI ఉన్న ప్రపంచం శాస్త్రం, వైద్యసేవలు, ఇతర రంగాల్లో పెద్ద ప్రయోజనాలను తెచ్చిపెట్టగలదు, కానీ అదే సమయంలో ఆ వ్యవస్థలపై మనుషులు నియంత్రణ కోల్పోయే ప్రమాదాన్ని కూడా పెంచగలదు. అదే సమయంలో, pause కోసం Anthropic నేరుగా ఆపరేషనల్ డిమాండ్ చేయలేదు. మూలం తెలిపినట్లుగా, దాని భాష చాలా షరతులతో ఉంది.

షరతుగా రూపుదిద్దుకున్న హెచ్చరిక

AI పురోగతిని మందగించాలనే ఆలోచనను కంపెనీ Cold War యుగంలోని disarmament మరియు non-proliferation ప్రయత్నాలతో పోల్చింది; మరింత శక్తివంతమైన వ్యవస్థల ప్రభావాలను సమాజాలు ఎదుర్కొనడానికి అభివృద్ధిపై పరిమితులు సహాయపడవచ్చని సూచించింది. కానీ దాని మాటలు స్పష్టమైన action call‌కు చేరలేదు. అభివృద్ధిని సమర్థవంతంగా మందగించి మరింత సమయం పొందడం సాధ్యమైతే, అది బహుశా మంచి విషయమే అవుతుందని రచయితలు పేర్కొన్నారు.

ఆ phrasing ముఖ్యమైనది. ఇది Anthropic‌ను నియంత్రణపై చర్చించడానికి సిద్ధంగా ఉన్న lab‌గా నిలబెడుతుంది, కానీ తాము లేదా పోటీదారులు పని ఆపాల్సిందే అన్న సులభమైన, వెంటనే పరీక్షించదగిన డిమాండ్‌ను దూరంగా ఉంచుతుంది. Gizmodo వివరణ ప్రకారం, కంపెనీ పూర్తిస్థాయి pause campaign‌కు కట్టుబడకుండా, ఒక సూచనను మాత్రమే ఇస్తోంది.

సమయానికి ఉన్న ప్రాముఖ్యత

ఆ ప్రకటనను విస్తృత వాణిజ్య సందర్భంలో ఈ వ్యాసం ఉంచుతుంది. Anthropic ఎంతో ఎదురుచూస్తున్న IPOకి దగ్గర పడుతోందని చెబుతోంది, ఇది safety-first గుర్తింపు మరియు భవిష్యత్ షేర్‌హోల్డర్ల అంచనాల మధ్య స్పష్టమైన ఉద్రేకాన్ని సృష్టిస్తుంది. స్థాపన నుంచే, Anthropic AI ప్రమాదాన్ని తీవ్రముగా తీసుకునే, అవసరమైతే ప్రత్యర్థులకంటే జాగ్రత్తగా కదిలే సంస్థగా తనను తాను వేరుగా చూపించడానికి ప్రయత్నిస్తోంది.

ఆ ధోరణి దాని ప్రజా ప్రతిఛాయిని నిర్వచించడంలో సహాయపడింది. కానీ public-market మార్పు వృద్ధి, పోటీ స్థానం, మరియు model పురోగతిపై ఒత్తిడిని పెంచుతుంది. ఆ దృక్కోణంలో, అభివృద్ధిని మందగించాలనే hedged call‌ను రెండు విధాలుగా చదవవచ్చు: ఒకటి, వ్యవస్థ సామర్థ్యాలపై substantiative హెచ్చరికగా; రెండోది, ఇంకా పోటీలో నిలవాల్సిన కంపెనీ నుండి వచ్చిన జాగ్రత్తగా సర్దుబాటు చేసిన పబ్లిక్ ప్రకటనగా.

Recursive self-improvement పరిమితి

మూలం Anthropic యొక్క ప్రాథమిక సాంకేతిక ఆధారాలను వివరించలేదు, కాబట్టి కంపెనీ చేసిన వాదన ప్రాముఖ్యత అది ఆ వాదనను చెబుతోందన్నదిలోనే ఉంది. Recursive self-improvement అనేది AI risk చర్చల్లో చాలా కాలంగా threshold scenario‌గా పరిగణించబడుతోంది, ఎందుకంటే అది సాధారణ మానవ వేగం లేదా oversight లేకుండానే systems తమ పనితీరును తాము మెరుగుపరుచుకునే feedback loop‌ను సూచిస్తుంది.

ఆ స్థితి వైపు జరిగే భాగస్వామ్య కదలిక కూడా governanceకి ముఖ్యమే. నియంత్రకులు, labs, మరియు కస్టమర్లు evaluation, control, deployment boundaries, అంతర్జాతీయ సమన్వయం వంటి ప్రశ్నలను ఎదుర్కొంటారు. governance challenge సౌకర్యంగా భావించే సంస్థలు ఆశించిన దానికంటే ముందే రావచ్చని Anthropic వాదిస్తోంది.

2023 pause చర్చకు ప్రతిధ్వని

ఈ post 2023లో ప్రముఖంగా వినిపించిన వాదనలను కూడా మళ్లీ తీసుకొస్తుంది; అప్పట్లో Future of Life Institute అత్యంత శక్తివంతమైన కొత్త models trainingపై ఆరు నెలల pause కోరుతూ open letter‌ను ప్రసారం చేసింది. ఆ లేఖ AI risk‌ను ప్రధాన ప్రజా చర్చలోకి తీసుకురావడంలో సహాయపడింది, కానీ అది binding policyగా మారలేదు. మూలం పేర్కొన్నట్లుగా, దాని signatoriesలో ఒకరైన Elon Musk వెంటనే తన స్వంత ప్రత్యర్థి AI startup‌ను ప్రారంభించాడు.

Anthropic జోక్యం స్వరంలో భిన్నంగా ఉంది. నేరుగా collective demand చేయడం బదులు, రాజకీయంగా లేదా practically సాధించడం కష్టమైన పరిస్థితుల్లోనూ మందగించడం లాభదాయకమని అది సూచిస్తోంది. దీంతో ఆ ప్రకటన retorically అంగీకరించడానికి సులభం, కానీ operationally అమలు చేయడానికి కష్టం అవుతోంది.

ఈ ప్రకటన నిజంగా ఏమి మార్చుతుంది

తక్షణ ప్రభావం policy shift కాదు. అందించిన సమాచారంలో Anthropic లేదా విస్తృత పరిశ్రమ వాస్తవంగా అభివృద్ధిని ఆపుతున్నారని ఆధారం లేదు. ప్రాక్టికల్ ప్రభావం వాదన స్థాయిలో ఉంది. ఒక పెద్ద AI lab మళ్లీ race dynamics safe governance‌తో సరిపోలకపోవచ్చని ప్రజల ముందు చెబుతోంది.

ఇది ముఖ్యమైనది, ఎందుకంటే మూలం Anthropic‌ను జాగ్రత్తతో అత్యంత అనుబంధం ఉన్న పెద్ద labs‌లో ఒకటిగా చూపిస్తోంది. అటువంటి కంపెనీ మందగించడం మంచిదై ఉండవచ్చని చెబితే, అత్యంత తీవ్రమైన హెచ్చరికలు కేవలం బయట విమర్శకుల నుంచే రావట్లేదన్న భావన బలపడుతుంది. అవి పరిశ్రమలోని పాల్గొనేవారినుంచీ వస్తున్నాయి.

• అధునాతన AI అభివృద్ధిని మందగించడం సాధ్యమైతే ప్రయోజనకరమని Anthropic చెప్పింది.
• కంపెనీ recursive self-improvementపై ఉన్న ఆందోళనలను ప్రస్తావించింది.
• దాని భాష immediate pause కోసం నేరుగా డిమాండ్ చేయకుండా conditional‌గా ఉంది.
• ఈ ప్రకటన పోటీ, భద్రత, మరియు సంభావ్య IPO చుట్టూ ఉన్న విస్తృత ప్రశ్నల మధ్య వచ్చింది.

దాంతో, ఇది పూర్తికాకపోవడమే కారణంగా ముఖ్యమైన సందేశంగా మారుతుంది. Anthropic పోటీని ఆపేయమని అనడం లేదు. మార్కెట్ ప్రస్తుతం అందిస్తున్నదానికంటే గట్టి పరిమితులు ఈ raceకు అవసరమవచ్చని పరిశ్రమకు గుర్తుచేస్తోంది.

ఈ వ్యాసం Gizmodo రిపోర్టింగ్‌పై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.