Anthropic चे Fable 5 अतिनिर्मित AI safety filters ची किंमत दाखवते

एक शक्तिशाली मॉडेल लगेचच वापरयोग्यतेच्या समस्येसह आले

Anthropic च्या नव्याने लॉन्च झालेल्या Claude Fable 5 ला कंपनीचे सर्वात सक्षम public model म्हणून सादर करण्यात आले, पण काही दिवसांतच developers नी एक वेगळीच निर्णायक वैशिष्ट्य नोंदवायला सुरुवात केली: ते apparently benign prompts नाकारत होते किंवा त्यांची गुणवत्ता कमी करत होते. या तक्रारी frontier-model समस्येकडे निर्देश करतात. क्षमता वाढत गेल्यावर, उच्च-जोखमीच्या वापरावर नियंत्रण ठेवण्यासाठी तयार केलेले safeguards इतके intrusive होऊ शकतात की ते नेहमीच्या कामात अडथळा आणू लागतात.

स्रोताच्या मते, Fable 5 हे Anthropic च्या Mythos family मधून आलेले पहिले public model आहे. हा lineage महत्त्वाचा आहे, कारण Mythos ने training दरम्यान software bugs शोधण्यात आणि त्यांचा वापर करून systems मध्ये व्यत्यय आणण्यात किंवा त्यांचा ताबा मिळवण्यात असामान्य कौशल्य दाखवले होते, असे सांगितले जाते. त्यामुळे Anthropic ने cybersecurity ला biology आणि chemistry सोबत उच्च-जोखमीच्या domain म्हणून मांडले, जेव्हा Mythos-derived public model ला काय परवानगी द्यायची हे ठरवले.

Fable 5 साठी Anthropic ने अशा क्षेत्रांतील sensitive म्हणून flagged prompts Claude Opus 4.8 कडे route करण्याचा उपाय निवडला, जो कमी सक्षम पण स्वतःच्या guardrails सह असलेला model आहे. कंपनी म्हणते की हा fallback सुमारे 0.05% queries प्रभावित करतो आणि असे झाल्यास वापरकर्त्यांना सूचित केले जाते. कागदावर ते मर्यादित वाटते. प्रत्यक्षात, user complaints सूचित करतात की system च्या कडा Anthropic ने अपेक्षिल्यापेक्षा रुंद असू शकतात.

False positivesच का कथा बनली

सुरुवातीचा backlash उघडपणे दुष्ट वापरामुळे नव्हता, तर वैध tasks ब्लॉक झाल्याच्या अहवालांमुळे झाला. स्रोतामध्ये sheep साठी RNA sequencing data पासून resume editing आणि shopping lists पर्यंतची उदाहरणे दिली आहेत. एका quoted user ने तर “cancer” हा शब्दही biosecurity risk म्हणून flag झाल्याची तक्रार केली. प्रत्येक anecdote पूर्णपणे representative failure mode दर्शवते की नाही हे वेगळे, पण pattern स्पष्ट आहे: वापरकर्त्यांना वाटले की safety system सामान्य professional किंवा consumer queries मध्ये अडथळा आणत आहे.

Anthropic चे आव्हान सांगायला सोपे आणि सोडवायला अवघड आहे. कंपनीला पूर्णपणे लपलेल्या नव्हे तर दिसणाऱ्या safeguards हव्या होत्या, पण त्या इतक्या मजबूत असाव्यात की वापरकर्ते त्यांना सहजपणे चुकवू शकणार नाहीत. एक visible classifier ला साधारणपणे wider net टाकावी लागते, कारण adversaries त्याची चाचपणी करू शकतात. ती wider net परत अधिक false positives निर्माण करते. Anthropic ने प्रत्यक्षात caution प्रथम निवडली, आणि developers नी ते लगेच लक्षात घेतले.

स्रोत म्हणतो की classifiers डिझाइन करताना कंपनीने “सावधतेच्या बाजूने चूक केली.” हे वाक्य महत्त्वाचे आहे, कारण ते समस्या अनपेक्षित bug म्हणून नव्हे, तर tradeoff म्हणून मांडते. Anthropic ला कदाचित माहीत होते की कडक screening काही वैध वापरकर्त्यांना त्रासदायक ठरेल. वाद या गोष्टीवर आहे की अत्यंत सक्षम आणि व्यापकपणे उपयुक्त model साठी तो समतोल स्वीकारार्ह होता का.

सुरक्षाकवचाची रचना महत्त्वाची आहे

साध्या refusal system च्या उलट, Fable 5 च्या guardrail architecture मध्ये model switching आहे. संवेदनशील मानलेले prompts Fable 5 स्वतः हाताळण्याऐवजी Opus 4.8 कडे पाठवले जातात. ही महत्त्वाची design choice आहे. याचा अर्थ Anthropic फक्त requests filter करत नाही, तर कोणता model त्या हाताळेल हेही सक्रियपणे मर्यादित करते. तांत्रिक, वैज्ञानिक किंवा security-related क्षेत्रांच्या कडेला काम करणाऱ्या वापरकर्त्यांसाठी, वैध request असतानाही हे capability मधील silent downgrade सारखे वाटू शकते.

fallback झाल्यावर वापरकर्त्यांना सूचना दिली जाते, जे invisible substitution पेक्षा चांगले आहे. पण system अजूनही सामान्य काम थांबवत असेल, तर transparency मुळे frustration दूर होत नाही. Developers सामान्यतः safety boundaries अधिक सहज स्वीकारतात, जेव्हा त्या स्पष्ट, अरुंद आणि अंदाज घेण्याजोग्या असतात. harmless tasks जेव्हा खूप वेगळ्या risk profile साठी तयार केलेल्या rules मध्ये अडकतात, तेव्हा ते त्यांना विरोध करतात.

इथे Anthropic विशेषतः सावध का आहे

स्रोत देतो ते मुख्य कारण म्हणजे Mythos-derived systems cybersecurity मध्ये इतके मजबूत मानले गेले की internal concern निर्माण झाला. त्यामुळे release policy च्या दृष्टीने cyber risk ला biology आणि chemistry सोबत एकाच bracket मध्ये ठेवले गेले. एकदा एखाद्या lab ने असा निर्णय घेतला की public deployment हे engineering problem इतकेच governance problem देखील बनते.

Anthropic च्या दृष्टीने, त्या domains मध्ये मजबूत constraints शिवाय अत्यंत सक्षम model जारी करणे गैरजबाबदार ठरू शकते. वापरकर्त्यांच्या दृष्टीने, benign कामाला वारंवार dangerous activity समजणाऱ्या model वर उत्पादनात विश्वास ठेवणे कठीण असते. ही दोन मते परस्परविरोधी नाहीत. ती advanced AI products ला आकार देणाऱ्या मुख्य tension चे प्रतिबिंब आहेत: model जितका चांगला होत जातो, तितका त्याला restrict करण्याचा दबाव वाढतो, आणि त्या restrictions मुळेच model ला सुरुवातीला मौल्यवान बनवणारा user experience धोक्यात येतो.

कंपनीचे स्पष्टीकरण व्यापक उद्योग समस्येकडे निर्देश करते

स्रोताने उद्धृत केलेल्या निवेदनात, Anthropic म्हणते की hidden safeguard probe करणे आणि त्याभोवती work around करणे कठीण असते, त्यामुळे ती अधिक narrowly target करता येते; तर visible safeguard ने robust राहण्यासाठी wider net टाकावी लागते. हे स्पष्टीकरण एका launch decision चे समर्थन करण्यापेक्षा industry-wide dilemma चे वर्णन आहे. User trust आणि accountability साठी transparency सामान्यतः चांगली असते. पण transparency defensive systems ला adversarial testing साठी अधिक सोपे करते. परिणामी एक अस्वस्थ तडजोड होते: overblock करणारे visible controls.

frontier models संवेदनशील workflows मध्ये deploy होत असताना हा tradeoff अधिक सामान्य होण्याची शक्यता आहे. Developers ना वास्तविक technical complexity हाताळू शकणारे highly capable assistants हवे आहेत. Labs ना cyber, bio किंवा संबंधित क्षेत्रांमध्ये जोखीम लक्षणीयरीत्या वाढवणारी tools देणे टाळायचे आहे. Models expert performance च्या जवळ जातील तसा safety failure साठी स्वीकारार्ह margin अधिकच अरुंद होत जातो.

AI products च्या पुढील टप्प्याबद्दल Fable 5 काय दाखवते

Fable 5 चे launch सुचवते की पुढील स्पर्धात्मक frontier फक्त raw capability राहिलेली नाही. ती constraints अंतर्गत capability आहे. एखादे model benchmark-adjacent अर्थाने चमकदार असू शकते, पण त्याचे guardrails खूप वेळा किंवा खूप अस्पष्टपणे trigger झाले तर ते वापरकर्त्यांना त्रासदायक ठरू शकते. अशा वातावरणात product quality फक्त model काय करू शकते यावरच नाही, तर vendor risky intent आणि ordinary use यातील फरक किती अचूकपणे ओळखू शकतो यावरही अवलंबून असते.

Fable 5 वरील सुरुवातीची प्रतिक्रिया सूचित करते की Anthropic ने अद्याप ती अचूकता मिळवलेली नाही. कंपनी म्हणते fallback queries च्या अतिशय लहान भागावर परिणाम करतो, पण blocked prompts स्पष्टपणे harmless वाटले तर reputational impact किती मोठा असू शकतो हे user reports दाखवतात. Developers consistency वर अवलंबून असल्यामुळे याबाबत विशेष संवेदनशील असतात. एक system जे अनपेक्षितपणे work reroute करते किंवा context-critical terms refuse करते, ते गंभीर workflows मध्ये समाविष्ट करणे पटकन कठीण होते.

कठीण भाग अजून पुढे आहे

Anthropic म्हणते की ते या समस्येवर काम करत आहे. तोच एकमेव वास्तववादी मार्ग आहे. कंपनीकडे Mythos-derived model साठी safeguards सोडण्याचा पर्याय नाही, आणि वापरकर्त्यांनी कायमस्वरूपी overbroad screening regime स्वीकारण्याची शक्यता नाही. त्यामुळे technical आणि policy challenge म्हणजे classifier इतका narrow करणे की false positives कमी होतील, पण ते चुकवणे सोपे होणार नाही.

हे फक्त patching exercise नाही. हे तपासते की frontier AI कंपन्या safety principles ना scale वरही usable राहतील अशा product behavior मध्ये रूपांतरित करू शकतात का. Fable 5 अजूनही उपलब्ध सर्वात मजबूत public models पैकी एक ठरू शकते. पण त्याचे launch हेही दाखवते की model safety आता बाजूचा मुद्दा राहिलेला नाही. तो product चा भाग आहे, आणि तो खूप blunt असेल तर वापरकर्ते त्याला product failure मानतील.

हा लेख Fast Company च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.