Google चे WikiSkill AI एजंटांना अपयशाची स्मृती देते

Google चे नवीनतम agent framework retraining पेक्षा persistence वर लक्ष केंद्रित करते

Google Research ने WikiSkill नावाचे एक system सादर केले आहे, जे AI agents मधील एक परिचित कमकुवतपणा सोडवण्याचा प्रयत्न करते: ते बहुतेक वेळा एक task पूर्ण करतात, अनुभव बाजूला ठेवतात, आणि पुढचा run मागील वेळी काय चुकले याची फारशी practical स्मृती नसताना सुरू करतात. WikiSkill हे agents ना एक persistent, wiki-like knowledge base सोबत जोडून सोडवते, जे अपयश आणि यशांची नोंद ठेवते आणि त्या नोंदीचा उपयोग भविष्यातील performance सुधारण्यासाठी करते.

मूळ कल्पना सोपी आहे. प्रत्येक run ला disposable मानण्याऐवजी, framework execution दरम्यान काय घडले ते पकडते, त्या परिणामांना structured knowledge मध्ये संक्षेपित करते, आणि सर्वात उपयुक्त धडे reusable behavioral guidance मध्ये रूपांतरित करते. तयार होणाऱ्या instructions source मध्ये वर्णन केलेल्या “Agent Skills” म्हणून पॅकेज केल्या जातात, ज्या model च्या मूळ training मध्ये बदल न करता agent चे वर्तन घडवू शकतात.

तो फरक महत्त्वाचा आहे. WikiSkill ला model level वर खरे continuous learning म्हणून मांडलेले नाही. source स्पष्टपणे नोंदवते की continuous learning ही अजूनही न सुटलेली समस्या आहे. WikiSkill त्याऐवजी बाह्य memory आणि self-improvement loop देते: agent स्वतःसाठी चांगल्या instructions लिहितो, त्या साठवतो, आणि नंतर त्यांचा पुन्हा संदर्भ घेतो. हा एक workaround आहे, पण अहवालानुसार तो परिणामकारक आहे.

तीन-स्तरीय architecture logs, knowledge, आणि action वेगळे करते

WikiSkill agent च्या workspace ला तीन layers मध्ये मांडते. सर्वात खालची Raw Layer, ज्यात tool calls आणि results सहित पूर्ण execution traces साठवले जातात. ही layer immutable आहे; agent ने प्रत्यक्षात काय केले याची मूलभूत नोंद म्हणून ती काम करते. त्याच्या वर Wiki Layer आहे, जिथे ते raw traces यशस्वी strategies आणि वारंवार दिसणारे failure patterns यांसारख्या structured observations मध्ये रूपांतरित केले जातात. सर्वात वर Skill Layer आहे, ज्यात tasks पार पाडताना agent वापरतो त्या active procedural instructions असतात.

हे विभाजन framework च्या सर्वात मजबूत design choices पैकी एक आहे. Raw traces पुरावे जपतात. wiki पुराव्याचे cumulative knowledge मध्ये रूपांतर करते. skills knowledge ला operational behavior मध्ये बदलतात. अशा प्रकारे प्रणालीचे विभाजन करून, WikiSkill सर्व गोष्टी एका opaque memory store मध्ये कोसळू देत नाही.

हे revision देखील काळजीपूर्वक हाताळते. source नुसार, Wiki Layer फक्त वाढत राहते आणि iterations दरम्यान reset होत नाही. Skill Layer अधिक provisional आहे. नवीन skill update मुळे performance खराब झाल्यास, ते rollback करता येते. म्हणजेच framework टिकाऊ knowledge आणि सक्रिय policy यांना वेगळे हाताळते: knowledge जमा होत राहते, पण वर्तन test करता येण्यासारखे आणि परत बदलता येण्यासारखे राहते.

सुधारणा loop कसे काम करते

update cycle चे चार भाग आहेत. प्रथम, inference agent सध्याच्या skill set चा वापर करून tasks पार पाडतो आणि execution traces तयार करतो. मग Wiki Maintainer नावाचा component त्या traces चे विश्लेषण करतो, failure modes आणि प्रभावी tactics ओळखतो, आणि निष्कर्ष wiki मध्ये लिहून ठेवतो. Skill Proposer अद्ययावत wiki आणि execution data दोन्ही वापरून agent च्या skills मध्ये लक्ष्यित बदल सुचवतो. शेवटी, gating mechanism प्रस्तावित update ला स्वतंत्र validation set वर तपासतो आणि तो उपयोगी ठरल्यासच तो बदल ठेवतो.

तो शेवटचा टप्पा अत्यावश्यक आहे. एजंट्सना स्वतःच्या procedures पुन्हा लिहू दिल्यास, प्रत्येक revision स्वीकारली गेली तर प्रणाली वेगाने बिघडू शकते. WikiSkill चे validation gate ही drift थांबवण्यासाठी बनवले आहे. प्रस्तावित skill चाचणीत अपयशी ठरल्यास, system skill update टाकून देतो, पण wiki मध्ये नोंदवलेले मूलभूत knowledge जपतो.

म्हणून अपयशी प्रस्तावही उपयुक्त input ठरतात. source म्हणते की wiki काय प्रयत्न केला गेला आणि तो का अपयशी ठरला हे नोंदवते, ज्यामुळे पुढील iterations ला अधिक context मिळतो. प्रत्यक्षात, system फक्त यशस्वी tactics लक्षात ठेवत नाही. तो निष्फळ दिशा देखील लक्षात ठेवतो आणि त्यांची आंधळेपणाने पुनरावृत्ती टाळू शकतो.

अपयश स्मृती agent reliability साठी का महत्त्वाची ठरू शकते

WikiSkill चे व्यापक महत्त्व फक्त agents नोट्स साठवू शकतात इतके नाही. अपयश first-class information बनते हे महत्त्वाचे आहे. अनेक agent pipelines मध्ये, अपयश हे फक्त तातडीचे वाईट परिणाम म्हणून दिसते: एक task चुकतो, एक tool चा गैरवापर होतो, किंवा एक instruction chain कोसळते. developers नी स्वतः logs तपासून prompts सुधारले नाहीत, तर त्या चुका persistent operational knowledge मध्ये रूपांतरित होत नाहीत.

WikiSkill हे रूपांतरण स्वयंचलित करण्याचा प्रयत्न करते. अपयश patterns आणि यशस्वी strategies एका टिकाऊ layer मध्ये दस्तऐवजीकरण करून, framework agent ला नवीन model training न करता वेळेनुसार वर्तन सुधारण्याचा मार्ग देते. विशेषतः अशा वातावरणात हे उपयुक्त ठरू शकते जिथे agents वारंवार समान tasks समोर येतात आणि जिथे tool use, sequencing, आणि exception handling raw language ability इतकेच महत्त्वाचे असतात.

हे framework AI system design मधील वाढत्या प्रवाहाचेही प्रतिबिंब आहे: model weights मध्ये नव्हे, तर model च्या सभोवतालच्या scaffolding मध्ये अधिक intelligence ढकलणे. Memory, validation, rollback, आणि structured self-documentation ही सर्व operational engineering ची रूपे आहेत. ती सर्वात कठीण learning problem सोडवत नाहीत, पण तरीही मोजण्याजोगे लाभ देऊ शकतात.

“LLM Wiki” ही कल्पना idea पासून implementation कडे

हे काम source मध्ये Andrej Karpathy शी संबंधित एका संकल्पनेवर आधारित आहे: “LLM Wiki” ही कल्पना, म्हणजे AI system काळानुसार तयार करून पाहू शकतो आणि पुन्हा वापरू शकतो असा अनुभवांचा एकत्रित साठा. WikiSkill ही कल्पना विशेषतः agent development साठी वापरते. सामान्य memory dump ऐवजी, ती traces ना पुन्हा वापरता येणाऱ्या, तपासता येणाऱ्या procedures मध्ये रूपांतरित करण्याची प्रक्रिया तयार करते.

procedure वरचा हा भर महत्त्वाचा आहे. agent ला फक्त facts पुरेसे नसतात; त्याला कसे वागायचे याची चांगली समज हवी असते. कोणते tool पहिले वापरायचे? कोणते failure patterns वेगळा मार्ग सूचित करतात? अशा परिस्थितीत कोणती strategy आधी काम केली होती? WikiSkill चे उत्तर म्हणजे हे धडे skills म्हणून औपचारिक करणे आणि त्यांच्या खाली पुराव्याचा आधार जपणे.

तरीही tradeoffs आहेत. source नोंदवते की ही पद्धत खऱ्या learning पेक्षा अधिक error-prone असण्याची शक्यता आहे. बाह्य knowledge stores चुकीच्या interpretations साठवू शकतात, आणि self-authored instructions नीट validate न केल्यास brittle heuristics मध्ये बदलू शकतात. पण gating mechanism आणि rollback model दाखवतात की संशोधक हा धोका design problem चाच भाग मानत आहेत.

सध्या संदेश स्पष्ट आहे: खरी continuous learning सोडवली जाण्यापूर्वी, persistent memory agents सुधारण्याचा सर्वात practical मार्गांपैकी एक असू शकतो. WikiSkill सूचित करते की पुनरावृत्ती होणाऱ्या कामात चांगले होण्यासाठी agents ना retrain होण्याची गरज नाही. त्यांना फक्त काय घडले, काय अपयशी ठरले, आणि पुढच्या वेळी काय प्रयत्न करायला हवे हे लक्षात ठेवण्यासाठी एक structured मार्ग लागेल.

This article is based on reporting by The Decoder. Read the original article.