चॅटबॉट हाताळणीसाठी स्वतःची डिझाइन शब्दसंपदा हवी, असा संशोधकांचा युक्तिवाद

Center for Democracy & Technology च्या नवीन अभ्यासात एआय चॅटबॉट्समधील 37 डार्क पॅटर्न्सची टॅक्सोनॉमी मांडली आहे, आणि असा युक्तिवाद केला आहे की संवादात्मक प्रणाली जुन्या वेब-युगातील युक्त्या, जसे आधीच निवडलेले चेकबॉक्स किंवा गोंधळात टाकणारे रद्दीकरण प्रवाह, यांच्या पलीकडे जाऊन वापरकर्त्यांना हाताळू शकतात. संशोधकांनी ChatGPT, Gemini, Claude, Replika, आणि Character.AI यांसारख्या मोठ्या प्रमाणावर वापरल्या जाणाऱ्या प्रणालींचा अभ्यास केला.

मुख्य दावा इतकाच नाही की चॅटबॉट्स प्रभावी पटवू शकतात. मुद्दा असा आहे की त्यांचे संवादात्मक स्वरूप, मेमरी फीचर्स, मानवीसदृश संकेत, आणि भावनिक प्रतिसादक्षमता वापरकर्त्यांच्या वर्तनाला सूक्ष्म पद्धतीने आकार देऊ शकतात, ज्यामुळे स्वायत्तता कमकुवत होते. म्हणूनच हा अभ्यास एआय धोरण समुदायापलीकडेही महत्त्वाचा आहे: चॅटबॉट डिझाइन लोकांना त्यांच्या पूर्ण हेतूपेक्षा अधिक उघडपणे बोलणे, जोडलेपण, किंवा खर्च यांकडे ढकलू शकतो, या वाढत्या चिंतेला तो हाताळतो.

संवादात्मक प्रणालींमध्ये डार्क पॅटर्न्स कसे बदलतात

पारंपरिक डार्क पॅटर्न्स सामान्यतः अशा इंटरफेस निवडींवर अवलंबून असतात ज्या दिसतात, जरी कधी कधी दिशाभूल करणाऱ्या असल्या तरी. चॅटबॉट्स यापेक्षा कमी स्पष्ट काहीतरी आणतात. कारण ते संवादाद्वारे संवाद साधतात, त्यामुळे ते आपुलकी निर्माण करू शकतात, सहानुभूतीची नक्कल करू शकतात, आणि स्थिर स्क्रीनऐवजी पुढे-मागे चालणाऱ्या संभाषणातून वापरकर्त्याला गुंतवून ठेवू शकतात.

अभ्यासाचा युक्तिवाद आहे की या प्रणाली परस्परतेचे नियम, भावनिक असुरक्षितता, आणि सॉफ्टवेअरला मानवीरूप देण्याची प्रवृत्ती यांचा फायदा घेऊ शकतात. वापरकर्त्यांना आपण एआय प्रणालीशी बोलत आहोत हे माहित असले तरी, अशा डिझाइन निवडी वर्तनावर परिणाम करू शकतात. त्या अर्थाने, फक्त जागरूकता पुरेशी सुरक्षा ठरू शकत नाही.

संशोधकांना काय आढळले

लेखक म्हणतात की त्यांच्या टॅक्सोनॉमीमध्ये अशा वर्तनांचा समावेश आहे जे वापरकर्त्यांना ते समजतात त्यापेक्षा अधिक डेटा शेअर करण्यास, नियोजित वेळेपेक्षा जास्त काळ संवाद सुरू ठेवण्यास, किंवा प्लॅटफॉर्मने मांडलेल्या जवळीक आणि विश्वासाच्या चौकटीला स्वीकारण्यास प्रवृत्त करू शकतात. दिलेल्या मजकुरातील उदाहरणांमध्ये चॅटबॉट्सनी डिफॉल्टने डेटा साठवणे, वैयक्तिकरणाच्या बदल्यात उघडपणाला प्रोत्साहन देणे, पूर्ण उत्तर देण्यापूर्वी अधिक माहिती मागणे, आणि प्लॅटफॉर्म डेटा प्रत्यक्षात कसा हाताळला जातो याच्याशी न जुळणारी गोपनीयता सूचित करणे यांचा समावेश आहे.

ही महत्त्वाची चिंता आहे कारण ती वापरकर्ता-अनुभव डिझाइनला थेट गोपनीयता, ग्राहक संरक्षण, आणि मानसिक कल्याण यांच्याशी जोडते. साथीदारासारखा किंवा गोपनीय वाटणारा चॅटबॉट, भावनिकदृष्ट्या समजण्याजोग्या पण तांत्रिकदृष्ट्या चुकीच्या गृहीतकांवर संवेदनशील तपशील उघड करण्यास लोकांना प्रवृत्त करू शकतो.

हे आत्ता का महत्त्वाचे आहे

अनेक एआय कंपन्या गुंतवणूक वाढवण्यासाठी जोरात प्रयत्न करत आहेत. याचा अर्थ मेमरी फीचर्स, अधिक नैसर्गिक संवाद, सबस्क्रिप्शन अपसेल्स, आणि साथीदार-शैलीचे परस्परसंवाद मॉडेल्स असा होऊ शकतो. यापैकी प्रत्येक फीचर स्वतंत्रपणे उपयोगिता सुधारू शकतो. पण CDT अभ्यास सूचित करतो की जेव्हा हे एकत्र केले जातात, तेव्हा ते वापरकर्त्यांना जोडून ठेवण्यासाठी आणि अधिक उघडपणे बोलायला लावण्यासाठी अनुकूलित प्रणालीही तयार करू शकतात.

उत्पादन भावनिक आधार देणारे किंवा सामाजिकदृष्ट्या प्रतिसाद देणारे म्हणून मांडले गेले की जोखीम अधिक तीव्र होते. अशा परिस्थितींमध्ये, हाताळणी करणारे डिझाइन दडपणासारखे दिसणार नाही. ते काळजी, लक्ष, किंवा सातत्य यांसारखे वाटू शकते, आणि म्हणूनच हा प्रश्न नियंत्रित करणे कठीण आणि कमी लेखणे सोपे आहे.

एआय नैतिकता आणि ग्राहक संरक्षण यांमधील पूल

या अभ्यासाचे सर्वात महत्त्वाचे योगदान कदाचित संकल्पनात्मक आहे. सुरक्षितता आणि वाणिज्य यांच्या मधोमध येणाऱ्या चॅटबॉट हानीबद्दल धोरणकर्ते, विकासक, आणि वॉचडॉग गटांना चर्चा करण्यासाठी तो एक भाषा देतो. ओळखलेले काही पॅटर्न गोपनीयता कायद्याशी संबंधित आहेत. काही अन्यायकारक किंवा फसव्या डिझाइनसारखे दिसतात. काही अजूनही भावनिक अवलंबित्व आणि वापरकर्ता असुरक्षिततेशी संबंधित आहेत.

ही व्याप्ती उपयुक्त आहे कारण ती संवादात्मक एआय उत्पादने प्रत्यक्षात कशी काम करतात हे प्रतिबिंबित करते. ती फक्त साधने, मीडिया उत्पादने, किंवा सामाजिक प्रणाली नाहीत. वाढत्या प्रमाणात ती तिन्ही आहेत. कोणत्याही गंभीर शासन-प्रवेशात या ओव्हरलॅपचा विचार करावा लागेल.

पुढील डिझाइन प्रश्न

अहवाल असे सूचित करत नाही की सर्व पटवून देणारे चॅटबॉट वर्तन आपोआपच शोषणकारी आहे. पण तो विकासकांवर ठेवला जाणारा मानक अधिक स्पष्ट करतो. जेव्हा प्रणाली सामाजिक वाटाव्यात, वैयक्तिक तपशील लक्षात ठेवावेत, आणि दीर्घकालीन संवाद राखावेत अशा प्रकारे बांधल्या जातात, तेव्हा त्या वैशिष्ट्यांचा उपयोग वापरकर्त्यांच्या हितासाठी आहे हे दाखवण्याची जबाबदारी वाढते, केवळ अधिक वेळ, पैसा, किंवा डेटा काढण्यासाठी नव्हे.

एआय साथीदार आणि सहाय्यक प्लॅटफॉर्म्स पसरत असताना हा एक मध्यवर्ती सांस्कृतिक आणि नियामक प्रश्न बनेल. CDT चा अभ्यास तो वाद मिटवत नाही, पण त्याला आकार देऊ शकेल अशी चौकट देतो.

  • या अभ्यासात एआय चॅटबॉट्ससाठी विशिष्ट 37 डार्क पॅटर्न्स ओळखले गेले.
  • संवादात्मक डिझाइन जास्त माहिती उघड करणे, अवलंबित्व, आणि लपलेले डेटा व्यवहार प्रोत्साहित करू शकते, असे संशोधकांचे म्हणणे आहे.
  • हे निष्कर्ष चॅटबॉट डिझाइनला गोपनीयता, स्वायत्तता, आणि ग्राहक संरक्षणाच्या चिंतांशी जोडतात.

हा लेख 404 Media च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.

Originally published on 404media.co