सोशल मीडियावर AI व्यक्तिमत्त्वांमुळे खरे आणि कृत्रिम यांच्यातील सीमारेषा धूसर होत आहे

AI-निर्मित निर्माते ओळखणे आता अधिक कठीण झाले आहे

AI-निर्मित व्यक्तिमत्त्वे अधिक वास्तववादी, अधिक सर्वसाधारण दिसणारी, आणि ऑनलाइन फीड्सच्या दैनंदिन प्रवाहात सहज मिसळणारी होत चालल्याने सोशल प्लॅटफॉर्मसमोर विश्वासार्हतेचे नवे संकट उभे राहिले आहे. The Verge च्या या प्रवाहावरील वृत्तांकनानुसार, एकेकाळी स्पष्टपणे कृत्रिम वाटणाऱ्या इन्फ्लुएन्सर्सची नवीनता श्रेणी आता मुख्य प्रवाहातील क्रिएटर संस्कृतीसारखी दिसू लागली आहे.

सुरुवातीच्या व्हर्च्युअल इन्फ्लुएन्सर्स उठून दिसत होते कारण ते झगमगते, महागडे, आणि निर्विवादपणे कृत्रिम दिसत होते. त्यांच्या लाँचमध्ये अनेकदा मार्केटिंगचा गाजावाजा, स्टुडिओ-गुणवत्तेचे उत्पादन, आणि अशी सौंदर्यदृष्टी असायची जी त्यांच्या डिजिटल मूळालाच आकर्षणाचा भाग बनवत असे. तो फरक आता कमी होत आहे. नव्या पिढीचा कल सामान्य सोशल मीडिया जीवनाच्या दृश्य भाषेकडे अधिक झुकत आहे: महत्त्वाकांक्षी प्रवास, रेस्टॉरंट पोस्ट्स, इव्हेंट चेक-इन्स, आणि लाइफस्टाइल अपडेट्स, जे आता लगेचच त्या व्यक्तीचे अस्तित्वच नसण्याचा संकेत देत नाहीत.

हा बदल का महत्त्वाचा आहे

हा बदल केवळ इमेज जनरेशनमधील सुधारणा नाही. सोशल प्लॅटफॉर्म्स ओळख, प्रकटीकरण, आणि विश्वास याबाबतच्या काही गृहितकांवर अवलंबून असतात. वापरकर्ते भेटणाऱ्या प्रत्येक प्रोफाइलची पडताळणी करत नाहीत. ते संकेतांवर अवलंबून राहतात: चेहऱ्यातील विसंगती, अतिशय तयार केलेले दृश्य, विचित्र कॅप्शन्स, किंवा उघड ब्रँडिंग. हे संकेत कमकुवत झाल्यावर अर्थ लावण्याची जबाबदारी प्लॅटफॉर्मवरून प्रेक्षकांकडे जाते.

त्याचा परिणाम म्हणजे मॉडरेशनची अधिक कठीण समस्या. एखाद्या सिंथेटिक निर्मात्याच्या खात्याला प्रभावी होण्यासाठी भविष्यवादी दिसण्याची गरज नाही. अनेक वेळा सर्वाधिक विश्वासार्ह आउटपुटच सर्वात साधे असू शकते: विश्वासार्ह चेहरा, नेहमीच्या सुट्टीचे फोटो, साधा फॅशन कंटेंट, आणि मानवी पोस्टिंग वर्तनाची नक्कल करणारे एंगेजमेंट पॅटर्न. इतकेच अनुयायी मिळवण्यासाठी, अफिलिएट लिंक चालवण्यासाठी, किंवा बाहेरून तांत्रिकदृष्ट्या सहज वर्गीकृत न होणाऱ्या पद्धतीने मतांवर प्रभाव टाकण्यासाठी पुरेसे आहे.

दृश्य तमाश्यापासून पार्श्वभूमीतील कंटेंटपर्यंत

The Verge याला स्पष्टपणे उठून दिसणाऱ्या डिजिटल सेलिब्रिटींपासून टाइमलाइनमध्ये सहज मिसळणाऱ्या पार्श्वभूमीतील सोशल मीडिया व्यक्तिमत्त्वांकडे झालेली प्रगती असे मांडते. ही उत्क्रांती महत्त्वाची आहे, कारण creator economy चा व्यवसायिक तर्क प्रमाण, सातत्य, आणि विशिष्ट निच लक्ष्यीकरणाला प्रोत्साहन देतो. AI प्रणाली या तिन्ही गोष्टींना मदत करू शकतात. जर एखादे सिंथेटिक व्यक्तिमत्त्व सतत पोस्ट करू शकत असेल, प्रेक्षकांच्या पसंतीनुसार स्वतःला बदलू शकत असेल, आणि सुसंगत ओळख टिकवू शकत असेल, तर सेलिब्रिटी-स्तराची प्रसिद्धी नसतानाही ते व्यावसायिकदृष्ट्या उपयुक्त ठरते.

त्यासोबतच सांस्कृतिक बदलही सुरू आहे. आधीच्या व्हर्च्युअल इन्फ्लुएन्सर्सबद्दल अनेकदा प्रयोग किंवा कृत्रिमता म्हणून चर्चा होत असे. नव्या लाटेला स्वतःची जाहिरात करण्याची कमी इच्छा दिसते. खोटे असल्यामुळे प्रसिद्ध होण्याऐवजी, ही खाती फक्त पुरेशी विश्वासार्ह राहून काम करू शकतात. त्यामुळे एजन्सी, मार्केटर्स, किंवा संधीसाधू ऑपरेटर्ससाठी विश्वासार्हता तयार करण्याची प्रवेश-रेषा खाली येते.

प्लॅटफॉर्मांसाठी कठीण निवडी

सोशल मीडिया कंपन्यांसाठी प्रश्न इतकाच नाही की AI-निर्मित खाती असावीत की नाही. प्रश्न हा आहे की वापरकर्ते जे पाहत आहेत त्याबद्दल माहितीपूर्ण निर्णय घेऊ शकतात का. जर प्रकटीकरणाची मानके कमजोर किंवा विसंगत राहिली, तर स्पॅम, एंगेजमेंट फार्मिंग, आणि इम्पर्सोनेशनमुळे आधीच धूसर झालेल्या वातावरणाला प्लॅटफॉर्म्स आणखी गढूळ करण्याचा धोका पत्करतील.

लेबलिंग हा सर्वात स्पष्ट प्रतिसाद आहे, पण तो संपूर्ण उपाय नाही. लेबलिंग हे शोधणे किंवा स्वेच्छा प्रकटीकरण यांवर अवलंबून असते, आणि दोन्ही अपयशी ठरू शकतात. मॉडेल्स सुधारत जात असताना शोधणे अधिक कठीण होते. स्वेच्छा प्रकटीकरण त्या प्रेरणांशी संघर्ष करते ज्या ही खाती मुळात प्रभावी बनवतात. विश्वासार्ह किंवा आकांक्षापूर्ण वाटावे म्हणून तयार केलेले व्यक्तिमत्त्व त्याची कृत्रिम स्थिती ठळक केल्यावर काही प्रमाणात प्रभाव गमावू शकते.

त्यामुळे प्लॅटफॉर्मांसमोर एक अधिक संरचनात्मक आव्हान उरते: प्रामाणिकता अंमलात आणायची, सूचित करायची, की तिला फक्त आणखी एक वापरकर्ता जबाबदारी मानायचे, हे ठरवणे. यापैकी कोणताही पर्याय सोपा नाही. कडक अंमलबजावणीमुळे खोटे सकारात्मक परिणाम आणि अंतहीन सीमारेषा प्रकरणे निर्माण होऊ शकतात. हलकी प्रकटीकरण पद्धत दुर्लक्षित होऊ शकते. काहीच न केल्यास फीड अधिक अमानवी होत चालले आहेत ही भावना वेगाने वाढू शकते, जरी वापरकर्त्यांना नेहमी त्याचे कारण कळत नसले तरी.

पुढे काय

या प्रवाहाचे व्यापक महत्त्व असे की AI-निर्मित ओळख आता उघड प्रयोगापुरती मर्यादित राहिलेली नाही. ती सोशल मीडियाच्या सामान्य कार्यरत थरात प्रवेश करत आहे. याचा अर्थ असा नाही की प्रत्येक सुबक खाता खोटा आहे, किंवा प्रत्येक AI व्यक्तिमत्त्व फसवे आहे. याचा अर्थ एवढाच की प्रामाणिकता तपासण्यासाठीची जुनी शॉर्टकट्स कमी विश्वासार्ह होत चालली आहेत.

सिंथेटिक निर्मात्यांना मानवी निर्मात्यांपासून वेगळे ओळखणे कठीण होत गेल्यावर स्पर्धा इमेज-गुणवत्तेतून प्लॅटफॉर्म गव्हर्नन्सकडे वळेल. AI व्यक्तिमत्त्वे लक्ष वेधून घेऊ शकतात का हा आता प्रश्न नाही. प्रश्न असा आहे की अनौपचारिक विश्वासावर उभ्या असलेल्या नेटवर्क्सना, वापरकर्त्यांना गुंतवून ठेवणाऱ्या सामाजिक कराराला आणखी कमकुवत न करता, मोठ्या प्रमाणात पटणाऱ्या कृत्रिम लोकांना सामावून घेता येईल का.

• AI इन्फ्लुएन्सर्स आता कमी स्पष्टपणे कृत्रिम आणि अधिक फीड-नेटिव्ह होत आहेत.
• यामुळे प्लॅटफॉर्मसाठी प्रकटीकरण, मॉडरेशन, आणि विश्वास ही कामे अधिक कठीण झाली आहेत.
• क्रिएटर मीडियातील व्यावसायिक प्रेरणा स्केलेबल सिंथेटिक व्यक्तिमत्त्वांना अनुकूल आहेत.

हा लेख The Verge च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.