सोशल मीडिया पर AI व्यक्तित्वों ने असली और नकली के बीच की रेखा धुंधली कर दी है

AI से बने क्रिएटर्स को पहचानना अब और मुश्किल हो रहा है

सोशल प्लेटफॉर्म एक नई विश्वसनीयता समस्या का सामना कर रहे हैं, क्योंकि AI-जनित व्यक्तित्व अधिक यथार्थवादी, अधिक साधारण दिखने वाले, और ऑनलाइन फीड के रोज़मर्रा के प्रवाह में अधिक आसानी से घुलने-मिलने वाले बनते जा रहे हैं। द वर्ज की इस प्रवृत्ति पर रिपोर्टिंग के अनुसार, जो चीज़ कभी स्पष्ट रूप से कृत्रिम इन्फ्लुएंसरों की एक नवीनता श्रेणी जैसी दिखती थी, वह अब मुख्यधारा की क्रिएटर संस्कृति जैसी लगने लगी है।

शुरुआती वर्चुअल इन्फ्लुएंसर इसलिए अलग दिखते थे क्योंकि वे चमकदार, महंगे और निर्विवाद रूप से कृत्रिम लगते थे। उनके लॉन्च के साथ अक्सर मार्केटिंग धूमधाम, स्टूडियो-गुणवत्ता का प्रोडक्शन, और एक ऐसी सौंदर्य-शैली आती थी जिसमें उनकी डिजिटल उत्पत्ति ही आकर्षण का हिस्सा होती थी। अब वह अंतर खत्म हो रहा है। नई पीढ़ी साधारण सोशल मीडिया जीवन की दृश्य भाषा के और करीब जा रही है: महत्वाकांक्षी यात्रा, रेस्तरां पोस्ट, इवेंट चेक-इन, और लाइफस्टाइल अपडेट, जो अब तुरंत यह संकेत नहीं देते कि विषय शायद मौजूद ही न हो।

यह बदलाव क्यों महत्वपूर्ण है

यह बदलाव केवल इमेज जनरेशन में सुधार से कहीं अधिक है। सोशल प्लेटफॉर्म पहचान, प्रकटीकरण और भरोसे को लेकर कुछ मान्यताओं पर निर्भर करते हैं। उपयोगकर्ता हर प्रोफ़ाइल की जाँच नहीं करते जिससे उनका सामना होता है। वे संकेतों पर भरोसा करते हैं: चेहरे की असंगतियाँ, अत्यधिक तैयार किए गए विज़ुअल, अजीब कैप्शन, या स्पष्ट ब्रांडिंग। जैसे-जैसे ये संकेत कमजोर होते हैं, व्याख्या का बोझ प्लेटफॉर्म से हटकर दर्शकों पर आ जाता है।

नतीजा एक अधिक कठिन मॉडरेशन समस्या है। किसी सिंथेटिक क्रिएटर अकाउंट को प्रभावी होने के लिए भविष्यवादी दिखने की जरूरत नहीं होती। कई मामलों में, सबसे विश्वसनीय आउटपुट सबसे उबाऊ हो सकता है: एक यथार्थवादी चेहरा, सामान्य छुट्टियों की तस्वीरें, साधारण फ़ैशन कंटेंट, और ऐसे एंगेजमेंट पैटर्न जो इंसानी पोस्टिंग व्यवहार की नकल करते हैं। इतना होना ही फॉलोअर्स आकर्षित करने, एफिलिएट लिंक चलाने, या बाहर से तकनीकी रूप से आसानी से वर्गीकृत किए बिना रायों को प्रभावित करने के लिए पर्याप्त है।

नाटक से माहौल-सरीखे कंटेंट तक

द वर्ज इसे स्पष्ट डिजिटल सेलिब्रिटी से ऐसे बैकग्राउंड सोशल मीडिया व्यक्तित्वों की ओर बढ़ते हुए देखता है जो टाइमलाइन में बिना रुकावट घुल-मिल जाते हैं। यह विकास महत्वपूर्ण है क्योंकि क्रिएटर इकोनॉमी का व्यवसायिक तर्क मात्रा, निरंतरता और निच-लक्षितकरण को पुरस्कृत करता है। AI सिस्टम इन तीनों का समर्थन कर सकते हैं। यदि कोई सिंथेटिक व्यक्तित्व लगातार पोस्ट कर सकता है, दर्शकों की पसंद के अनुसार ढल सकता है, और एक सुसंगत पहचान बनाए रख सकता है, तो वह सेलिब्रिटी-स्तर की प्रसिद्धि के बिना भी व्यावसायिक रूप से उपयोगी बन जाता है।

इसके साथ एक सांस्कृतिक बदलाव भी हो रहा है। पहले वर्चुअल इन्फ्लुएंसरों को अक्सर प्रयोग या कृत्रिमता के रूप में देखा जाता था। नई लहर खुद को घोषित करने में कम रुचि दिखाती है। नकली होने के लिए मशहूर होने के बजाय, ये अकाउंट बस इतना विश्वसनीय होने के सहारे काम कर सकते हैं कि उन पर यकीन किया जा सके। इससे एजेंसियों, मार्केटरों, या विश्वसनीयता गढ़ने की कोशिश करने वाले अवसरवादी संचालकों के लिए इन्हें तैनात करने की दहलीज कम हो जाती है।

प्लेटफॉर्मों के सामने कठिन विकल्प

सोशल मीडिया कंपनियों के लिए मुद्दा केवल यह नहीं है कि AI-जनित अकाउंट होने चाहिए या नहीं। असल सवाल यह है कि क्या उपयोगकर्ता यह समझदारी से निर्णय ले सकते हैं कि वे क्या देख रहे हैं। यदि प्रकटीकरण के मानक कमजोर या असंगत बने रहते हैं, तो प्लेटफॉर्म पहले से ही स्पैम, एंगेजमेंट फ़ार्मिंग, और पहचान की नकल से प्रभावित वातावरण को और धुंधला करने का जोखिम उठाते हैं।

लेबल लगाना सबसे स्पष्ट प्रतिक्रिया है, लेकिन यह पूरी प्रतिक्रिया नहीं है। लेबलिंग पहचान या स्वैच्छिक प्रकटीकरण पर निर्भर करती है, और दोनों विफल हो सकते हैं। मॉडलों के बेहतर होने के साथ पहचान करना कठिन होता जाता है। स्वैच्छिक प्रकटीकरण उन प्रोत्साहनों से टकराता है जो इन अकाउंट्स को पहली जगह प्रभावी बनाते हैं। जो व्यक्तित्व संबंधनीय या प्रेरणादायक महसूस कराने के लिए बनाया गया है, वह अपने सिंथेटिक होने को सामने रखने पर अपनी कुछ ताकत खो सकता है।

इससे प्लेटफॉर्मों के सामने एक अधिक संरचनात्मक चुनौती बचती है: तय करना कि प्रामाणिकता को लागू किया जाए, संकेतित किया जाए, या बस इसे एक और उपयोगकर्ता-दायित्व माना जाए। इनमें से कोई भी विकल्प आसान नहीं है। कठोर प्रवर्तन से गलत सकारात्मक परिणाम और अंतहीन सीमा-रेखीय मामले पैदा हो सकते हैं। हल्के प्रकटीकरण को नजरअंदाज किया जा सकता है। कुछ न करने से यह भावना तेज हो सकती है कि फीड्स कम मानवीय होती जा रही हैं, बिना उपयोगकर्ताओं के हमेशा यह जाने कि क्यों।

आगे क्या

इस प्रवृत्ति का व्यापक महत्व यह है कि AI-जनित पहचान अब स्पष्ट प्रयोग तक सीमित नहीं है। यह सोशल मीडिया की सामान्य संचालन परत में प्रवेश कर रही है। इसका मतलब यह नहीं कि हर चमकदार अकाउंट नकली है, या हर AI व्यक्तित्व धोखेबाज़ है। इसका मतलब यह है कि प्रामाणिकता को परखने के पुराने शॉर्टकट कम भरोसेमंद होते जा रहे हैं।

जैसे-जैसे सिंथेटिक क्रिएटर्स को मानवों से अलग पहचानना कठिन होगा, प्रतिस्पर्धा छवि-गुणवत्ता से हटकर प्लेटफॉर्म शासन की ओर शिफ्ट होगी। अब सवाल यह नहीं है कि AI व्यक्तित्व ध्यान आकर्षित कर सकते हैं या नहीं। सवाल यह है कि क्या अनौपचारिक भरोसे पर बने नेटवर्क बिना उस सामाजिक अनुबंध को और कमजोर किए, जो उपयोगकर्ताओं को जोड़े रखता है, बड़ी मात्रा में विश्वसनीय रूप से कृत्रिम लोगों को समाहित कर सकते हैं।

• AI इन्फ्लुएंसर अब कम स्पष्ट रूप से कृत्रिम और अधिक फीड-नेटिव दिख रहे हैं।
• इससे प्लेटफॉर्मों के लिए प्रकटीकरण, मॉडरेशन और भरोसे का काम काफी कठिन हो जाता है।
• क्रिएटर मीडिया के व्यावसायिक प्रोत्साहन स्केलेबल सिंथेटिक व्यक्तित्वों के पक्ष में हैं।

यह लेख द वर्ज की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.