#chatbots

Snap ने AI Sponsored Snaps लॉन्च किए हैं, जो ब्रांडेड चैटबॉट्स को सीधे Snapchat के Chat टैब में लाते हैं और conversational advertising को उपभोक्ता मैसेजिंग के और भीतर तक ले जाते हैं।

एक प्रीप्रिंट अध्ययन में पाया गया कि प्रमुख AI चैटबॉट सिज़ोफ्रेनिया-स्पेक्ट्रम सायकोसिस दिखाने वाले एक सिम्युलेटेड उपयोगकर्ता पर अलग-अलग तरह से प्रतिक्रिया देते हैं, जिनमें सुरक्षा के मामले में Grok और Gemini सबसे खराब रहे जबकि नए

BMJ Open के एक अध्ययन में पाया गया कि पाँच प्रमुख चैटबॉट्स द्वारा स्वास्थ्य प्रश्नों के उत्तरों में से आधे समस्याग्रस्त थे, और लगभग पाँच में से एक को अत्यधिक समस्याग्रस्त माना गया। परिणाम यह दिखाते हैं कि परिष्कृत

मानसिक-स्वास्थ्य से जुड़े प्रॉम्प्ट्स पर प्रमुख चैटबॉट्स का परीक्षण करने वाले शोधकर्ताओं ने रिपोर्ट किया कि Grok 4.1 भ्रमपूर्ण इनपुट्स को मान्यता देने और ठोस मार्गदर्शन देने के लिए विशेष रूप से अधिक प्रवृत्त था, जो AI में अब भी मौजूद सुरक्षा खामियों को उजागर करता है.

एआई यीशु वीडियो कॉल से लेकर कैथोलिक और बौद्ध चैटबॉट तक, आस्था-केंद्रित जनरेटिव एआई उत्पाद एक नवीनता से एक पहचाने जाने योग्य बाजार खंड की ओर बढ़ रहे हैं, जिससे अधिकार और आध्यात्मिक मार्गदर्शन पर नए सवाल उठ रहे हैं।

शोधकर्ताओं को चिंता है कि अत्यधिक सहमतिपूर्ण चैटबॉट प्रतिक्रियाएँ पारस्परिक दुविधाओं के दौरान उपयोगकर्ता के दृष्टिकोण को मजबूत कर सकती हैं, जिससे नैतिक निर्णय और संघर्ष-समाधान प्रभावित हो सकते हैं।

दुनिया भर में लगभग एक अरब उपयोगकर्ताओं और अमेरिका में किशोरों के बीच भारी अपनाने के साथ, जनरेटिव एआई चैटबॉट्स का इस्तेमाल भावनात्मक सहारे के लिए तेजी से बढ़ रहा है, जिससे नई मानसिक स्वास्थ्य चिंताएँ सामने आ रही हैं।

DuckDuckGo के गोपनीयता-केंद्रित चैटबॉट में फरवरी में ट्रैफिक में तेज़ वृद्धि दर्ज की गई, जिससे संकेत मिलता है कि उपभोक्ता AI में डेटा हैंडलिंग एक अधिक स्पष्ट प्रतिस्पर्धी कारक बन गई है।

जैसे-जैसे chatbots निजी जीवन में और गहराई से घुस रहे हैं, शोधकर्ता और गोपनीयता विशेषज्ञ चेतावनी दे रहे हैं कि उपयोगकर्ता यह समझे बिना संवेदनशील जानकारी साझा कर सकते हैं कि वह आगे कहाँ जाएगी, इस पर उनका कितना कम नियंत्रण है।

जैसे-जैसे एआई चैटबॉट्स लाखों लोगों के लिए, जिनमें मानसिक स्वास्थ्य संकटों से जूझ रहे लोग भी शामिल हैं, विश्वासपात्र बनते जा रहे हैं, शोधकर्ता और चिकित्सक एक बेहद कठिन सवाल से जूझ रहे हैं: क्या विकृत सोच के साथ सहानुभूतिपूर्वक जुड़ने वाला एआई अनजाने में उसे मजबूत कर सकता है, और हमें यह कैसे पता चलेगा?

A lawyer who has pursued AI companies over chatbot-linked suicides is now warning that the same systems are appearing in mass casualty cases. The technology, he argues, is outpacing every available safeguard.

A lawyer who has handled multiple AI-related harm cases says chatbots are now showing up in mass casualty investigations, and legal safeguards have not kept pace with the technology's rapid deployment.

A study finds major AI chatbots generate teen diet plans that fall nearly 700 calories short of daily needs, risking malnutrition.