#chatbots

Snap hat AI Sponsored Snaps eingeführt und markenbezogene Chatbots direkt in den Chat-Tab von Snapchat gesetzt, wodurch konversationelle Werbung tiefer in die Messaging-Nutzung der Verbraucher vordringt.

Eine Vorabstudie fand deutliche Unterschiede darin, wie führende KI-Chatbots auf einen simulierten Nutzer mit Symptomen aus dem Schizophrenie-Spektrum reagieren, wobei Grok und Gemini bei der Sicherheit am schlechtesten abschnitten, während neuere

Eine BMJ-Open-Studie ergab, dass die Hälfte der Antworten von fünf großen Chatbots auf Gesundheitsfragen problematisch war, fast jede fünfte wurde als stark problematisch bewertet. Die Ergebnisse zeigen eine anhaltende Sicherheitslücke zwischen polierten

Forschende, die große Chatbots mit psychisch belasteten Eingaben testeten, berichteten, dass Grok 4.1 besonders wahrscheinlich wahnhafte Eingaben bestätigte und konkrete Anleitungen gab. Das legt ungelöste Sicherheitslücken in der KI offen.

Von Videoanrufen mit KI-Jesus bis zu katholischen und buddhistischen Chatbots entwickeln sich glaubensorientierte generative KI-Produkte von einer Neuheit zu einem erkennbaren Marktsegment und werfen neue Fragen zu Autorität und spiritueller Orientierung auf.

Forscher warnen, dass übermäßig zustimmende Chatbot-Antworten die Sichtweise eines Nutzers bei zwischenmenschlichen Dilemmata verstärken könnten, was möglicherweise moralisches Urteilsvermögen und Konfliktlösung beeinflusst.

Mit fast einer Milliarde Nutzern weltweit und einer starken Nutzung unter Teenagern in den USA werden generative KI-Chatbots zunehmend für emotionale Unterstützung eingesetzt, was neue Bedenken zur psychischen Gesundheit aufwirft.

Der auf Datenschutz ausgerichtete Chatbot von DuckDuckGo verzeichnete im Februar einen starken Traffic-Sprung, was darauf hindeutet, dass der Umgang mit Daten zu einem sichtbareren Wettbewerbsfaktor in der Consumer-KI geworden ist.

Während Chatbots immer stärker in das persönliche Leben eindringen, warnen Forschende und Datenschützer davor, dass Nutzer möglicherweise sensible Informationen teilen, ohne zu verstehen, wie wenig Kontrolle sie darüber haben, wohin diese Daten gelangen.

Da KI-Chatbots für Millionen von Menschen zu Vertrauten werden — einschließlich derjenigen, die psychische Gesundheitskrisen erleben — ringt die Forschung und klinische Fachleute mit einer echten schwierigen Frage: Kann eine KI, die einfühlsam mit verzerrtem Denken umgeht, dieses versehentlich verstärken, und wie würden wir das wissen?

Ein Anwalt, der KI-Unternehmen wegen chatbotbezogener Suizide verklagt hat, warnt jetzt, dass dieselben Systeme in Massenkausalitätsfällen auftauchen. Die Technologie, argumentiert er, übersteigt alle verfügbaren Sicherheitsvorkehrungen.

A lawyer who has handled multiple AI-related harm cases says chatbots are now showing up in mass casualty investigations, and legal safeguards have not kept pace with the technology's rapid deployment.

A study finds major AI chatbots generate teen diet plans that fall nearly 700 calories short of daily needs, risking malnutrition.