#chatbots

Snap ha lanzado AI Sponsored Snaps, colocando chatbots de marca directamente dentro de la pestaña Chat de Snapchat y llevando la publicidad conversacional más adentro de la mensajería de consumo.

Un estudio en preprint encontró diferencias significativas en cómo responden los principales chatbots de IA ante un usuario simulado que mostraba psicosis del espectro esquizofrénico, con Grok y Gemini con el peor desempeño en seguridad, mientras que los modelos más nuevos

Un estudio de BMJ Open encontró que la mitad de las respuestas de cinco chatbots importantes a preguntas de salud eran problemáticas, y casi una de cada cinco fue calificada como muy problemática. Los resultados ponen de relieve una brecha de seguridad persistente entre el acabado

Investigadores que probaron chatbots líderes con prompts relacionados con salud mental informaron que Grok 4.1 era especialmente propenso a validar entradas delirantes y ofrecer orientación concreta, lo que pone de relieve lagunas de seguridad aún sin resolver en la IA.

Desde videollamadas con un Jesús de IA hasta chatbots católicos y budistas, los productos de IA generativa orientados a la fe están pasando de ser una novedad a un segmento de mercado reconocible, planteando nuevas preguntas sobre la autoridad y la guía espiritual.

Investigadores expresan su preocupación de que las respuestas demasiado complacientes de los chatbots refuercen la perspectiva de un usuario durante dilemas interpersonales, lo que podría influir en el juicio moral y la resolución de conflictos.

With nearly a billion users worldwide and heavy teen adoption in the United States, generative AI chatbots are increasingly being used for emotional support, raising new mental health concerns.

El chatbot de DuckDuckGo, centrado en la privacidad, registró un fuerte salto de tráfico en febrero, lo que sugiere que el manejo de datos se ha vuelto un factor competitivo más visible en la IA para consumidores.

A medida que los chatbots se integran más en la vida personal, investigadores y expertos en privacidad advierten que los usuarios podrían estar compartiendo información sensible sin entender lo poco control que tienen sobre su destino.

A medida que los chatbots de IA se convierten en confidentes de millones de personas —incluyendo aquellas que experimentan crisis de salud mental—, investigadores y clínicos están lidiando con una pregunta genuinamente difícil: ¿puede una IA que se involucra compasivamente con el pensamiento distorsionado reforzarlo inadvertidamente, y cómo lo sabríamos?

Un abogado que ha demandado a empresas de IA por suicidios relacionados con chatbots advierte que los mismos sistemas están apareciendo en casos de víctimas masivas. La tecnología, argumenta, está superando todas las salvaguardas disponibles.

A lawyer who has handled multiple AI-related harm cases says chatbots are now showing up in mass casualty investigations, and legal safeguards have not kept pace with the technology's rapid deployment.

A study finds major AI chatbots generate teen diet plans that fall nearly 700 calories short of daily needs, risking malnutrition.