生成式AI已成为年轻人查找信息和寻求建议的常用方式。罗格斯大学健康研究发现,在近1000名受访者中,超过32%的18至29岁成年人曾使用ChatGPT等聊天机器人获取物质使用信息。

发表在Journal of Medical Internet Research Formative Research上的研究显示,最常见目的包括了解风险和后果。使用AI获取相关信息的人中,约一半至少每月使用一次。

研究人员表示,聊天机器人可能重复错误信息,而年轻人又特别容易受到物质使用不良后果的影响,因此这一趋势令人担忧。

AI正在参与健康信息获取

研究团队考察了年轻人使用生成式AI咨询物质相关问题的频率、使用者特征以及他们对生成内容的看法。生成式AI是根据提示创建合成内容的系统。

调查显示,66%的年轻人会使用AI搜索信息或获取医疗建议。但物质使用问题需要单独关注,因为不准确的信息可能立即影响健康和安全。

约三分之一受访者表示曾专门使用AI获取物质或物质使用相关信息。这并不证明每次互动都有害,但表明这一用途已足以影响公共卫生传播和AI系统设计。

研究结果为何引发担忧

聊天机器人可以生成流畅且看似自信的回答,使用户难以区分可靠建议、错误信息和缺失的重要限制。

研究主要作者、罗格斯大学药物流行病学与治疗科学中心博士后研究员Mireia Triguero Roura表示,这类工具可能导致年轻人形成错误判断或采取危险的物质使用行为。

受访者主要寻求风险和后果信息,说明他们可能把聊天机器人视为复杂、个人化且带有污名的健康问题的信息来源。

谁更可能使用AI咨询药物相关问题

研究发现,黑人受访者和男性受访者更可能报告出于物质使用相关目的使用AI。差异可能与医疗可及性、污名、信任和健康信息获取行为有关。

这一解释仍需进一步研究,不能说明任何个人选择聊天机器人的具体原因。但它指出了公平性问题:如果某些群体更依赖AI,系统信息缺陷的影响可能并不均等。

下一步应该做什么

研究没有提出单一解决方案,但说明AI开发者、医疗专业人员和公共卫生机构需要更密切关注。开发者应谨慎处理相关提示,并清楚说明不确定性和限制。

对用户而言,聊天机器人不应被视为物质使用信息的唯一权威。AI回答可以作为起点,但尤其在涉及健康或安全时,应与合格的临床或公共卫生来源核对。

生成式AI正在进入信任、准确性和语境至关重要的领域。约三分之一受访年轻人已经用它获取物质使用信息,这一变化难以忽视。

本文根据Medical Xpress报道编写。 阅读原文。

Originally published on medicalxpress.com