top of page

Rutgers AI 物质使用研究发现使用广泛,但安全性仍未得到衡量

5小时前
讀畢需時 12 分鐘

Rutgers 的研究人员发现,32.3% 的受访年轻人曾使用生成式 AI 获取与物质使用相关的信息,但研究并未确定这些互动究竟带来了帮助还是伤害。这项 Rutgers AI 物质使用研究为一种敏感行为提供了量化数据:向对话式软件咨询毒品、酒精及其后果。其核心矛盾在于,人们对答案的信心与该答案是否有证据支撑这种信心之间存在距离。

随着聊天机器人成为人们提出那些可能不愿当面询问的问题的又一场所,这些发现也随之出现。生成式 AI 是一种根据提示生成内容的软件,能够让此类交流显得直接且具有个人化色彩。即使产品最初只是通用型助手,这种便利性也会带来公共卫生责任。

Google 搜索提供了一个重要参照。研究人员发现,使用聊天机器人的人群与通过网络搜索物质使用相关信息的人群之间存在显著重叠。因此,这一议题关乎的是问题与决策之间又多了一层具有影响力的中介。开发者、临床医生和健康传播者如今都面临同一个尚未解决的问题:当有人接受了对话式回答之后,接下来会发生什么?

Rutgers AI 物质使用研究实际衡量了什么

该研究记录的是受访者报告的使用情况与看法,而非已被证实的医疗收益或伤害。

这项 物质使用相关 AI 调查 于 2026 年 10 月 19 日发表于 JMIR Formative Research,分析了 995 名年龄在 18 至 29 岁之间的美国居民的答复。参与者于 2026 年 4 月通过 Prolific 招募。在该样本中,有 321 人表示曾将生成式 AI 用于物质使用相关目的。

在这些用户中,48.2% 表示至少每月使用一次。有关后果的问题尤为常见。调查还发现,所有受访者中有 57.5% 曾使用 Google 搜索与物质使用相关的信息。在报告使用 AI 获取此类信息的受访者中,92.8% 也曾就该主题使用 Google。

这些重叠受众使得“聊天机器人已经取代搜索”的任何说法都变得复杂。一个人可能在同一信息搜寻过程中,在搜索引擎、聊天机器人及其他来源之间切换。该调查并未确定哪个来源先被使用、哪个答案最终占据主导,或是否有人核查过相互矛盾的回答。

这种区别会改变商业和产品层面的含义。聊天机器人无需成为某人的唯一信息来源,也能影响其理解。它可能概括用户在其他地方找到的内容、解释陌生术语,或给出用户最终记住的答案。这些只是可能的角色,并非本调查已证实的行为。

时间点同样值得谨慎对待。10 月对应的是研究结果的发表与宣传;这些答复则描述了参与者在 4 月报告的行为。读者不应将标题视为对当下采用情况的实时衡量。数据收集之后发生的产品变化,也无法解释研究人员已经收集到的答复。

标题中对年轻人的提及也需要界定范围。这项研究涉及的是特定年龄范围内的成年人,不应被延伸为关于儿童、所有学生或所有物质使用者的说法。提出与物质使用有关的问题,也不意味着此人存在个人使用、依赖或尝试意图。

对科技读者而言,具体变化在于可见度。Rutgers 聊天机器人研究为此前研究不足的使用场景,在这一样本中呈现出可衡量的受众规模。该研究发表后,这一受众更难被忽视,但其互动的质量与后果仍有待进一步调查。

这已足以证明其值得关注,无需过度延伸研究结果。采用研究可以指出评估应落在何处,但不能替代这种评估,无论标题听起来多么醒目,或聊天机器人界面已变得多么熟悉。

健康传播者面对的受众已超出自身网站

这些发现让可靠信息必须在对话式界面内争夺注意力的组织承受更大压力。

Rutgers 在 10 月 23 日发布的 年轻人聊天机器人研究发现中称,参与者主要寻求有关风险和后果的信息。首席作者 Mireia Triguero Roura 警告称,这些工具产生的错误信息可能导致高风险行为。这一警告指出了潜在危险;但并不能证明调查观察到了此类伤害。

实际影响不止于再发布一个准确的网页。健康组织必须考虑,当人们通过生成式解释接触其信息时,这些信息如何仍能保持完整。一则回答可能保留总体结论,却遗漏对特定读者很重要的限定条件。

设想一个说明性情境:有人请聊天机器人解释自己在健康网站上看到的一项警告。助手给出较简短的答复,这个人随后询问该警告是否适用于自身情况。这个例子是假设性的,但它展示了信息交流如何可能转向个性化解读。

这种转变对提供基础知识的组织很重要。其原始页面可能谨慎地区分一般性教育与个人评估,而对话式摘要则可能模糊这种区别。传播者需要思考的问题是:当信息改变呈现形式时,这一关键边界是否仍然清晰可见。

临床医生面临相关的沟通挑战。带着 AI 生成解释前来的人,可能已经对自己的问题意味着什么形成了笃定看法。作为这些发现的一项启示,临床交流应为审视这种看法留出空间,而不应将当事人的信息寻求行为视为不当行为。

轻蔑的回应会让潜在问题得不到解答;不加批判的回应则会赋予聊天机器人超出证据所能支持的权威。更有用的方法是了解此人收到过哪些信息、如何理解这些信息,以及不确定性仍存于何处。

公共卫生团队还面临传播分发问题。清晰的材料必须易于发现、易于理解,并适合被准确引用或概括。这并不能保证聊天机器人会保留其原意,却能让传播者从一个具体切入点开始,评估其工作如何出现在自身发布渠道之外。

这种压力既是即时的,也是持续存在的。组织现在可以审查现有资源的清晰度;而确定对话式传递是否能改善理解,则需要更多证据。这些是相互关联的责任,但时间线不同,不应被表述为同一种成就。

因此,该研究挑战了对数字健康传播的狭义定义。发布准确内容仍然至关重要;理解人们通过何种界面解读这些内容,也成为工作的一部分,尤其是当这些界面会邀请原作者从未见到的后续提问时。

对话式访问与经过验证的指导服务于不同需求

易于接近的回答可以改善信息获取,但其可靠性仍可能悬而未决。

从产品角度看,对话式界面的吸引力不难理解。用户可以用日常语言表述尴尬的问题、要求进一步说明,并且无需浏览一系列页面。这些特征描述的是一种互动方式,并不能证明其适合临床使用。

这正是 AI 健康信息背后的核心权衡。降低摩擦可以让问题更容易被提出,同样也可能让人更容易在未审视其依据的情况下接受答案。这是否会在实践中发生,以及会带来何种后果,需要直接研究。

Google 搜索是有用的参照,因为它通常会呈现多个目的地和可见的发布者。用户仍须评估这些来源,搜索结果也不保证准确。聊天机器人可以将这项工作压缩为单一回应,因此其综合结论的依据尤为重要。

ChatGPT、Google Gemini、Meta AI 和 Snap’s My AI 被列为 Rutgers 调查对生成式 AI 的描述示例。它们被纳入其中,并不能证明产品间的相对表现。该研究没有依据可用来评定胜者,或为任何一款产品赋予经衡量的安全优势。

有意义的比较需要在可比条件下考察相同的问题。评估者需要记录各系统给出了什么回答、提供了什么证据,以及如何处理缺失的上下文。仅凭一则措辞流畅的回答,不足以成为在此情境下对产品进行排名的依据。

历史民调进一步说明,有必要区分使用与信任。KFF 在其 2024 年 8 月发布的 AI 健康信息民调中发现,30 岁以下成年人中有 25% 至少每月一次使用聊天机器人获取健康信息。在所有成年人中,29% 表示他们信任聊天机器人提供可靠的健康信息。

这些数字来自另一项调查,覆盖的健康问题类别也更广泛。它们无法与 Rutgers 的发现共同确立一项采用趋势。研究人群、问题和衡量方式均不相同。它们在此处的价值在于提供背景:在这项特定研究之前,聊天机器人的使用及其可靠性判断已是两个独立的公共议题。

产品面临的挑战,是在交流过程中让这种区分变得可理解。一个有帮助的界面应当说明何时是在解释一般信息,何时用户的问题已超出系统可以负责任地确定的范围。这是一项设计目标,而非 Rutgers 研究已经证明的结果。

来源可见性同样重要。引用能让用户有材料可供查验,但引用的存在并不能证明回答准确呈现了被引材料。评估必须考察主张与证据之间的联系,包括限定条件是否在摘要中得以保留。

对于已经通过 个人知识库整理技术资料的读者而言,这种信息管理上的区别并不陌生。保留原始来源以便访问,可以让日后核查成为可能;但这并不会将已保存的解释变成经过验证的医疗指导。

更广泛的含义是,可及性与问责性需要分别衡量。一个系统可以容易接近,却难以审计。产品团队应能够说明如何评估这两者,而不是将一段令人满意的对话当作两者的证据。

信任需要满意度无法提供的评估

用户的积极印象是一项重要观察,但它不是准确性测试。

罗格斯大学报告称,参与者认为 AI 工具有帮助、可靠且值得信赖。这些感受有助于解释为何这一使用场景值得关注。它们说明了用户认为自己与技术之间存在怎样的关系,但并不能证明某个具体回答是否正确。

当用户提出问题正是因为缺乏判断答案的知识时,这种区别尤为重要。可读性可以让解释更容易理解;自信的表达可以让人更容易接受。但这两种特质都不能单独证明解释包含了必要的事实和限定条件。

因此,未来的评估应当区分几个问题:回答是否提供了准确信息?是否遗漏了重要内容?用户是否理解其中的不确定性?这次交流是否影响了之后的决策?若将这些问题合并为一个总体满意度评分,就会掩盖真正重要的差异。

世界卫生组织的生成式 AI 指南涉及能够接收和生成不同类型内容的模型在更广泛健康领域的应用。该指南指出了虚假或不完整陈述、偏见以及过度依赖自动化输出等问题。这些担忧为评估提供了框架,而非证明每一次交流都会失败。

不完整的回答与产品测试尤其相关。评估者应当审视系统遗漏了什么,同时关注它明确说了什么。一个回答可能包含准确的一般性陈述,却未能传达这些陈述应用于个体情况时的局限。

同样的原则也适用于不确定性。一次对话开头的免责声明,并不能证明后续回答始终维持了适当边界。随着用户补充细节、寻求安慰或质疑谨慎的回答,评估应跟踪整个互动过程。

这些是拟议的测试重点,而不是罗格斯大学 AI 物质使用研究的发现。这样的区分可避免文章把研究人员并未测试的能力或失败归因于系统,也将注意力引向开发者能够提供证据来填补的实际缺口。

感知到的帮助程度仍应纳入评估。技术上准确但用户无法理解的解释,本身就构成沟通问题。目标应是在保留二者不同含义的同时,一并评估理解程度和准确性。

这为产品主张设立了严格标准。将助手描述为可用于敏感问题的公司,应说明其证据中“有用”具体指什么。更快的回答、更清晰的措辞、准确的内容和更好的决策,是不同的成果。对其中一项的演示,不应悄然演变为对所有成果的主张。

公共讨论同样需要这种严谨性。人们可以承认对话式访问的吸引力,同时要求获得关于可靠性的更强证据。这一立场直接源于尚未解决的问题,而不预设其普遍有益或必然有害。

抽样与人口统计差异限制了标题的解读

“三分之一”这一结果仅适用于本次调查样本,不应被视为精确的全国估计。

研究人员将在线非概率样本列为一项局限。在这种设计中,参与者并非通过让每名符合条件者都拥有已知入选概率的程序进入样本。因此,特别活跃于网络或熟悉 AI 的人可能被过度代表。

招募配额可以改善样本在人口统计特征上的平衡,但无法消除这一选择问题。与部分选定的人口特征相匹配,并不能证明参与者在信息使用习惯上与所有人相似。这一区别很重要,因为所研究的行为本身就与网络活动密切相关。

这一限定并不会抹去所报告的行为,而是改变了这一数字所能支持的结论。该研究提供了在受招募群体中存在大量使用行为的证据,也为进一步调查提供了理由。它并不能准确确定这种行为在全体美国年轻成年人中的普遍程度。

该调查还依赖受访者回忆并描述自身行为。作者指出,其调整后的测量方法此前并未经过试点或验证。因此,读者应将这些发现视为一项具有明确不确定性的初步测量工作,而不是用于追踪整个人群的最终工具。

人口统计学发现也需要同样克制的解读。黑人和男性受访者更可能报告与物质相关的 AI 使用。罗格斯大学讨论了可能涉及医疗服务获取、污名化、信任和信息寻求习惯的解释。这些解释仍属假设,而非调查已经证实的原因。

相关性并不能证明某一人口统计特征导致某种行为。它也不能揭示不同群体是否得到不同的回答,或经历了不同的后果。这些问题需要有关互动和结果的证据,而本研究并未提供。

对开发者而言,其含义是审视评估是否充分代表了产品使用者。忽视重要用户群体的测试受众,可能会让重要问题得不到回答。这一建议应引导包容性研究,而非为关于任何群体判断力或脆弱性的假设提供依据。

对记者和读者而言,措辞很重要。“接受调查的年轻成年人”保留了结果的适用边界。未经限定地说“年轻成年人”则可能暗示更广泛的确定性。这种差异在标题中很小,在解读上却很大。

罗格斯大学关于聊天机器人的研究同样无法确立 AI 使用与健康信息需求之间的因果方向。寻求更多信息的人可能会转向更多渠道;不同的信息习惯也可能先于聊天机器人的采用。一次调查无法确定其先后顺序。

这些局限使后续研究更具价值。采用可比方法的重复调查可以检验随时间发生的变化;跟踪参与者的研究可以调查一次交流之后发生了什么;直接审计回答可以评估准确性。每种设计回答的问题不同,因此不应期待某一项后续研究解决所有问题。

下一步证据应将回答与理解联系起来

最有价值的下一步进展,将展示系统说了什么、用户理解了什么,以及二者如何关联。

罗格斯大学的 AI 物质使用研究表明,有必要密切关注消费级 AI 在敏感应用中的表现。未来几个月,读者应关注具体证据,而不应假定一篇论文、一次产品更新或一项安全声明就能消除不确定性。

第一个信号是对涉及物质问题的聊天机器人回答进行独立评估。一项有价值的评估应公开其问题集、评估标准、测试的产品版本,以及处理缺失信息的方法。专家审查应检查准确性、遗漏、不确定性,以及系统开始转向个性化建议的节点。

持续恰当的回答将增强这样一种观点:对话式访问可以以负责任的方式服务这一群体。反复出现的重要错误,则会加深人们对在这一场景中依赖通用系统的担忧。无论哪种结果,都能提供采用数据本身无法给出的信息。

第二个信号是对用户解读的研究。研究人员应考察人们认为一个回答证明了什么、记住了哪些限定条件,以及是否会核查其来源。一个回答在评估者看来可能足够谨慎,却仍可能让读者产生没有依据的确定感。

如果证据表明用户理解了边界,将支持现有沟通方式的有效性;如果证据表明他们经常忽视这些边界,则会对其提出挑战。这将有助于区分问题出在生成内容本身,还是出在界面呈现内容的方式。

第三个信号是伴随可量化评估的透明产品改进。关注开发者如何说明其处理模糊健康问题、核查来源以及转向个性化建议的方式。一项新的警告或转介功能,只有在证据展示其如何影响互动时才具有意义。

有记录的改进会增强人们对特定干预措施的信心;没有披露测试的公告,则会使核心不确定性依然悬而未决。相关问题在于观察到的行为发生了什么变化,而不是发布文案听起来多么令人安心。

这些信号都不要求将所有对话式健康信息视为天然无用或天然安全。它们要求证据与主张相匹配。采用情况、满意度、内容质量、理解程度和健康结果应纳入同一项研究,同时让它们之间的差异保持清晰可见。

阅读罗格斯大学的 AI 物质使用研究时,应牢记这一区别,并将其带入下一则有关聊天机器人的新闻标题。请问:谁参与了研究?研究人员测量了什么?报告的结果涉及使用、信任、准确性,还是结果?当公司推出一项保障措施时,应寻找针对实际互动的评估。当调查描述信心时,不要将其解读为正确性的证明。接下来真正重要的问题是:易于获取的回答是否能帮助人们理解可靠信息,并认识到其局限。关注能够连接这些环节的证据,并在标题承诺超出研究测量范围时,始终让原始研究保持在可查阅的范围内。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page