Simon Willison：别成为 AI 的肉身代理人

Simon Willison 在 8 月 3 日发出直白警告：不要成为盲目转发 AI 生成答案的“肉身代理人”。这个说法以罕见的精准度点出了职场中常见的一种失误：有人提出问题，另一个人向模型提问，然后未经实质性人工审查便将回复继续转发。

这一说法来自 Niklas Gruhn，Willison 在其 8 月 3 日的文章中对此进行了署名致谢。Willison 的建议并非反对提示词使用或 AI 辅助写作，而是要求用户在分享结果前先阅读、理解、验证并改写它。

这一差别挑战了职场 AI 背后的一项常见承诺。生成式系统能够缩短产出文本所需的时间，但速度不等于工作已经完成。当人类只是搬运模型输出时，接收者便承担起发送者回避掉的核查负担。

因此，真正的较量并非人类与 AI 的对抗，而是负责任的辅助与未经审视的委托之间的差别。前者利用模型加速思考；后者则把不确定的模型回复伪装成同事经过思考后的判断。

Simon Willison 为盲目转发 AI 回复命名

“肉身代理人”指的是充当 AI 系统与另一名人类之间传递层的人。

Willison 的短文凝练概括了一种已蔓延至电子邮件、聊天、文档、代码审查和支持系统中的行为。用户收到一个问题后，将其输入大语言模型，随后几乎不经审阅或改动，便把生成的答案粘贴回原始对话。

这个词很重要，因为“AI 生成内容”的范围过于宽泛。它既可以指经过仔细核查的草稿，也可以指未经修改的回复。“肉身代理人”则锁定了后者的核心问题：名义上的作者既没有进行验证，也没有提供可追责的判断。

Willison 建议划出明确边界：向 AI 系统提问可以接受，但其答案应始终只是中间产物。用户必须阅读它、理解其推理、验证其主张，并用自己的话作出回应。

改写不只是文风偏好。它能够证明发送者已对答案进行足够深入的处理，以至于可以自行解释。这个证据并不完美，因为人同样可以换句话说出荒谬内容，但它能在发布前形成有益的阻力。

设想一个日常工程沟通：一名队友询问某项服务为何间歇性返回身份验证错误。另一名工程师把问题粘贴给 AI 助手，再转发一段关于令牌过期的流畅解释。

这段解释听起来很合理，但真正原因可能是时钟漂移、错误部署，或无关的代理配置。转发这一答案，会把一个猜测带入读者可能视为已调查事实的沟通渠道。

同样的模式也出现在管理场景中。一名高管询问进入新市场的风险，分析师转发了一份由模型生成的通用评估。回复可能遗漏当地法规、现有合同，或公司内部掌握的信息。

可见的文档看似已经完成，分析工作却仍未完成。它的流畅掩盖了“产出答案”与“证明答案适合当前情境”之间的差距。

“肉身代理人”让团队能够用简洁的方式识别这一差距。它还将责任放在选择转发输出的人身上，而不只归咎于生成输出的模型。

流畅的输出将核查工作推给下游

肉身代理人并没有从对话中消除工作，而是把困难的工作转移给了下一个人。

生成式 AI 让起草文本变得廉价、快速且源源不断。验证仍然需要核查来源、领域知识、情境意识，以及对不确定性作出判断。这些任务往往比生成第一版回复更耗时。

盲目转发造成了一种不对称的交换。发送者花几秒钟生成数段文字，接收者却必须检查每一项事实主张、追溯缺失的背景、发现矛盾，并判断这些建议是否可以安全采用。

随着生成答案变长，这种失衡会更加严重。长篇回复可能包含大量各自看似合理的主张，而每一项都带有微小的出错概率。接收者无法从自信的措辞或精致的结构中推断其可靠性。

研究人员将这一问题的一部分称为自动化偏差，即尽管存在应当谨慎的理由，人们仍倾向于过度依赖自动化建议。一项对 35 项同行评审研究的综述发现，过度依赖仍是人类与 AI 协作面临的核心挑战。

这一风险早于大语言模型。数十年来，自动化系统一直在航空、医疗、公共管理等领域影响决策。生成式 AI 扩大了这种担忧，因为它几乎能为任何主题生成具有说服力的解释。

传统软件通常会通过结构化输入和可预测的输出暴露自身局限。对话式模型即使缺乏相关证据，也可以回答问题。这种灵活性很有用，但也让缺乏依据的回复更难被识别。

接收者面对的不仅是技术信号，也是社会信号。同事发来的消息通常意味着，这位同事已选择、理解并愿意为其内容负责。未披露的 AI 转发会在不改变消息外观的情况下削弱这一含义。

这也是为什么仅靠披露无法解决全部问题。将文本标记为 AI 生成，确实能提醒读者，但也可能是在宣布发送者希望他们来完成审查。发送者仍需判断这些材料是否值得转发。

这种负担在代码中尤其明显。生成的补丁可能能够编译并通过基础测试，却引入不安全的假设或细微的可维护性问题。审查者随后必须重新梳理一种提交开发者自己并未完全理解的方案。

支持团队也会遇到类似问题。客服人员可能转发一份遵循熟悉模板、却与客户账户、合同或此前排障记录相冲突的回答。客户最终便会通过延误与挫败感，为缺失的情境核查付出代价。

问题不在于每一条 AI 辅助消息都需要原创研究。与法律建议或生产环境变更相比，日程通知或基础改写的风险更低。所需审查应与出错后果相匹配。

不过，即使是低风险消息也会影响信任。同事很快会注意到那些重复他们的问题、忽略共享背景，或给出五种通用选项却没有建议的回复。这些模式表明，没有人真正认真接收并处理这项请求。

Willison 的框架将这种烦扰转化为劳动问题。如果发送者没有理解或评估回复，那么人类所做的贡献就只是运输。剩余的认知工作并未消失。

真正的较量是辅助与委托

AI 辅助让判断权留在用户手中，而 AI 委托则悄然将判断权交给概率系统。

大语言模型（LLM）会根据学习到的模式和所提供的上下文，预测可能的词元序列来生成文本。它不会自动依据权威证据核实每一项陈述，也不知道发送者未明说的义务。

当用户为系统设定明确且有限的角色时，辅助便开始了。模型可以建议问题、重组笔记、找出可能的反驳意见，或根据已验证的事实起草措辞。人仍然负责选择并核查结果。

当模型输出仅仅因为已经生成，就成为答案时，委托便开始了。用户不再把生成视为工作流程中的一步。草稿绕过分析，以成品形式进入人际对话。

两者之间的差别可能很微妙。两名用户或许以相同的提示词开始，并收到完全相同的文本。其中一人核查引用、删除没有依据的主张、补充本地背景并修改结论；另一人则直接复制粘贴。

只有前者增加了能够辩护的价值。这种价值既体现在删减中，也体现在补充中。良好的判断往往意味着删除自信的猜测、缩小建议范围，或承认现有证据无法解决问题。

公共部门研究表明，仅仅有人类参与并不能提供强有力的保护。在三项实验中，研究 算法建议的学者发现了自动化偏差的证据，以及人们会选择性遵从与既有刻板印象相符的建议。

因此，一个人即使形式上仍“处于回路中”，也可能几乎没有提供监督。真正重要的问题是，这个人能否质疑系统、识别错误答案，并为拒绝它承担责任。

这种差别会给那些通过简单产出指标采用 AI 的组织带来压力。如果领导者衡量的是已发送的邮件、已关闭的工单、已产出的报告或已提交的代码，那么生成量看起来就是成功。指标却无法揭示是谁承担了核查成本。

员工同样面临相互矛盾的激励。他们被鼓励使用 AI 并更快交付，却可能几乎没有时间核查生成的工作。在这种条件下，肉身代理人的行为可能成为对不合理工作流程的一种理性反应。

管理者无法仅靠命令所有人“运用判断力”来解决问题。团队需要明确责任边界。发送者应知道哪些主张需要证据、哪些决定需要审查，以及哪些不确定性必须披露。

实用的工作流程应从基础材料开始，而不是从提示词开始。用户应收集相关文档、既有决策、源数据和约束条件。可检索的 知识库可以让这些背景更易于获取，但检索本身仍需要评估。

然后，模型可以帮助审视这些材料。它可以比较文档、找出分歧、生成草稿或提出遗漏的问题。用户必须判断回复是否反映了证据和实际请求。

最后，发送者应围绕明确结论改写结果。回复需要包含可追责的建议、支持证据、清晰可见的不确定性，以及任何必要的后续行动。通用的模型回答通常至少缺少其中一项。

这种方法并不要求为每一句无害的话进行仪式化改写。它要求的是智识上的所有权。如果发送者无法解释答案为何正确、相关且具备恰当的限定，那么这份答案就还没有准备好发送。

用自己的话写是一种检查，而非疗法

改写会提高粗心转发的成本，但精致的转述无法让没有依据的主张变成事实。

Willison 将原创回复称为一份还算可靠的证明，表明作者完成了前述步骤。关键措辞是“还算可靠”。用自己的话写能证明参与其中，却不能证明事实准确。

用户可能误解模型，并优雅地重述其错误。另一个人可能借助 AI 改写工具掩饰一份未经改动的回复。组织不应将表面的原创性与真正的验证混为一谈。

该提议最有力的部分，是重写背后的顺序：阅读、理解、验证，然后回应。每个动词都针对一种不同的失误。阅读能发现明显的不相关内容；理解则检验用户能否说明其中的推理。

验证是将主张与证据、系统或具备资质的专业知识进行比对。重写则迫使用户选择真正重要的内容，并承担作者责任。跳过验证，会让最后一步沦为表面的漂白。

实验表明，有意设置一些阻力可能有所帮助。在一项 2025 年研究中，获得有缺陷 AI 支持的参与者，正确回答的反思问题不足对照组的一半。一项警示提示使其表现相比仅获得有缺陷辅助时几乎翻倍。

但这项警示并未让表现超过无支持组。在该实验中，参与者自述的 AI 素养也未能显著防止自动化偏见。因此，熟悉提示词技巧不应被误认为是可靠的怀疑能力。

有用的审查流程必须检验实质内容。对于事实性写作，用户可以标明每项重要主张，并附上权威来源。对于代码，用户可以解释改动、运行相关测试，并检查安全敏感行为。

对于分析，用户可以说明推动建议的假设。他们还应追问：什么证据会推翻自己的结论？这个问题能揭示文本中究竟包含论证，还是仅有看似合理的叙述。

对于对外沟通，撰写者应将草稿与收件人的实际需求进行比较。询问某次事件是否造成数据泄露的客户，并不需要一段泛泛而谈的加密说明。他们需要有依据的回答、已知的限制，以及下一次更新的时间。

同样的纪律也适用于摘要。模型或许能准确压缩会议记录，却可能忽略某项异议的政治意义。必须由在场的人判断，哪些表述是承诺、建议，或尚未解决的争议。

个人上下文可以改善生成结果，却无法替代这种判断。一套个人知识工作流可以保存来源和既有推理。但与他人分享的解读，仍由用户自己负责。

针对 Willison 措辞的怀疑观点值得认真对待。“肉身代理人”可能会演变成针对初级员工、非母语使用者，或借助 AI 提升无障碍体验者的侮辱。它也可能在润色重写掩盖系统角色时，奖励不可见的 AI 使用。

团队应将这一术语用于诊断工作流，而不是羞辱个人。相关标准应是对输出负责地处理。它应同等适用于高管、开发者、分析师、承包商和管理者。

也并非每一句 AI 辅助生成的内容都需要披露。披露规则取决于风险、政策和受众。核心义务比贴标签更严格：不要让他人依赖未经任何人负责任审查的重要内容。

还应警惕浪漫化没有 AI 辅助的人类工作。人们同样会复制错误建议、记错事实，并转发不相关的文件。人类署名从未保证真实。

生成式 AI 改变的是这个老问题的规模与呈现方式。它生成润色完善的回答，其速度快于人类检查的速度。“肉身代理人”这一标签之所以有用，是因为它聚焦于缺失的审查，而不是假装错误是从 AI 才开始出现的。

肉身代理人与错误一同放大偏见

即使每个单独的句子看似都站得住脚，未经检查的转发仍可能传递模型的框架与遗漏。

事实性幻觉之所以引人关注，是因为它们很容易被证明。模型会编造引文、写错日期，或把话归给错误的人。验证通常能够识别这些失误。

框架错误则更难发现。生成的回答可能突出某一种解释、假定特定受众，或遗漏受到影响的群体。即使没有任何一句话是错误的，回答也可能以扭曲的方式引导讨论。

研究人员将传播偏见描述为通过生成输出表达或放大某些视角。一项 2026 年的偏见分析指出，当用户未加足够审查便接受并据此行动时，自动化偏见可能会放大这种影响。

肉身代理人可能成为将这种框架带入机构决策的机制。这个人将自己的身份和组织地位赋予输出。收件人可能永远看不到塑造回答的提示词、替代输出或假设。

设想一位招聘经理请模型总结面试记录。模型可能会突出自信、领导力措辞或传统职业路径。如果经理转发这份摘要，主观框架就会披上中立综合的外衣。

产品团队可能询问使用率下滑的可能原因。模型也许会给出关于入门流程和定价的常见解释，却忽略内部研究中提到的无障碍问题。一份流畅的回答可能过早缩小调查范围。

高管简报也有类似风险。即使底层证据并不完整甚至相互矛盾，模型往往仍会生成平衡、有序的文字。这种风格会让真实的不确定性看起来像一份已经定论、可以管理的事项清单。

提示词并不能消除这些问题。更好的提示词可以要求反驳观点、引用或不确定性说明，但生成的文本仍需要评估。提示技术控制的是请求，而不是回答的真实性。

这正是主要竞争转向组织层面的地方。负责任的辅助会建立一条从证据、经由分析、到具名决策者的链条。盲目委派则会产生其表面所有者无法为其构成辩护的文本。

这种区别对于纠错至关重要。当经过审查的人类撰写回答被证明有误时，同事可以检视假设并改进流程。当一份粘贴的回答出错时，发送者可能只会说这是模型生成的。

这种回应会破坏组织学习。团队无法判断失败究竟源于缺失的上下文、薄弱的来源、误导性的提示词、模型行为，还是草率的审查。责任在整个工作流中消散。

AI 提供商也面临压力。为即时回答优化的界面，会鼓励用户将输出视为完整内容。引用、不确定性指示、来源视图和验证提示可以制造更健康的停顿，尽管没有任何一种能保证用户谨慎使用。

组织还应观察自身系统的下游信号。更正、重新打开的工单、被回滚的代码、重复提问和收件人投诉，都可能暴露那些在生成阶段看似高效的工作。

最佳指标或许是，AI 辅助输出是否减少了所有相关人员的总投入。如果发送者节省了十分钟，却让三位同事各花一小时检查结果，那么这个工作流并未创造效率。

衡量总投入比统计生成文档数量更困难，但它也更接近 AI 采用本应带来的价值。

Simon Willison 的警示之后会发生什么

下一个考验是，团队能否将这句令人印象深刻的话转化为可观察的、负责任使用 AI 的标准。

三个信号将显示，“肉身代理人”是否会成为不止于巧妙定义的概念。第一个信号，是日常 AI 工作流中出现审查要求。团队应明确：在生成内容传达给他人前，发送者必须检查什么。

这些要求需要与风险相称。随意的头脑风暴笔记可以容忍法律文件无法容忍的不确定性。生产代码、对客户的承诺、财务分析和人事决策，都值得明确的证据要求和具名审查者。

如果组织采纳这些标准，Willison 的观点就会作为一种运营原则获得力量。如果它们只依赖“检查 AI 输出”这类宽泛提醒，肉身代理人式行为将仍然容易否认、难以衡量。

第二个信号是产品设计。AI 界面可以展示来源、区分检索到的材料与生成的解读、标记缺乏支持的主张，并要求用户确认高影响行动。这些控制措施会在原本可能毫无检查地传递信心之处增加阻力。

关于警示提示的研究表明，界面选择可以改善批判性反思，即使无法恢复完全独立的表现。一波以验证为导向的功能将强化这样一种观点：输出审查是一个独立的产品问题。

相反的趋势则会削弱这一观点。如果助手越来越为一键发送、自主执行以及无形嵌入工作场所渠道而优化，用户将更少有自然机会检查那些代表自己发出的内容。

第三个信号是工作场所衡量的质量。领导者应将更快的产出与更正、返工、升级处理及收件人审查时间进行比较。这些下游成本能够揭示 AI 辅助究竟完成了工作，还是只是将工作转移了出去。

在交付更快的同时返工减少，将支持负责任的增强。若输出增加，而更正率保持不变或继续恶化，则表明组织正在大规模奖励肉身代理人。

这一短语还将面临社会层面的考验。谨慎使用时，它可以帮助同事划出边界：让 AI 参与流程，但不要把你的责任外包给收件人。草率使用时，它可能成为管控表达风格或嘲讽他人的代称。

读者可以立即应用其中有用的版本。在发送 AI 辅助完成的工作前，问问自己是否理解答案、其中的重要主张是否有支持，以及它是否回应了这位收件人的真实情境。

然后提出更难的问题：你添加了什么？有用的贡献可能是上下文、决策、已验证的来源、更清晰的解释，或对不确定性的坦诚说明。它不必复杂。

如果唯一的贡献只是把文字从一个窗口搬到另一个窗口，工作就尚未完成。保留草稿，检查证据，并写下你准备承担责任的回应。

这就是 Simon Willison 警示背后的持久要点。AI 可以加速语言的生产，但责任无法被生成后再转发。下次一个流畅的回答瞬间出现时，请在让别人替你验证之前停一停。