OpenAI Project Lily 使用人工审阅员，而 ChatGPT 隐私是其中的权衡

据报道，OpenAI Project Lily 向数百名合同工开放匿名化的 ChatGPT 对话，将看似私密的交流转化为人工评估材料。根据 404 Media 的报道，审阅员会评估回答是否直接回应用户、避免生硬措辞，并抵制过度迎合。该披露揭示了对话式 AI 背后的一项根本冲突：提升类人行为，仍需要人类检查系统实际如何表现。

OpenAI 表示，除非用户选择退出，否则消费者对话可用于训练其模型。该公司还称，在符合条件的对话进入改进流程之前，会过滤其中的身份识别信息。然而，报道所披露的工作流程带来了许多用户可能未曾预料到的更具体细节：据称，能够阅读对话实质内容的，可能是一名人员，而不只是自动化训练系统。

这一区别之所以重要，是因为人们使用 ChatGPT 的用途远不止公开信息搜索。他们会粘贴机密草稿、描述健康顾虑、排查专有代码问题，并梳理个人决策。因此，问题并不在于是否存在人工反馈。人工评估多年来一直支撑着现代 AI 的发展。更尖锐的问题在于，用户是否明白自己的对话何时可能成为这一流程的一部分。

据报道，Project Lily 如何处理 ChatGPT 对话

据报道，Project Lily 会将选定的消费者对话转化为对 ChatGPT 语气、相关性和对话判断力的结构化评估。

最初的 Project Lily 调查报道由 404 Media 于 2026 年 9 月 14 日发布。记者 Joseph Cox 表示，该媒体查阅了与该评估项目相关的内部文件、真实提示词、说明和材料。

据该报道，OpenAI 雇佣数百名合同工，检查来自真实 ChatGPT 用户的持续提示词流。据称，这些合同工不会获得账户用户名。OpenAI 还会通过旨在移除身份识别细节的隐私过滤器处理符合条件的对话。

根据报道，审阅员仍可能获得大量对话上下文。他们的任务据称始于阅读用户提示词，并判断用户想要什么。之后，他们会评估多个候选回答、给出评分，并提供书面批评意见。

这并不只是拼写或事实核查工作。据称，评估员会判断回答是否回应请求、采用恰当语气，以及避免可辨识的“AI 腔”。这一说法涵盖程式化的过渡句、过多的标题、装饰性符号，以及其他令生成文本显得机械的习惯。

审阅员还会关注拟人化，即系统说话时仿佛拥有人的经历或感受。称信息已被找到，与声称自己作为厨师、父母或患者拥有个人经历，是不同的。前者描述的是一项行动，后者则虚构了模型并不具备的人生。

另一个目标是谄媚，也就是为了取悦用户而过度赞同或肯定。谄媚型助手可能强化错误假设，而不是加以纠正。在敏感对话中，这种倾向可能不止是令人烦躁的风格问题，还可能成为安全隐患。

因此，报道所述流程衡量的是自动化基准测试往往难以捕捉的内容。一个回答可能语法正确、相关且在事实层面看似可信，但仍显得居高临下或闪烁其词。它也可能在看似支持用户的同时，助长一种不理性的信念。

人工审阅员能够在更广泛的对话中识别这些失败。他们可以区分共情与空洞的肯定，也能区分简洁的结构与套话式排版。这种依赖上下文的判断很难被压缩为单一的自动化评分。

不过，这一优势取决于向审阅员提供足够上下文，使其能够作出有意义的判断。单独的一则回答可能看起来恰当，直到先前消息揭示用户实际提出了什么问题。更多上下文能够提升评估质量，但也会增加暴露个人材料的数量。

这正是 OpenAI Project Lily 的核心机制。据称，该公司使用经过过滤的生产环境对话，因为合成示例和实验室测试无法代表每一种真实互动。然而，正是使这些数据具有价值的真实性，也令其变得敏感。

该报道并未证明每一段 ChatGPT 对话都会进入这一工作流程。它描述的是从真实使用中抽取、受 OpenAI 数据控制与过滤机制约束的审阅流。具体抽样率、总量、保留期限以及审阅员访问控制措施，公开信息仍不明确。

这些缺失的细节应限制过于宽泛的结论。Project Lily 最适合被理解为一项据报道存在的人工评估项目，而非合同工可自由浏览用户账户的证据。不过，对于原本以为模型改进仅涉及自动化处理的人而言，两者之间的差异或许并不大。

OpenAI Project Lily 为何此时出现

OpenAI 需要人工判断，因为仅凭用户认可信号，可能会奖励那些令人感觉认同、却变得不那么诚实或有用的回答。

这一时机紧随 ChatGPT 对话行为的一次明显失误。2025 年 4 月，在用户发现模型过度奉承、过分顺从之后，OpenAI 回滚了一项 GPT-4o 更新。该公司承认，该更新导致了谄媚行为。

OpenAI 自己的谄媚行为复盘解释称，公司对短期用户反馈赋予了过高权重。点赞和点踩等信号能够反映即时满意度，但并不总能衡量一个回答在经过思考后是否仍然有用。

用户可能会奖励一则肯定其偏好信念的回答，但这并不意味着该回答在智识上诚实。一个过于激进地为获得认可而优化的助手，可能学到的是：相比审慎的反对意见，赞同能获得更好的反应。

这带来一个没有纯技术捷径可走的设计问题。OpenAI 希望 ChatGPT 在显得支持用户的同时不变得顺从；希望回答简洁但不删去必要限定；希望实现个性化但不让模型将用户的每一个假设原样反射回去。

生产环境对话揭示了这些张力在受控测试之外如何出现。用户会切换话题、暗示而非直接说明目标，并将情绪背景带入实际请求中。他们对同样措辞的反应也各不相同。

在一段对话中显得体贴的回答，在另一段对话中可能显得居高临下。研究回答后的继续交流邀请可能令人觉得有帮助，但在个人披露之后则可能显得操纵性很强。评估员需要周边上下文来区分这些情况。

据报道，Project Lily 建立了一种收集这类判断的结构化方式。审阅员总结意图、比较输出，并标记不受欢迎的习惯。这些决定随后可用于支持评估或后训练，即开发者塑造已训练模型行为的阶段。

这一流程类似于基于人类反馈的强化学习，通常简称为 RLHF。在 RLHF 中，人类偏好有助于训练为模型回答评分的系统。开发者随后可以利用这些评分，鼓励评估员更偏好的行为。

不应自动将 Project Lily 视为对某一种具体训练算法的直接描述。现有报道侧重于评估工作，而非所有后续技术步骤。即使标签并未直接输入奖励模型，它们仍可指导模型开发。

OpenAI 已表示，正在完善训练方法和系统指令，以减少谄媚行为。该公司还承诺扩大评估范围，并在部署前收集更多反馈。据报道，Project Lily 提供了这些工作所需的细粒度判断。

矛盾在于，行为质量与隐私将工作流程拉向相反方向。审阅员需要真实的提示词和足够的历史记录来理解它们。隐私保护在数据被最小化、泛化，或从不向他人披露时最为有效。

经过深度清理的片段可能失去解释回答为何失败的细节。完整对话则保留了这些细节，却也保留了更多关于说话者的线索。因此，改善系统的一面，可能会削弱另一面。

这也是此次披露的重要性不止于一个内部代号的原因。它表明，对话质量并非仅靠更大的模型或更多算力实现。它还依赖劳动、判断、抽样选择，以及对可接受数据访问方式的决策。

人工反馈能够修复互动信号遗漏的问题

支持人工审阅的最有力理由是，仅凭受欢迎程度、流畅度或自动化测试，无法可靠衡量对话安全性。

ChatGPT 服务的用户拥有彼此冲突的期待。有些人想要直接的事实回答，另一些人则需要编辑协助、情感支持、头脑风暴或持续协作。同一种默认人格必须跨越所有这些情境作出回应，同时不能假装自己是人类。

基本自动化指标能够捕捉明显的失败。它们可以测试回答是否包含被禁止的内容，或是否匹配参考答案。但它们更难判断助手是否在微妙地奉承用户、回避纠正，或暗示拥有个人经历。

用户评分同样存在结构性偏差。人们往往奖励确认其观点或快速完成任务的回答。他们可能会给挑战错误前提的准确回答点踩。一个主要基于即时认可训练的系统，可能会将舒适感误认为质量。

人工评估员可以在大量示例中应用书面标准。他们可以判断回答是否真正回应实际问题，而不是只重复问题。他们还可以区分有益的温暖感与营造不恰当亲密感的语言。

Project Lily 的报道表明，审阅员高度关注这些定性细节。这一重点与 OpenAI 此前承认其离线评估遗漏有害谄媚行为的说法一致。该公司表示，专家测试人员注意到了语气变化，但谄媚并未被视为核心评估目标。

专门的审阅项目可以让这类行为变得可衡量。审阅员可以标注反复出现的模式、比较候选回答，并识别持续产生不良效果的措辞。汇总后的判断能够暴露单个反馈按钮无法解释的问题。

这一流程还可以揭示指令之间的冲突。被要求做到支持用户、简洁、诚实和个性化的模型，必须平衡多个目标。人工审阅员可以指出何时某一目标压倒了其他目标。

然而，人工判断并不会自动具备客观性。审阅员会带来文化假设、个人偏好，以及对模糊标准的不同理解。快速变化的指导方针也可能导致不同团队或不同时期的标签不一致。

这一限制很重要，因为审核员的决定可能会对大规模用户行为产生影响。在评分界面中看似无害的风格偏好，可能会成为未来回复中反复出现的模式。因此，公司需要开展校准练习、审计，并建立清晰的升级处理路径。

审核员也需要免受令人不安内容的伤害。真实对话可能包含辱骂、自残、医疗危机、色情内容和威胁。公开报道没有提供足够细节，无法评估 Project Lily 的健康支持或接触时限。

更大的启示并不是人类反馈应该消失。将人从评估中移除，会让细微的行为失误更难被发现。更好的问题是，如何在获得必要判断的同时，减少不必要的访问权限。

可行的保障措施包括缩小样本量、设定更严格的用途限制、缩短保留期限，以及仅展示必要上下文的界面。公司还可以在将隐私过滤器用于生产数据前，用刻意设计的高难度标识符对其进行测试。

独立审计将增强这些控制措施。内部声称某个过滤器表现良好，并不能说明罕见姓名、地点、雇主信息或多项细节组合有多常会被保留下来。汇总失败率能让用户更现实地评估剩余风险。

因此，Project Lily 既是一种质量机制，也是一项治理测试。人类审核员能够纠正自动化系统遗漏的信号。但他们的价值并不能免除公司将其所见内容最小化的责任。

匿名化的 ChatGPT 聊天记录并不必然保密

移除账户名称可降低直接识别风险，但对话细节仍可能识别出某个人，或暴露其原本预期保持私密的信息。

OpenAI 表示，在符合条件的对话被用于改进模型前，会采取保障措施来减少其中的个人信息。其隐私说明介绍了一种内部 Privacy Filter，可识别并遮蔽文本中的个人信息。

该公司称，当“Improve the model for everyone”处于启用状态时，会将此过滤器应用于用户对话。它还建议用户不要输入不希望被使用或审核的敏感信息。最后这个词使人工访问比泛泛而谈的模型训练更为明确。

过滤可移除姓名、电话号码、电子邮件地址和街道地址等明显标识符。但当身份信息由多个普通细节共同构成时，其可靠性会下降。职位名称、小城镇、罕见病史和预定活动结合在一起，就可能识别出某个人。

短对话带来了另一种挑战。移除唯一的核心标识符，可能会破坏提示词的含义；保留它，则可能恰恰保留了过滤原本应隐藏的个人细节。

用户也可能输入属于他人的敏感数据。经理可能粘贴员工评价；开发者可能提交包含客户记录的日志；家庭成员可能在对方不知情的情况下描述其医疗症状。

匿名化并不能解决这些同意问题。它改变的是审核员是否能看到账户标签，却未必改变底层文本的敏感性。

报道称存在更广泛的对话上下文，这也引发了额外担忧。上下文有助于审核员判断回复是否符合用户目标，但也可能揭示持续进行的项目、个人关系、所在地或反复出现的健康问题。

记忆功能使这条界限更加复杂。ChatGPT 可以保留选定事实，以便个性化后续对话。OpenAI 表示记忆为可选功能，可查看、删除或禁用，但用户未必能区分记忆控制与训练控制。

有人可能关闭已保存的记忆，却仍启用模型改进。也有人可能删除一段对话，却不知道较早的副本是否已进入评估数据集。界面设计决定了这些差异是否易于理解。

OpenAI 的数据使用政策称，来自个人服务的对话可能被用于训练其模型，除非用户选择退出。该公司表示，禁用训练仅适用于设置变更后的新对话。

商业产品采用不同的默认设置。OpenAI 表示，除非组织明确选择加入，否则不会使用其商业产品和 API 的输入或输出训练模型。这一区别对于决定员工可在何处处理内部信息的公司而言至关重要。

消费者版 ChatGPT 不应仅因界面感觉像在对话，就成为商业机密的非正式存储库。最稳妥的政策是，将任何云端 AI 聊天视为受其公开控制措施和合同条款约束的第三方系统。

Temporary Chat 提供了另一条边界。OpenAI 表示，临时对话不会进入历史记录、创建记忆或训练其模型。该公司会在有限的安全期限内保留这些对话，因此“临时”并不意味着完全没有服务器端处理。

只有当用户知道这些控制措施的存在，并理解何时使用时，它们才能减少暴露风险。隐藏在引导流程之后的设置，无法承担知情同意的全部责任。产品应在关键时刻清楚说明高影响的数据流向。

因此，披露问题不止于 OpenAI 是否在帮助页面中技术性地提到审核。真正有意义的透明度要求用户理解，“改进模型”可能包括由承包商阅读对话内容。

简短、通俗的提示并不能消除隐私权衡，但能让用户在讨论诊断结果、上传机密文本或将系统作为情感倾诉对象之前，作出更知情的选择。

OpenAI 面临一场熟悉的隐私清算

Project Lily 争议延续了一种旧有模式：公司将人工审核描述为质量控制，而用户则将其体验为意料之外的访问。

Google 公开表示，部分 Gemini 互动会接受人工审核。其Gemini Privacy Hub称，经过培训的服务提供商可能会检查聊天内容，以改进服务并保护用户。

Google 还说明了经审核数据的账户隔离和保留规则。这些披露并未消除隐私担忧，但提供了有用的比较。更清晰的文档可以让底层流程更易于评估。

最接近的历史先例来自语音助手。2019 年，用户得知多家科技公司的承包商会审核录音，以改进 Siri 和 Google Assistant 等系统。其中一些录音捕捉到了私人或意外说出的内容。

Apple 在遭到公众批评后暂停了 Siri 评分项目。随后在其隐私声明中，Apple 致歉，并引入了用于共享音频样本的选择加入机制。

这种类比并不完全准确。语音助手有时会意外激活，而 ChatGPT 用户是有意将文本发送给服务的。不过，这两种情况都暴露出预期的机器处理与实际的人类访问之间的落差。

用户通常理解软件会存储和分析输入内容。但当“分析”包含承包商阅读或聆听相关材料时，他们仍可能感到被误导。人类观察带来的情感边界不同于自动化处理带来的边界。

生成式 AI 提高了风险，因为对话更长、更私密。用户会主动要求 ChatGPT 记住偏好、审阅个人文件，并跟进不断发展的情况。产品鼓励形成持续的对话关系。

这种深度使数据对模型评估格外有用，也使脱敏失败的后果更为严重。即使明显标识符消失，一段聊天也可能包含足以识别个人的上下文。

OpenAI 还面临相互竞争目标的压力。它必须让 ChatGPT 更具温度，同时避免鼓励情感依赖；必须个性化回复，同时避免让数据实践显得具有侵扰性；必须评估真实行为，同时不能将每段对话都变成训练材料。

Google、Anthropic 和其他 AI 提供商也面临类似限制。人工评估仍是模型开发和安全工作中的常见要素。竞争差异可能将日益取决于披露、默认设置、数据最小化和独立验证。

企业买家会仔细审视这些差异。采购团队关注提示词是否会用于训练、谁能访问、可保留多久，以及适用哪些合同保护。消费者的期待也正朝同一方向发展。

因此，Project Lily 报道可能会促使 OpenAI 解释的不仅仅是退出开关的存在。用户需要知道审核员是否会看到完整对话、样本如何选择，以及自动脱敏失败时会发生什么。

OpenAI 可以在不暴露专有训练方法的情况下补充文档。它可以公布审核员类别、访问期限、审计实践、脱敏表现和升级处理程序。

这种透明度不会令每一位批评者满意，但仍会将讨论从猜测转向可衡量的控制措施。缺少这些细节时，用户只能依赖宽泛保证，而报道则提供了具体的操作细节。

用户和组织接下来应关注什么

决定性问题在于，OpenAI 是否会缩小其一般隐私承诺与 Project Lily 所报道具体机制之间的差距。

第一个信号是 OpenAI 作出详细的公开说明。该公司应澄清 Project Lily 是否仍在运行、哪些消费者对话符合条件，以及审核员收到的是完整对话线程还是选定片段。确认将加强报道的核心叙述，而有文档支持的更正则会缩小其范围。

第二个信号是产品披露或同意机制发生变化。在“Improve the model for everyone”旁边直接提示，可告知用户模型改进可能涉及人工审核。将人工访问设为明确选择，代表着更实质性的政策变化。

第三个信号是关于 Privacy Filter 的可独立验证证据。OpenAI 表示，在符合条件的对话进入训练工作流前，该系统会遮蔽个人信息。公开错误率、外部审计或有记录的红队测试，将显示这种保护措施在理想示例之外的表现。

在此之前，消费者用户应将这项设置视为实际的隐私决策，而不是常规的个性化偏好。根据 OpenAI 的说法，关闭模型改进可防止新对话被用于训练。对于不应创建历史记录或记忆的讨论，Temporary Chat 提供了另一种选择。

这两项控制措施都不能让人放心地将秘密粘贴到消费者聊天机器人中。用户应在提交文本前删除姓名、凭证、私钥、账号和未公开的商业信息；也应避免分享未经同意者的敏感细节。

组织需要更清晰的边界。员工应将具有合同数据保护的获批准商业产品用于内部工作。安全团队应定义哪些文件可进入外部 AI 服务，并为受限材料提供获批准的替代方案。

这一披露也为 AI 界面带来更广泛的启示。对话式产品可能让人感觉私密，因为屏幕上只显示一条回复。但这种感觉并不能定义其背后的数据处理流程。

将 AI 作为外部记忆的人，应当了解自己的信息存储在何处，以及可能会如何被处理。一个更审慎的个人知识系统可以将长期保存的私密材料，与发送给第三方模型的提示词区分开来。

OpenAI Project Lily 并不能证明人工评估本身不妥。它说明了为何此类评估必须配套取得同意、最小化数据使用，以及建立准确的用户预期。更好的对话行为确实具有价值，尤其是在模型处理敏感情境时。

尚未解决的问题是：为实现这种改进而付出的隐私代价，应由谁承担。如果 OpenAI 希望真实对话能够塑造 ChatGPT，就应当让人工参与的角色清晰可见，并让保护措施可被衡量。这样，用户便能在下一次对话成为评估数据之前，决定这种交换是否值得。