Anthropic AI 谈判代理正在学习讨价还价，但规则由谁制定？
据报道，随着其 AI 代理开始学习谈判，Anthropic 正在咨询律师事务所，由此引入了普通助手从未需要解决的冲突。助手可以建议一笔交易；Anthropic AI 谈判代理则会为此讨价还价、解读让步、评估交易对手，并可能代表用户承诺条款。
据报道，这些法律咨询聚焦于软件设计与既有商业惯例之间的问题。代理应当以多强硬的方式维护用户利益？何时必须请求批准？当另一名谈判者也是 AI 系统时，它应如何应对？
这些问题变得紧迫，是因为 Anthropic 已在实验性市场中测试了由 Claude 驱动的代理。该公司的研究表明，代理能够发现交易机会并运用可辨识的谈判策略。研究也显示，当代理误解其所代表的人时，成功谈判的意义微乎其微。
因此，核心的较量并非 Anthropic 与另一家 AI 公司之间的竞争，而是委托式便利与真正的人类控制之间的拉锯。谈判代理承诺为人们节省时间，但其价值取决于能否获得足够的授权，以便无需持续监督即可行动。
这种权衡不止于购物。类似系统最终可能处理采购、合同条款、工作排班、医疗账单、保险争议或工作邀约。每种场景对同意、披露和可接受施压程度的门槛都不同。
Anthropic 正将谈判转变为代理设计问题
据报道的法律接触标志着重心从测试代理能否谈判，转向决定何时应允许它们谈判。
根据 Techmeme 汇总的《金融时报》报道，Anthropic 正就代表个人行事的系统所采用的谈判策略咨询法律团体。据报道，该公司正研究代理应如何争取有利结果，同时维护公平性，并安全地应对 AI 对手。
据报道，Anthropic 还考虑制定正式的任务文件，用于界定代理的委派事项和行为边界。这类文件可以明确目标、可接受的让步、支出权限、披露规则、升级节点，以及需要重新获得批准的行动。
这类似于授予人类代表的授权委托。区别在于，软件代理可以持续运行、联络众多交易对手，并生成多到个人无法合理监督的报价。
AI 谈判代理是一种无需每条消息都获批，便可交换提案并选择行动的系统。这使它区别于谈判辅助软件：后者起草措辞或评估选项，但控制权仍由人类保留。
这种区别很重要，因为对话可能转化为承诺。搜索酒店的系统执行的是可逆的信息任务；接受取消条款或签署采购订单的系统，则会改变用户的法律和财务地位。
谈判还包含一些既非简单错误、也并非明显不当行为的做法。人类谈判者会隐瞒保留价格、策略性地塑造替代方案、援引截止期限，并作出附条件让步。代理需要为每种做法制定规则。
如果开发者禁止每一种策略性举措，他们的代理可能很容易被利用。如果只为有利条款进行优化，代理则可能欺骗他人、向弱势群体施压，或为微小的即时收益牺牲长期关系。
当两个代理相遇时，问题会变得更复杂。每个系统可能拥有私密指令、不完整信息、不同的安全政策以及不对等的模型能力。任何一方都不一定知道另一方拥有多大权限。
买方代理可能将卖方代理的消息理解为具有约束力的报价，而卖方原本只想提出探索性建议。模型也可能接受看似有利、却在合同其他部分隐藏义务的措辞。
传统软件通过固定字段和确定性规则减少歧义。语言模型代理则通过自然语言运作，而其中的含义取决于上下文、历史记录和可能从未明确说明的假设。
这种灵活性使谈判成为可能，但也会引发争议：代理究竟理解了什么、披露了什么，以及用户是否授权了最终结果。
因此，这些法律咨询涉及的不只是产品上线后的合规问题。它们还会塑造产品本身，包括其记忆机制、权限结构、审计轨迹和成功定义。
有用的代理必须知道何时可独立继续推进。值得信赖的代理还必须识别自己何时已触及权限边界。
Anthropic AI 谈判代理已暴露偏好缺口
Anthropic 的实验表明，理解用户是比交换报价更大的瓶颈。
2026 年 9 月，Anthropic 发布了 Project Swap：这是一项受控市场实验，涉及六个办公室的 201 名员工。参与者带来书籍，向 Claude 描述自己的阅读偏好，并让由 Claude 驱动的代理进入数字化交易市场。
这些代理提出交换方案、回应竞争性报价，并组建多方交换。每笔交易都需要所有参与代理接受，系统则记录交易市场中的对话。
这项代理市场实验延续了更早的 Project Deal；后者是在一个为期一周的内部市场中围绕真实商品开展的实验。Project Swap 使用书籍，是因为研究人员可以将结果与排序后的偏好进行比较。
经过约五分钟的访谈后，Claude 对书籍的排序与参与者排序在 61% 的配对中一致。这优于随机选择，但距离完整呈现个人品味仍相去甚远。
这种差异在市场结果中变得明显。根据参与者自身排序得出的最佳分配，效率得分为 0.89；实际的去中心化交易则得分 0.55，大致相当于从十本书的清单中拿到第五选择。
Anthropic 将其中 85% 的差距归因于偏好表征不准确，只有 15% 源于去中心化议价过程。
这一结果改变了 AI 谈判的讨论框架。最重要的失败可能发生在首次报价之前：系统将一个人模糊的目标转化为可操作排序的时刻。
买方可能说价格很重要，却暗中更看重交付可靠性。员工可能要求更高薪资，但实际上更重视远程工作。对账单提出争议的患者，可能更偏好可预测的付款计划，而非理论上最低的总额。
人们往往会在谈判中发现这些偏好。他们会对具体报价作出反应，认识到隐藏的取舍，并调整优先级。静态访谈无法捕捉之后可能变得相关的每一项偏好。
当代理能够敲定协议时，这种缺口就会变得危险。模型可能获得客观上有利的价格，却接受了不可接受的数据权利、续约条件、服务限制或声誉成本。
问题并不能通过无止境地多问问题来解决。冗长的访谈会削弱委托代理原本带来的便利，也可能制造虚假的信心，因为用户无法预见每一项可能出现的条款。
更好的设计会将偏好视为证据，而非永久指令。代理可以区分硬性约束与软性偏好，记录自身置信度，并在出现新的取舍时请求批准。
它还可以在获得授权前展示示例决策。如果用户反复否决系统的选择，代理便获得了其表征仍不完整的直接证据。
Anthropic 的结果支持这一方法。认为 Claude 的访谈摘要准确捕捉其偏好的参与者，愿意委托其年度购书预算的 34%。注意到遗漏的人则愿意委托 23%。
总体平均值约为 30%，而一位博览群书的朋友为 40%。不过，Anthropic 警告称，其员工并不代表更广泛的公众，而且他们可能对 Claude 格外熟悉。
该实验涉及的还是书籍，而非具有约束力的商业协议。一本不合心意的书后果有限；一项未被充分理解的赔偿条款、融资条件或雇佣限制，则可能在多年内产生影响。
对于知识工作者而言，实际的启示是：代理在需要更敏锐的策略之前，首先需要可靠的上下文。持续维护的个人知识库可以提供偏好与过往决策，但涉及敏感权限时，仍需要明确边界。
谈判质量不能仅以是否达成协议来衡量。还必须衡量该协议是否反映了当事人的真实利益。
忠诚与公平朝相反方向拉扯
忠实服务于用户的代理，仍可能使周边市场变得更不值得信赖。
Project Swap 通过为代理分配不同指令来测试这一冲突。一些代理被要求不择手段，另一些则被赋予了帮助所有人获得合适书籍的次要目标。
在 Claude 的排序中，不择手段的代理得分比亲社会代理高出约 0.02。亲社会代理为自己接受排名较低书籍的频率是前者的两倍，尽管这种牺牲仍不常见。
一名亲社会代理最终在另一名代理请求帮助后，放弃了自己排名第二的选择。这次交换改善了另一位参与者的结果，却让这名愿意迁就的代理拿到了其排名第十的书。
这一事件概括了设计冲突。用户可能期待完全忠诚；市场运营者则可能更倾向于合作、更少失败交易，以及参与者普遍认为公平的结果。
人类市场通过职业义务和平台规则来处理类似冲突。经纪人面临最佳执行要求；房地产代表负有披露义务；消费者法律有时会在高压销售后设定取消期。
软件代理也需要相应的边界，但照搬为人类制定的规则并不够。代理沟通更快、保留详细历史记录，并且可以在数千次谈判中重复同一种策略。
它们还能识别人类可能忽略的模式。若被负责任地使用，这种能力可以发现互利交易；若被激进地使用，则可能定位弱点并大规模施压。
近期一项谈判伦理框架认为，自主代理会放大既有的伦理风险，而不是创造全新的风险。速度、持续性和适应性沟通，可能使熟悉的策略带来更严重的后果。
该框架区分了价值创造与价值索取。价值创造是寻找让双方都受益的条款；价值索取则决定如何分配这些收益。
一个完全以价值索取为优化目标的系统，可能会隐瞒相关信息、利用紧迫感，或制造情绪压力。一个仅以合作为优化目标的系统，则可能让步过多，辜负授权给它的人。
Anthropic 的实验在 205 次市场运行中发现了 16 种反复出现的策略。智能体会施加时间压力，诉诸集体责任，对比竞争报价，引用书籍获奖情况，维持候补名单，有时还会充当非正式的撮合者。
视模型而定，78% 至 96% 的智能体提及了自己排名第一的书。披露这一偏好可能有助于促成交易，但也可能让交易对手知道应从何处施压。
这些智能体几乎从不谎报自己的首选。然而，一个仅由 Anthropic 生产模型构成的市场，呈现的是异常受控的实验条件。
Anthropic 承认，所有参与的智能体均使用其模型，并被训练为礼貌行事。实验并未加入专门设计用于操纵或利用对手的对抗性智能体。
现实市场将混合来自不同公司的系统。有些会遵循严格的安全政策，另一些则可能被指示不计更广泛后果，最大化节省成本、销售额、留存率或结算速度。
这带来了一种不对称风险。谨慎的智能体可能会披露自身限制，或避免使用欺骗手段；而激进的对手则可能利用这种可预测性。
反过来的情况同样令人担忧。如果开发者让智能体具备更强的抗利用能力，系统可能变得多疑、封闭，或不愿妥协。即使双方条件本可接受，谈判也可能放缓或失败。
还存在默契协调的可能。经由相似模型优化的智能体，可能在没有明确串通协议的情况下，趋同于稳定价格或反复出现的让步模式。
该伦理框架背后的研究人员将算法串通列为需要进一步研究的领域。当智能体在采购、销售、广告、保险或劳动力市场中反复谈判时，这一风险尤为重要。
因此，治理的适当单位不只是单个智能体，还包括市场协议、身份系统、披露规则、交易日志、争议处理流程，以及赋予每位参与者的激励机制。
Anthropic 对法律问题的讨论之所以重要，是因为谈判规范必须成为可执行的产品规则。一句泛泛的“公平行事”指令，无法决定何时披露信息、拒绝施压或升级交由人类处理。
开发者需要可操作的定义。用户需要易于理解的选择。交易对手需要确信，智能体表面上的授权是真实有效的。
缺少这些要素，忠诚与公平就只是口号，而它们恰恰会在一笔重要交易变得有争议时失效。
一笔好交易仍可能是未经授权的交易
最棘手的问题并不是智能体谈得好不好，而是它的行为是否应当对其背后的人产生约束力。
合同法已经处理过由自动化系统生成的交易。企业经常接受在线订单，并执行基于规则的交易。语言模型智能体增加了不确定性，因为其具体决策并非完全预先确定。
一项合同法分析认为，即便无法证明某人对每项条款都具有主观意图，传统法理仍可承认协议成立。法院往往关注外在表示与合理信赖。
这一原则能够让自动化商业运作成为可能，但也可能让部署智能体的个人或公司承担重大责任。
假设一家企业授权智能体在预算范围内采购设备。智能体谈到了优惠的单价，却接受了自动续约、限制性数据条款和遥远的争议解决地。
卖方可能有理由相信该智能体拥有授权。买方则可能主张系统超出了其任务范围。争议随即同时涉及合同解释与产品设计。
一份有记录的授权书可以减少这种不确定性。它可以说明智能体能够讨论什么、可以接受哪些条款，以及何时必须进行人工确认。
不过，披露也会带来策略成本。若交易对手知道智能体确切的支出上限或审批门槛，就可以围绕这一限制设计报价。
因此，授权可能需要分层。用户与智能体可以共享详细的私密指令，而交易对手则获得一份可验证的授权声明，却看不到保密偏好。
每项实质性行动还应留下持久记录。日志应记录收到的报价、考虑过的条款、作出让步的原因、披露的数据以及接受交易的时刻。
日志支持审查和争议解决，但也会引入隐私与安全风险。谈判可能包含财务信息、医疗细节、商业计划或就业相关顾虑。
被攻破的智能体可能直接暴露这些材料。恶意文档或消息也可能尝试提示词注入，即隐藏在外部内容中的指令，试图覆盖智能体原本的任务。
当智能体能够浏览、调用工具、签署文件或转移资金时，风险会进一步上升。一旦系统能立即执行行动，误导性陈述就不再只是糟糕建议。
人工批准是一项显而易见的保障，但批准提示可能变得毫无意义。如果智能体每个小步骤都请求确认，用户可能会自动接受提示。
有效监督应与风险相匹配。智能体可以自由协商可逆细节，在披露敏感信息前请求批准，并在接受超过既定门槛的义务前停止。
用户还需要撤销权。他们应能够暂停正在进行的谈判、收回授权，或使凭证失效，而无需追踪智能体联系过的每一项服务。
交易对手同样需要保障。企业应能够验证智能体的身份，确定其代表谁，并确认其授权仍然有效。
这些机制更像数字身份与访问管理，而非对话式 AI。它们涉及凭证、权限、可审计性、到期机制和恢复机制。
更广泛的法律环境仍未稳定。不同司法辖区可能对电子合同、消费者保护、隐私、歧视和自动化决策适用不同规则。
智能体可能在数秒内跨越这些边界进行谈判。开发者不能假定一条通用提示词能在任何地方都产生合规行为。
伦理规则同样取决于具体情境。在商业采购讨论中，策略性沉默或许可以接受；但在面对脆弱消费者或提供基本医疗服务时，则可能并不恰当。
关于智能体商业的研究已经指出，围绕隐私、责任与经济忠诚的问题仍未得到解答。近期的智能体商业报道也描述了智能体遭遇不愿与之互动的人们的抵触。
这种抵触很重要。个人或企业可能拒绝自动化谈判、要求披露，或要求特定交易必须由人类代表参与。
谈判智能体不会仅仅因为能交换有说服力的信息就取得成功。它们需要获得用户、交易对手、监管机构、保险公司和法院的制度性接受。
在这些方面认可该流程之前，高效的交易仍可能演变为代价高昂的争议。
三个信号将表明智能体谈判是否已准备就绪
下一阶段的决定性因素，将是受控授权的证据，而非更多流畅议价的演示。
第一个信号是具体的授权框架。Anthropic 或其他开发者需要说明，用户如何设定目标、限制、审批门槛和撤销权。
对于会产生重大后果的交易，一项简短的自然语言请求远远不够。该框架应区分建议、临时报价和最终承诺。
它还应在不暴露用户私人议价立场的前提下，向交易对手传达授权情况。如果开发者无法解决这种分离问题，智能体将始终局限于低风险任务。
强有力的授权设计将强化委托谈判的合理性。主要依赖宽泛同意界面的产品，则会削弱这一论点。
第二个信号是针对敌对及异构智能体的测试。Project Swap 使用的是由一家公司构建、并接受合作行为训练的智能体。
现实市场将包含不同的模型、工具、目标和安全实践。有些智能体可能虚报授权、利用已披露的偏好、用大量报价淹没流程，或插入恶意指令。
有价值的评估应测试智能体能否抵抗操纵，同时不至于失去妥协能力。它们也应比较较弱与较强模型直接谈判时的结果。
Anthropic 的研究已经发现，模型选择会影响表现。在 Claude 生成的排名中，全部由 Haiku 构成的交易场得分为 0.75，而全部由 Opus 构成的交易场得分为 0.88。
在混合 Opus 和 Haiku 的交易场中，Opus 智能体始终占据上风。如果类似差距在更高风险的市场中持续存在，获得更强模型的能力可能成为议价力量的来源。
独立的对抗性测试将增强人们对系统在 Anthropic 实验室之外有效运行的信心。仅由友好智能体参与的封闭演示，仍无法解决核心风险。
第三个信号是具备真实追索机制的部署。用户需要明确的流程，以便质疑智能体的决定、纠正其偏好模型，并从未经授权的承诺中恢复。
交易日志应足够易读，能够解释智能体为何接受某一报价而非另一报价。它不应要求用户检查数千个 token，或重建隐藏的推理过程。
Anthropic 的实验提供了一条有用线索。一名参与者表示，可观察性之所以重要，是因为它让人们拥有追索手段。另一名参与者则反对智能体似乎在同伴压力下放弃一本受欢迎的书。
这些反应说明，为何结果指标并不充分。优惠价格不能为未经授权的信息披露开脱。社会效率更高的交易也不能成为无视用户优先事项的理由。
对开发者而言，当前任务是将能力与许可分开。模型具备谈判能力，并不意味着它就应控制一项交易。
企业买家应询问人工批准设置在何处、授权如何到期、争议发生后会保留哪些证据，以及智能体是否能安全地与外部系统互动。
知识工作者应思考哪些偏好能够清晰表达，哪些决策仍需要结合具体情境作出判断。他们也应避免将智能体自信的解读视为同意的证据。
Anthropic 的 AI 谈判智能体为降低商业摩擦提供了一条可信路径。研究表明，智能体能够识别交易机会、运用策略并完成交换。
研究也表明，偏好错误比议价错误更具主导性。这一发现应引导产品优先级。更强的说服能力无法弥补代表了错误目标的问题。
最有用的谈判智能体，不会是那个永远施压最强的系统。它会理解用户重视什么，保留纠正空间，并在授权变得模糊时停止。
在委托进行真正的谈判之前，先问三个问题：代理能否说明自己的授权范围？对方能否核实该授权？当系统出错时，任何一方能否补救？在这三个问题都得到切实可行的答案之前，AI 议价应保持人工监督，而不应被视为理所当然。
