Anthropic AI 談判代理正學習討價還價，但規則由誰訂立？

據報，隨着其 AI 代理開始學習談判，Anthropic 正諮詢律師行，帶來一般助理從未需要處理的衝突。助理可以建議一項交易；Anthropic AI 談判代理則會代表用戶議價、理解讓步、評估對手，並可能使使用者受條款約束。

這些據報進行的法律諮詢聚焦於軟件設計與既有商業慣例之間的問題。代理應多積極地爭取用戶利益？何時必須請求批准？當另一名談判者同樣是 AI 系統時，應如何應對？

這些問題變得急切，因為 Anthropic 已在實驗性市場中測試由 Claude 驅動的代理。該公司的研究顯示，代理能夠找到交易機會並運用可辨識的議價策略。同時亦顯示，若代理誤解其代表的人，談判成功的意義有限。

因此，核心競爭並非 Anthropic 與另一家 AI 公司之爭，而是委託帶來的便利與具實質意義的人類控制之間的取捨。談判代理承諾為人節省時間，但其價值取決於獲得足夠授權，毋須持續監督也能採取行動。

這項取捨不止於購物。類似系統最終或可處理採購、合約條款、工作場所排班、醫療帳單、保險爭議或工作邀約。每個情境都對同意、披露及可接受的施壓方式提出不同門檻。

Anthropic 正將談判變成代理設計問題

據報的法律接觸，標誌着焦點由測試代理能否談判，轉向決定何時應允許它們談判。

根據 Techmeme 概述的《金融時報》報道，Anthropic 正就代表個人行事的系統之談判策略，諮詢法律團體。據報，公司正研究代理如何爭取有利結果，同時保持公平，並安全地回應 AI 對手。

據報，Anthropic 亦考慮採用正式任務文件，以界定代理的工作範圍及行為限制。這類文件可列明目標、可接受的讓步、開支授權、披露規則、升級處理節點，以及需要重新批准的行動。

這類安排類似授予人類代表的授權書。不同之處在於，軟件代理可以持續運作、聯絡眾多交易對手，並產生遠超個人合理監督能力的大量報價。

AI 談判代理是指可交換提議及選擇行動，毋須為每則訊息取得批准的系統。這使其有別於談判支援軟件；後者會草擬措辭或評估選項，但仍由人類保留控制權。

這項區別至關重要，因為對話可以形成承諾。搜尋酒店的系統是在執行可逆轉的資訊工作；接受取消條款或簽署採購訂單的系統，則會改變用戶的法律及財務地位。

談判亦包含一些既非單純錯誤、亦非明顯失當的行為。人類談判者會隱瞞保留價格、策略性地框定替代方案、援引期限，並作出附條件讓步。代理需要就每一種做法設立規則。

若開發者禁止一切策略性行動，其代理可能很容易被利用。若只為爭取有利條款而優化，代理則可能欺騙他人、向弱勢人士施壓，或為短期小利犧牲長遠關係。

當兩個代理相遇，問題會變得更難。每個系統可能擁有私密指令、不完整資訊、不同的安全政策，以及不對等的模型能力。任何一方都未必知道對方擁有多大授權。

買方代理可能將賣方代理的訊息理解為具約束力的報價，但賣方原意可能只是一項探索性提議。模型亦可能接受表面有利的措辭，卻忽略合約其他位置隱藏的義務。

傳統軟件透過固定欄位和確定性規則減少歧義。語言模型代理則透過自然語言運作，而語意取決於語境、歷史及可能從未明言的假設。

這種靈活性令談判成為可能，同時亦引發爭議：代理究竟理解了甚麼、披露了甚麼，以及其用戶是否授權最終結果。

因此，法律諮詢處理的不只是產品推出後的合規問題。它們可以塑造產品本身，包括其記憶、權限結構、審計軌跡及成功的定義。

有用的代理必須知道何時可獨立繼續行動。值得信賴的代理亦必須辨識何時已觸及其授權邊界。

Anthropic AI 談判代理已揭示偏好落差

Anthropic 的實驗顯示，理解用戶比交換報價更可能是主要瓶頸。

2026 年 9 月，Anthropic 發表 Project Swap，這是一個受控市場，涵蓋六個辦公室共 201 名員工。參與者帶來書籍，向 Claude 描述自己的閱讀偏好，並讓由 Claude 驅動的代理進入數碼交易場。

代理會提出交換方案、回應競爭性報價，並組合多方交換。每宗交易均須所有參與代理接受，而系統會記錄交易場內的對話。

這項代理市場實驗延續了較早前的 Project Deal；後者是在為期一周的內部市集中，以真實貨品進行的實驗。Project Swap 採用書籍，原因是研究人員可將結果與排序偏好作比較。

經過約五分鐘的初步訪談後，Claude 的書籍排序與參與者排序，在成對比較中有 61% 一致。這比隨機選擇更佳，但距離完整呈現個人品味仍很遠。

市場結果令這個差異變得明顯。若按參與者自身排序作出最佳配置，效率得分為 0.89；實際的去中心化交易則為 0.55，大約等同在十本書的清單中獲得第五選擇。

Anthropic 將該差距的 85% 歸因於偏好表述不準確，只有 15% 來自去中心化議價過程。

這項結果改變了 AI 談判的討論框架。最重要的失敗，可能發生在第一個報價之前：系統把一個人模糊的目標轉化為可操作排序的時候。

買方可能說價格很重要，卻暗中更重視交付可靠性。僱員可能要求更高薪酬，但其實更看重遙距工作。對醫療帳單提出爭議的病人，可能較希望有可預期的付款計劃，而非理論上最低的總額。

人們往往在談判過程中才發現這些偏好。他們會對具體報價作出反應、察覺隱藏的取捨，並修訂優先次序。靜態的初步訪談無法捕捉每一項日後變得相關的偏好。

當代理可敲定協議時，這個落差便會變得危險。模型可能取得客觀上有利的價格，卻接受無法接受的資料權利、續約條件、服務限制或聲譽成本。

無限期地提出更多問題並不能解決問題。冗長的初步訪談會削弱委託處理所帶來的便利，亦可能造成虛假的信心，因為用戶無法預見每一項可能條款。

較佳的設計會將偏好視為證據，而非永久指令。代理可以區分硬性限制與軟性偏好、記錄其信心水平，並在出現新的取捨時尋求批准。

在獲授權前，它亦可展示示範決策。若用戶反覆拒絕系統的選擇，代理便有直接證據顯示其表述仍不完整。

Anthropic 的結果支持這種做法。相信 Claude 的初步訪談摘要已捕捉其偏好的參與者，會委託代理處理其年度購書預算的 34%。留意到遺漏之處的參與者，則只會委託 23%。

整體平均約為 30%，相較之下，參與者會把 40% 的預算交給一位博覽群書的朋友。不過，Anthropic 警告，其員工並不代表廣大公眾，而且可能特別習慣使用 Claude。

這項實驗亦涉及書籍，而非具約束力的商業協議。選到不合心意的書後果有限；一項未被充分理解的彌償條款、融資條件或僱傭限制，卻可能影響多年。

對知識工作者而言，實際教訓是：代理在需要更凌厲的策略之前，先需要可靠的背景脈絡。持續維護的個人知識庫可提供偏好及過往決策，但涉及敏感授權仍需明確限制。

談判質素不能只以是否達成協議衡量，也必須衡量協議是否反映當事人的實際利益。

忠誠與公平拉向相反方向

忠實服務用戶的代理，仍可能令周邊市場變得較不可信。

Project Swap 透過向代理分配不同指令來測試這種衝突。有些代理被要求不擇手段，另一些則獲得協助所有人取得合適書籍的次要目標。

在 Claude 的排名中，不擇手段的代理得分比親社會代理高約 0.02。親社會代理接受對自己排名較低的書籍，頻率約為兩倍，儘管這些犧牲仍不常見。

一個親社會代理在另一個代理請求協助後，最終放棄了自己排名第二的選擇。這宗交換改善了另一名參與者的結果，但讓遷就他人的代理獲得排名第十的書籍。

這個情節概括了設計衝突。用戶可能期待完全忠誠；市場營運者則可能偏好合作、更少失敗交易，以及參與者普遍認為公平的結果。

人類市場透過專業責任和平台規則處理類似衝突。經紀人須履行最佳執行要求。地產代理有披露責任。消費者法有時會為高壓銷售提供冷靜期。

軟件代理亦需要同等的界線，但直接複製為人類而寫的規則並不足夠。代理溝通速度更快、保留詳盡歷史紀錄，並能在數千場談判中重複採取同一策略。

它們亦能識別人類可能忽略的模式。若負責任地使用，這種能力可揭示對雙方都有利的交易；若激進地使用，則可找出弱點並大規模施壓。

近期一個談判倫理框架指出，自主代理會放大既有的倫理風險，而非創造完全嶄新的風險。速度、持續性及適應性溝通，可以令熟悉的策略帶來更重大後果。

該框架區分價值創造與價值攫取。價值創造是尋找令雙方受益的條款；價值攫取則決定如何分配這些收益。

一個完全以爭取價值為目標的系統，可能會隱瞞相關資訊、利用緊迫感，或製造情緒壓力。只為合作而設的系統，則可能讓步過多，未能保障授權它行事的人。

Anthropic 的實驗在 205 次市場運作中，發現了 16 種反覆出現的策略。代理會營造時間壓力、訴諸集體責任、比較競爭對手的出價、引用書籍獲得的獎項、維持候補名單，有時更會充當非正式的配對人。

視乎模型而定，78% 至 96% 的代理都會提及自己排名最高的書。公開這種偏好有助促成交易，但同時亦可能讓對手知道應在哪裡施壓。

代理幾乎從不謊稱自己最想要的選擇。然而，只包含 Anthropic 生產版模型的市場，提供的是一種異常受控的環境。

Anthropic 承認，所有參與的代理均使用其模型，並接受過禮貌行事的訓練。實驗未有加入旨在操控或利用對手的對抗性代理。

真實市場會混合來自不同公司的系統。有些會在嚴格安全政策下運作；另一些則可能收到指令，不計更廣泛後果地盡量提高節省金額、銷售額、留存率或和解速度。

這會帶來不對稱風險。審慎的代理可能會披露自身限制，或避免使用欺騙策略；進取的對手則可利用這種可預測性。

反過來說同樣令人擔憂。若開發者加強代理抵抗被利用的能力，系統或會變得多疑、秘而不宣，或不願妥協。即使條款可為雙方接受，談判仍可能拖延甚或失敗。

亦存在默契協調的可能性。經相似模型優化的代理，可能在沒有明確串通協議下，趨向穩定價格或反覆出現的讓步。

制定該倫理框架的研究人員指出，演算法串通是需要進一步研究的領域。當代理在採購、銷售、廣告、保險或勞工市場中反覆談判時，這項風險尤其值得關注。

因此，治理的適當單位不只是個別代理，還包括市場協議、身份系統、披露規則、交易紀錄、爭議處理程序，以及分配予每位參與者的誘因。

Anthropic 的法律討論之所以重要，是因為談判規範必須成為可執行的產品規則。一句籠統的「公平行事」指令，無法判定何時應披露資訊、拒絕施壓，或升級交由真人處理。

開發者需要可落實的定義。使用者需要容易理解的選擇。對手需要確信，代理表面上的授權是真實有效的。

缺少這些元素，忠誠與公平仍只會是口號，偏偏會在有價值的交易出現爭議時失效。

一宗好交易仍可能是未經授權的交易

最困難的問題，不是代理談判得是否出色，而是它的行動是否應對背後的人構成約束。

合約法早已處理由自動化系統建立的交易。公司經常接受網上訂單，並執行基於規則的交易。語言模型代理帶來不確定性，因為其具體決定並非完全預先確定。

一項合約法分析認為，即使無法證明人類對每項條款均有主觀意圖，傳統法律原則仍可承認協議。法院通常著眼於外在表現及合理信賴。

這項原則可令自動化商業可行，但亦可能令部署代理的人或公司承擔重大責任。

假設一間企業授權代理在預算範圍內採購設備。代理談到有利的單價，卻接受了自動續約、限制性的資料條款，以及遙遠的爭議審理地。

賣方或可合理相信代理具備授權。買方則可能主張系統超出了任務範圍。爭議隨即同時涉及合約詮釋與產品設計。

一份有記錄的授權範圍可減少這種不確定性。它可列明代理可討論甚麼、可接受哪些條款，以及何時必須由人類確認。

不過，披露亦有策略成本。若對手得知代理的確切開支上限或審批門檻，便可圍繞該限制設計出價。

因此，授權範圍或需分為不同層次。使用者與代理可共享詳細的私密指示，而對手則收到可驗證的授權聲明，毋須看見機密偏好。

每項重大行動亦應留下持久紀錄。日誌應記錄收到的出價、考慮過的條款、讓步理由、披露的資料，以及接受條款的時刻。

日誌有助覆核和解決爭議，但亦會引入私隱及保安風險。談判可能包含財務資料、醫療詳情、商業計劃或僱傭相關憂慮。

遭入侵的代理可直接洩露這些資料。惡意文件或訊息亦可能嘗試進行提示注入，即藏在外部內容中的指令，試圖覆蓋代理原本的任務。

當代理能瀏覽網頁、呼叫工具、簽署文件或轉移金錢時，風險便會上升。當系統可立即採取行動時，誤導性陳述便不再只是糟糕的建議。

人類審批是顯而易見的保障措施，但審批提示可能失去意義。若代理每個小步驟都要求確認，使用者或會習慣性自動接受提示。

有效監督應與風險相稱。代理可自由就可逆轉的細節談判，在披露敏感資料前要求批准，並在接受超過既定門檻的義務前停止。

使用者亦需要撤銷權。他們應能暫停進行中的談判、撤回授權，或使憑證失效，而毋須追查代理曾聯絡的每項服務。

對手同樣需要保障。企業應能驗證代理身份、確定其代表誰，並確認其授權仍然有效。

這些機制與其說是對話式 AI，不如說更接近數碼身份與存取管理。它們涉及憑證、權限、可審計性、到期及復原。

更廣泛的法律環境仍未明朗。不同司法管轄區可對電子合約、消費者保障、私隱、歧視及自動化決策採用不同規則。

代理可能在數秒內跨越這些邊界進行談判。開發者不能假設一個通用提示便可在任何地方產生合規行為。

倫理規則同樣取決於情境。在商業採購討論中，策略性沉默或可被接受；但面對弱勢消費者或必要醫療服務時，這種做法便未必恰當。

有關代理商業的研究，早已指出私隱、責任及經濟忠誠方面尚未解答的問題。近期的代理商業報道亦描述，代理遇上不願與它們互動的人所產生的阻力。

這種阻力很重要。個人或公司可能拒絕自動化談判、要求披露，或要求特定交易由人類代表處理。

談判代理不會單憑能夠交換具說服力的訊息便成功。它們需要獲得使用者、對手、監管機構、保險公司及法院的制度性接納。

在這些各方承認相關程序之前，一項有效率的交易仍可能演變成代價高昂的爭議。

三個訊號將顯示代理談判是否準備就緒

下一階段將取決於受控授權的證據，而非更多流暢議價的示範。

第一個訊號是具體的授權框架。Anthropic 或其他開發者需要展示，使用者如何建立目標、限制、審批門檻及撤銷權。

對於具重大後果的交易，簡短的自然語言請求並不足夠。該框架應區分建議、暫定出價及最終承諾。

它亦應在不暴露使用者私下議價立場的情況下，向對手傳達授權。若開發者無法解決這種分隔，代理便會繼續局限於低風險任務。

強而有力的授權設計，將鞏固委託談判的理據。主要依賴廣泛同意畫面的產品，則會削弱這個理據。

第二個訊號是針對敵對及異質代理的測試。Project Swap 使用的是同一家公司建立、並為合作行為訓練的代理。

真實市場將包含不同的模型、工具、目標及保安做法。有些代理或會虛報授權、利用已披露的偏好、以大量出價淹沒流程，或插入惡意指令。

有用的評估應測試代理能否在抗拒操控之餘，仍具備妥協能力。評估亦應比較較弱與較強模型直接談判時的結果。

Anthropic 的研究已發現，模型選擇會影響表現。在由 Claude 生成的排名中，全 Haiku 交易場所的得分為 0.75，而全 Opus 場所則為 0.88。

在混合 Opus 與 Haiku 的場所中，Opus 代理始終佔優。若類似差距在更高風險市場中持續存在，使用更強模型的能力或會成為議價力量的來源。

獨立的對抗性測試，將加強外界對系統能在 Anthropic 實驗室以外運作的信心。只涉及友善代理的封閉示範，仍無法解決核心風險。

第三個訊號是具備實際追索渠道的部署。使用者需要一套明確程序，以挑戰代理決定、修正其偏好模型，並從未經授權的承諾中恢復過來。

交易日誌應具備足夠可讀性，讓人了解代理為何接受某一出價而非另一個。它不應要求使用者查閱數千個 token，或重建隱藏的推理過程。

Anthropic 的實驗提供了一項有用線索。其中一名參與者表示，可觀察性之所以重要，是因為它讓人有追索渠道。另一人則在代理似乎因同儕壓力而放棄一本理想書籍時提出反對。

這些反應顯示，結果指標並不足夠。有利價格不能為未經授權的披露開脫。具社會效率的交易，亦不能合理化忽視使用者優先事項。

對開發者而言，眼前任務是把能力與許可分開。模型具備談判能力，並不表示它應控制一項交易。

企業買家應問：人類審批設於何處、授權如何到期、爭議後會保留甚麼證據，以及代理能否安全地與外部系統互動。

知識工作者應考慮，哪些偏好可以清楚表明，哪些決定仍需要因應情境作出判斷。他們亦應避免把代理自信的詮釋當作同意的證明。

Anthropic 的 AI 談判代理，為降低商業摩擦提供了一條可信的路徑。研究顯示，代理能識別交易、運用策略並完成交換。

研究亦顯示，偏好錯誤比議價錯誤更為主導。這項發現應引導產品優先次序。更好的說服力無法彌補代表錯誤目標的問題。

最有用的談判代理，不會是那個永遠施壓最猛烈的代理。它會了解使用者重視甚麼、保留修正空間，並在授權變得模糊時停下來。

在委派真正的談判工作前，先問三個問題：代理能否說明其授權範圍？對方能否核實該授權？系統出錯時，任何一方能否補救？在這三項問題都有切實可行的答案前，AI 談判應維持受監督狀態，而不應被視為理所當然。