Arun Subramanian 对法律 AI 的警告：效率可能削弱必须核验它的律师

联邦文件中出现不准确引文后，Arun Subramanian 就法律 AI 发出警告，尽管该律师事务所已有相关政策和培训。这位曼哈顿法官没有制裁涉事律师，但其裁决将此事定性为不止是一次孤立的文书起草失误。

眼前的问题在于，人工智能工具生成的内容未经核验。更深层的问题是：未来谁有资格核查这些输出？如果 AI 承担了传统上用于培养初级律师的研究和起草工作，律所就可能削弱自身的核验体系。

这种张力使这项裁决的重要性超越了一起版权诉讼。法律 AI 承诺带来更快的研究、更短的起草周期和更低的成本。但当律所取消那些教会律师识别虚假权威、薄弱推理或缺失背景信息的工作时，这些收益就会变成负担。

Subramanian 的警告也挑战了一个关于人工监督的常见假设。律所不能只是在模型之后安排一名律师，就宣称流程安全。审阅者需要具备足够的经验、时间和独立性，才能检验机器的工作。

因此，核心冲突并不是律师与 AI 的对立，而是眼前效率与培养合格律师所需的长期学徒训练之间的矛盾。客户今天或许能更快获得服务，却可能在明天面对一个可靠性更低的法律职业。

Arun Subramanian 对法律 AI 的警告究竟改变了什么

即使没有实施制裁，法院仍将 AI 引文失误视为更深层培训与监督问题的证据。

争议源于纽约南区联邦地区法院的一起版权案件 Hill v. Foundation Media LLC。自行出庭的 Lawand Hill 指控 Foundation Media 侵犯了与发行音乐作品有关的版权。

Subramanian 在采纳治安法官建议后驳回了该案。不过，他在 9 月 22 日的命令中另行质疑了 Foundation Media 对 Hill 异议回应中的引文和一处引用内容。

法官要求主办律师声明 AI 是否协助起草了该回应，并询问未经核验的 AI 使用是否导致了这些可疑内容。公开的法院命令列明了争议引文，并规定了这一披露要求。

这一程序细节至关重要。Foundation Media 赢得了实体案件，但法院仍调查其胜诉文件的可靠性。有利的结果并不能免除律师对文件制作方式的责任。

Foundation Media 的律师 Cynthia Arato 道歉，并将错误归因于 Shapiro Arato Bach 的另一名律师。根据律所的声明，该律师起草了初稿，并在提交前定稿了文件。

声明称，该律师的行为违反了律所政策和培训要求。声明将未核验 AI 生成引文的失误描述为孤立事件，并非意图误导法院。

据案件报道，后续提交的文件确认，法律 AI 公司 Harvey 的工具参与了起草流程。路透社报道称，Harvey 和 Foundation Media 均未立即回应置评请求。

现有记录并不能证明 Harvey 单独导致了这些错误。它所能证明的是，AI 辅助完成的工作在没有充分人工核验的情况下进入了提交文件。这一区分让责任仍然落在职业规则所规定的主体身上：提交文件的律师。

Subramanian 审阅解释后决定不予制裁。他的克制不应被误解为认可。他将这一事件称为警示，并强调 AI 生成的法律工作必须经过严谨的准确性核查。

因此，这项裁决改变了人们看待法律 AI 错误的框架。法院往往聚焦于虚构案例、金钱处罚或律师纪律处分。Subramanian 则将眼前的失误与法律职业培养未来审阅者的能力联系起来。

他建议律所考虑要求初稿不得使用 AI 协助。这个提议有意保留不便之处，因为 AI 旨在消除的工作中，恰恰包含了一些宝贵的学习过程。

这一观点将一起引文事件转化为组织层面的问题。如果政策已经存在，但未经核验的文件仍能提交至法院，律所就必须审视工作流程设计、监督机制和激励方式。仅靠书面规则无法承担这一责任。

Arun Subramanian 对法律 AI 的警告归根结底关乎制度记忆。律所需要的是理解一项论证为何成立的专业人士，而不只是知道软件是否把它排版得令人信服。

一处引文错误暴露了监督缺口

当责任被宽泛地分配、但核验没有嵌入工作流程的每一步时，人工审阅就会失效。

生成式 AI 根据数据中的模式预测可能的后续文本。即便其回答包含精致的引文、案件名称和正式援引，它默认也不会检索真相。

幻觉是指缺乏可靠事实支持、却表现得十分自信的输出。在法律实践中，它可能表现为不存在的案件、被篡改的引文，或一项真实判决被用来支持错误主张。

这些错误之所以危险，是因为它们看起来像专业工作。一条虚构引文可能包含看似合理的法院名称、日期、判例汇编引用和法律原则。表面质量会让流于形式的审阅显得足够充分。

Foundation Media 事件说明监督如何可能出现断层。一名律师使用工具，另一名律师或许审阅草稿，而主办律师签署或提交结果。每个人都可能以为其他人完成了来源核查。

这种结构制造了核验缺口。政策或许要求准确性，但没有人负责一套有记录的流程，逐一打开每项被援引的权威来源，并将每处引文与原文进行比对。

美国律师协会在 Subramanian 裁决前就已讨论过这一问题。其AI 伦理意见指出，律师必须考虑胜任能力、保密性、沟通、监督、坦诚义务和合理收费。

即使由软件生成初稿，这些义务也不会消失。律师仍须对向法院作出的陈述和向客户提供的建议负责。

核验也不仅仅是确认案件是否存在。审阅者必须判断该判决是否仍具法律效力、是否适用于相关司法辖区，以及是否支持所提出的具体主张。

当模型将准确内容与细微的虚构内容混合时，流程会变得更困难。一份大部分研究都正确的诉状或书面意见，可能降低审阅者的警惕性。少数虚假元素可能隐藏在其余可信内容之中。

企业级法律产品可借助受控数据源、权威来源链接、安全设置或集成研究系统来降低部分风险。但产品设计无法将职业责任从律师转移给供应商。

关键问题不在于工具是否带有法律行业标签，而在于工作流程是否允许一名合格律师复现、检查并为最终分析辩护。

资深律师还需要抵制自动化偏见，即因为系统看起来很先进或一贯有用，就倾向于相信它。持续良好的输出会让偶发的错误更难被发现。

健全的流程应保留审计轨迹。它应记录使用了什么工具、该工具完成了什么任务、谁核验了输出，以及哪些一手来源支撑了最终文件。

律所可以针对不同任务采取不同控制措施。总结内部会议与起草一项决定性动议的风险不同。所需的审阅程度应随错误后果的严重性而提高。

高风险工作需要逐一核查来源、明确分配审阅责任，并留出足够时间质疑草稿。它还可能要求律师在不依赖生成文本的情况下重建推理过程。

最后一步很重要，因为仅核查引文无法识别所有失误。一份书面意见可能准确引用真实案例，却遗漏相反权威、误解案卷记录，或采取损害客户利益的策略。

Subramanian 的回应将监督置于惩罚之前。法院接受了律所的解释和追加保障措施，但其警告提出的问题是：在下一次仓促提交时，这些保障是否依然有效？

检验标准在于执行。只有当律师能在截止期限、客户压力和降低成本的要求下遵守政策时，政策才有价值。

效率交易威胁法律学徒制

AI 消除初级工作岗位的速度，可能快于律所替代这些工作曾经培养的判断力的速度。

初级律师传统上通过重复学习。他们阅读案卷、追溯权威来源、比较草稿、接受修正，并观察资深律师如何将法律原则转化为客户建议。

其中许多工作很慢。在传统律所模式下，它们也很昂贵。生成式 AI 恰恰瞄准了这些研究、审阅和起草任务。

效率方面的理由很容易理解。系统可以在几分钟内生成时间线、总结文件、比较合同措辞或完成草稿。律师随后可以将更多时间投入策略和客户关系。

这种结果是可能的，但并非自动发生。取消常规工作并不保证初级律师能获得更好的任务。律所也可能只是减少他们的工时、压缩其职责，或要求他们监督自己缺乏经验评估的输出。

法律学徒制包含教育者有时所称的“认知摩擦”。学习者在不确定性中摸索、作出选择、遭遇死路并获得反馈。这种努力会建立对问题的心理模型。

AI 在压缩任务的同时，也压缩了这种挣扎。在初级律师形成独立观点前，一份精致草稿已经出现。编辑于是取代建构，成为默认学习活动。

编辑可以培养宝贵技能，但前提是编辑者能识别缺失或错误之处。新手或许会改进措辞，却看不出有缺陷的前提、不利先例或策略性让步。

这正是 AI 给律师培训带来风险的悖论。律所希望初级律师核验机器输出，而自动化却减少了培养核验能力所需的经验。

Subramanian 建议律所要求部分初稿不使用 AI，正是直接回应了这一悖论。这会创造一个受保护的练习环境，使律师必须先研究、组织和推理，然后再将自己的工作与生成式输出进行比较。

这种做法有成本。当软件能够更快生成草稿时，客户未必愿意为人工工作买单。合伙人也可能在高强度案件中抗拒不可计费的培训。

但这项成本本就存在。传统学徒制将培训嵌入客户工作中，往往并未将其称为教育。AI 通过将生产与职业发展分离，使这种补贴变得可见。

律师事务所如今需要有意识地投入培训预算，并建立可衡量的能力标准。它们不能再假定初级律师会通过那些已不再流转到其案头的工作，自然而然地习得判断力。

整个法律界也得出了类似结论。2026 年的一项判断力培养链分析指出，AI 改变了哪些工作仍然存在，也改变了未来律师如何培养受托责任意识、商业判断力和客户信任。

该分析区分了程序性产出与情境化判断。AI 可以组装文件、识别模式；律师则必须决定哪些事实重要、客户可以承受何种风险，以及谁应对所提供的建议负责。

新加坡首席大法官梅达顺（Sundaresh Menon）在 2026 年提出了相关担忧。他警告称，若基础研究与分析工作被取代，律师核查 AI 生成内容的能力可能会被削弱。

他之后的培训演讲介绍了 AI 能够大幅加速的法律任务，以及年轻律师面临的就业压力。演讲还呼吁更加重视判断力、伦理性、责任感、辨别能力和诚信。

这些警告并不意味着必须保留每一项低效做法。文件审阅不应仅仅因为前几代律师曾通过大量工作获得训练，就继续维持缓慢的节奏。

相反，律所需要识别每项任务原本带来的学习成果，并有意识地重建这些学习环节。研究任务培养了来源评估能力；起草工作培养了结构意识；与客户接触则培养了在信息不完整情况下作出判断的能力。

重新设计的学徒培养机制可以结合独立完成初稿、在监督下对比 AI 输出、模拟练习、来源核验训练以及直接接触客户。每个环节都应针对明确的专业技能。

资深律师的审阅过程也必须更具可见性。一名合伙人若默默修正一份 AI 辅助完成的草稿，或许保护了客户，却没有教会初级律师任何东西。反馈应解释输出为何失误，以及审阅者如何发现问题。

律所应通过已展示的能力，而不只是可计费工时或工具使用情况，来衡量人才发展。一名初级律师应能够独立研究、检验 AI 输出、说明不确定性，并为一项建议作出辩护。

可检索的内部知识系统能够支持这一过程，前提是它保存经过核实的先例、审阅记录以及决策背后的推理过程。目标不是被动存储，而是建立一个能够强化监督式学习的可检索知识库。

因此，最稳健的法律 AI 工作流程也应包含工具保持关闭的阶段。律师需要先有机会证明自己无需生成式支架也能进行推理，之后才应被要求监督这些工具。

客户将承担律所承诺控制的风险

法律 AI 给客户带来的风险，不仅包括虚假引文，还涉及保密性、诉讼或交易策略、成本，以及未来代理服务的质量。

客户通常有合理理由要求使用 AI。他们希望获得更快的响应、更低的账单、更清晰的文件，并减少花在重复性工作上的工时。

Subramanian 注意到了这种压力。他也警告称，一旦出现问题，客户可能面临不利后果。如果一份存在缺陷的提交材料削弱了诉求或损害了可信度，那么较低的起草成本带来的安慰微乎其微。

最显眼的风险是虚构引文。较不显眼的风险则是，某些建议听起来合情合理，却遗漏了决定性事实、程序问题或商业后果。

法律代理不只是产出文字。律师必须理解客户目标、质疑假设、保护机密信息，并且有时应建议客户不要采取其偏好的行动。

模型无法为这些选择承担专业责任。使用它的律师仍须负责，即使是客户要求使用该技术，或供应商将该系统营销为法律工作工具。

因此，客户应询问 AI 将如何被使用，而不只是询问律所是否使用 AI。研究、摘要、起草、合同审阅和战略建议所带来的后果并不相同。

他们还应询问哪些信息会输入系统。机密事实、特权通信、个人数据和商业敏感文件，需要与产品的数据保留和访问控制相匹配的保护措施。

美国律师协会（ABA）的指导意见称，律师必须了解工具的能力与局限。该意见还将 AI 的使用与律师在客户沟通和保密方面的义务联系起来。

这一义务使通用同意条款变得更复杂。若不了解具体任务、涉及的数据、预期收益及可替代方案，客户就无法对 AI 的使用作出有意义的评估。

成本也带来了另一种张力。如果 AI 缩短了完成某项任务所需的时间，客户会期待节省下来的费用能惠及自己。律所仍需为审阅、培训、安全和供应商治理提供资金。

这些支出是真实存在的，但应当透明。客户不应为自动化产出支付虚构的人工工时；律所也不应为了维持利润率而取消必要的审阅。

按工时计费模式可能将律所推向两个方向。当效率降低收入时，它可能抑制自动化；当客户施加严格预算时，它也可能鼓励过度自动化。

替代性收费结构本身也无法解决质量问题。固定费用可以奖励效率，但如果委托事项未明确交付成果和控制措施，它也可能奖励最低限度的审阅。

更好的合同应处理流程问题。它可以明确批准的使用方式、保密保护、核验义务、披露预期，以及特定任务是否需要客户同意。

客户还应知道是谁完成了工作。如果模型生成了基础内容，而初级律师仅进行了有限审阅，那么资深律师不应暗示经验丰富的专业人士亲自研究了该问题。

这一切并不意味着客户应拒绝法律 AI。负责任地使用可以改善法律服务可及性、加快常规工作，并帮助律师审查原本会使预算承压的大规模记录。

与之相平衡的是司法可及性。严格禁止有用工具，可能会保留许多个人和小型组织无力承担的昂贵流程。

司法讨论越来越认识到这种权衡。挑战在于，在不将未经核实的输出包装为专业判断的前提下，让 AI 辅助服务更易获得。

联邦规则体系正在考虑，现有义务是否足以应对 AI 伪造法律依据的问题。2026 年 10 月的一份规则委员会议程讨论了现行《规则 11》标准是否已经涵盖这一问题，还是需要更具体的回应。

这场讨论很重要，因为不一致的法院实践会造成不确定性。一些法官要求披露或认证 AI 的使用；另一些则依赖既有的准确性、胜任能力和合理调查义务。

全国性规则可以带来一致性，但仅靠披露无法保证质量。一份标注为 AI 辅助的提交材料仍可能出错；而一份经过审慎核验的 AI 辅助材料，则可能完全履行专业义务。

对客户最有用的保护仍是可追责的人类判断。披露、安全与核验应当支持这种判断，而不是取而代之。

律所与客户接下来应关注什么

下一项考验在于，法律界能否将司法警告转化为可衡量的培训与核验体系。

第一个信号将来自法院命令和制裁裁决。法官正在判断，现有专业规则是否足够，以及哪些失误足以导致金钱处罚、转介处理或公开谴责。

如果与工具相关的认证要求增加，将表明法院倾向于披露和有记录的核验。若继续依赖一般准确性义务，则意味着律所需承担更多责任，自行设计控制措施。

无论哪种路径，都不会消除根本义务。法院仍会要求律师核实法律依据、引文、事实陈述，以及先例与论点之间的联系。

第二个信号将是律所如何重新设计初级律师培训。若项目只教授提示词技巧，却不培养独立研究、起草和来源评估能力，那么宣布开展 AI 教育还远远不够。

有价值的证据包括受保护的非 AI 任务、在监督下进行的对比练习、模拟项目和能力测试。律所还应说明资深律师如何就 AI 辅助工作提供反馈。

招聘模式同样值得关注。如果律所削减入门级职位，却没有建立新的学徒培养机制，判断力培养链将会收窄。后果可能需要多年才会显现。

第三个信号将是客户行为。企业法务部门正越来越多地制定外部律师指南，涵盖获准使用的工具、数据处理、人员配置、计费和披露。

如果客户同时要求效率和可核验的保障措施，律所将有商业理由建立严谨的体系。如果客户只关注速度和成本，核验和培训可能仍会资金不足。

法律 AI 供应商也面临支持这种问责机制的压力。买方将寻找可追溯的来源、权限控制、审计日志、安全的数据处理方式，以及与权威法律研究工具的集成。

这些功能可以让审阅更容易，却无法判断律师是否理解客户目标，或是否行使了稳健的判断力。

Hill 提交的文件提供了一个有用基准。据报道，该律所有政策和培训，但存在疑问的材料仍然提交到了法院。未来的保障措施必须解决正式规则与实际行为之间的路径问题。

律所可以从明确责任归属开始。每一份 AI 辅助文件都应有一名明确指定的律师，负责来源验证、推理审阅、保密性和最终批准。

随后，它们应保留完成这些工作的证据。清单只有在反映真实审查，而非在提交前勾选一个方框时才有意义。

培训应将错误与专业后果联系起来。初级律师需要看到，一段虚构引文如何影响可信度、客户策略，以及法院日后信任其提交材料的意愿。

资深律师也需要培训。他们在法律原则方面的经验，并不自动意味着他们了解模型行为、数据控制或生成式系统的失效模式。

客户在请求 AI 辅助工作前，可以直接提出几个问题：

• 哪些任务会使用 AI，哪些任务仍将由人主导？

• 谁将核验每一项法律依据和引文？

• 哪些客户信息会输入系统？

• 服务提供方如何存储或再利用这些信息？

• AI 将如何影响人员配置、时间安排和费用？

• 当工具产生错误时会发生什么？

这些问题不要求客户成为 AI 专家。它们要求律所用客户能够评估的方式解释其流程。

Subramanian 的警告并未预言法律 AI 的终结。它假定这一技术会持续采用，并要求法律界正视其隐性成本。

效率带来的交易仍具吸引力。AI 可以减少重复性工作，让律师有更多时间投入更高价值的事务。但只有当律所将节省的一部分时间重新投入监督和学习时，这一收益才能持续。

更难的问题是，它们是否会这样做。一个将学徒培养自动化却未加以替代的行业，最终将缺乏监督自动化所需的判断力。

Arun Subramanian 对法律 AI 的警告，为律所、客户、法院和供应商提供了一个务实的检验标准：他们的系统究竟是在更快地生成文件，还是在培养能够为这些文件负责的律师？

在委托 AI 辅助的法律工作前，应先问清楚由谁来核验，以及此人是如何学会识别错误的。对律所而言，下一步同样明确：保护独立研究、结构化反馈和源头级审查。效率带来的收益应当用于支持这些保障机制，而不是将其取消。