可计算正当程序提案为司法 AI 提出推理检验标准
11 月 11 日发布的可计算正当程序提案,为 AI 辅助司法推理列出了五项条件,同时将最终评估保留给法官。其核心关切在于,一份看似令人信服的法律文书与一项具备正当理由的裁决之间存在差距。AI 系统可以生成前者,却未必能确立后者。
该论文以“假设与理论”文章形式发表于 Frontiers in Artificial Intelligence。它提出了一项概念性规范,即对可接受输出应具备属性的说明。论文并未宣布已部署的司法模型、准确率突破,或新近具有约束力的法院标准。
对法院软件开发商和机构采购方而言,这一区别改变了讨论的重点。相互竞争的路径是流畅的文书生成与可审查的法律论证。英格兰和威尔士现有的指引已强调司法责任。这项提案则追问:在接受 AI 辅助草案之前,审查者应当能够检查哪些内容。
可计算正当程序提案将既有司法义务形式化
该论文提议将说明理由的义务转化为软件和人工审查者均可检验的属性。
Roberto Leonardo Cruz-Núñez、Hugo Armando Aguilar-Brito、Andherson J. Aguirre-Lanegra 和 Nuccia Seminario-Hurtado 共同构建了这一框架。他们分别隶属于墨西哥的 Universidad Autónoma de Chiapas 和 Universidad Tecnológica del Perú。他们的可计算正当程序论文以秘鲁宪法判例为起点,并考察了比较法材料。
作者提出五项条件:论证必须存在,其推理必须有效,且前提必须具有正当性。论证还必须满足适用的证据标准,并回应争议中的主张。这些条件关注事实、规则、异议与结论之间的关系。
这一重点很重要,因为法律起草与法律论证是不同的任务。一份文书可以包含标题、引文和条理清晰的叙述,却跳过将证据与结论连接起来的步骤。专业的呈现形式无法补足这种缺失的关联。
因此,该论文提出了一种描述可接受推理的方式。它并未为法院提供一个能够自动检查所有条件的成品应用程序。作者明确表示,他们没有进行实证实验,也没有实施任何系统。
读者还应区分拟议规范与其所诠释的法律义务。法院已在各自辖区内承担说明裁决理由的要求。研究人员认为,这些要求可以为计算设计提供参考。发表这一论点本身不会独立改变程序法。
眼下的新闻范围,比“建立司法 AI 标准”这样的标题所暗示的更为有限。研究人员提出了一个开发者可以尝试实施和测试的框架。其重构是否准确把握相关法律要求,仍有待学术界和机构层面的评估。
这也解释了为何这项工作虽没有产品发布,仍属于司法 AI 的讨论范畴。在衡量系统之前,开发者需要先界定成功表现意味着什么。一份精致的草案和一套可审查的论证,代表了不同的成功定义。
对技术采购方而言,该提案在能力演示与验收标准之间建立了有用的区分。演示展示应用程序在选定条件下能够产出什么。验收标准则决定机构在计划使用该应用程序的各种情境中需要满足什么要求。
当草案交到有权签署的人手中时,这一区分便具有实际影响。文书的外观可能促使人们在其基础推理得到同等审查之前就予以接受。该框架将注意力引向生成文本与机构权力之间的这一交接环节。
司法责任对软件设计形成压力
只有当审查者能够检验支撑拟议结论的材料时,人工审查才具有实质意义。
最直接的压力落在提供司法起草辅助工具的开发者,以及考虑采购这类产品的机构身上。他们面临的挑战不止于让文本可以编辑,还必须考虑审查者能否识别缺乏支持的前提、遗漏的回应或未经解释的推论。
英格兰和威尔士提供了一个机构层面的参考点。其 2025 年 10 月发布的司法 AI 指引重申,司法任职者应对以其名义制作的材料负责。该指引也将 AI 的使用置于维护司法公正和法治的义务之中。
这对界面设计的含义很直接,尽管这仍属于分析性推断。审查者需要获得草案背后的证据与法律依据。若一面要求承担责任,一面又隐藏这些材料,就会使实质性核验更加困难。
设想一款假想应用:它生成一份拟议裁决,并在每段旁边附上引文。这种呈现有助于用户定位法律依据。但它未必会显示哪项证据支持某项事实认定,或为何所引法律依据适用于具体争议。
另一种界面可以直接呈现这些关系。选择某项结论时,界面可展示其事实前提、所适用规则以及已审议的异议。这样一来,审查者就能获得可明确质疑的节点,而无需从润色过的文字中自行重构推理。
这种差异也影响采购决策。仅询问产品是否包含人工监督,所获得的信息有限。采购方需要了解这种监督具体涉及什么、审查者会收到哪些信息,以及被否决的推理是否仍会在记录中可见。
节省时间同样需要接受类似审查。更快地起草并不必然意味着更快地核验。应用程序可能迅速生成文书,却让审查者必须手动检查每一项事实和法律关联。
这一观察并不能证明 AI 辅助会增加司法工作量。该论文没有提供足以解决这一问题的运行试验。但它确实提出了一个理由:在未来评估中,应将起草时间与审查投入分别衡量。
这种压力也延伸至律师和诉讼当事人,因为他们面对的是经审查后保留下来的推理。受影响的一方需要能够识别其主张为何未获采纳。当决定性的异议仍未得到回应时,笼统地表示法院已考虑一切,帮助有限。
对知识工作者而言,更广泛的关联在于资料组织。可搜索的知识库可以使支持性文件更易于检索。但这种组织功能,与判断法律结论是否能够从这些文件中推出,仍是不同的事情。
因此,机构层面的问题很具体:软件必须揭示什么,责任才能得到行使?回答这一问题需要法律专家与开发者协作。流畅的输出或一个审查按钮,单独都无法解决它。
可审查论证改变法律 AI 必须展示的内容
该拟议方法为语言生成、明确的推理结构和司法评估分配了不同职责。
作者主张采用可审查的符号层,即由可识别的前提、规则和结论之间关系构成的表示形式。他们为语言模型检索信息和准备草案留出空间。拟议的推理结构承担展示论证正当性的责任。
这是系统内部的职责划分,并非声称文书生成毫无价值。查找相关材料并生成易读语言仍是有用功能。争议在于,这些功能是否也能确立一套可接受的论证。
一个假设性的福利争议可说明其中差异。应用程序可能检索资格规则、概述申请人的记录,并起草拒绝决定。但这份草案仍可能遗漏会改变规则适用方式的例外情形。
在可审查的表示中,该例外必须占据一个可识别的位置。审查者可以检验其事实条件是否被考虑,以及它为何适用或不适用。这使存在争议的选择更容易被定位。
同一原则也适用于事实前提尚不确定的情形。系统应区分一项指控与一项为作出裁决而被接受的事实认定。否则,后续推理可能表面上内部一致,却依赖于无人曾适当确立的前提。
另一项区别涉及证据的强度。置信度分数描述的是模型在其自身设计下的评估。它并不会自动对应司法裁决所适用的证据要求。
因此,充分的审查程序必须识别该数值回答的是哪个问题。它涉及文件分类、检索相关性、事实支持,还是其他内容?将这些含义合并为单一分数,只会掩盖而非澄清推理过程。
历史研究表明,仅靠专业化不足以解决可靠性问题。Varun Magesh 及其同事评估了来自 LexisNexis 和 Thomson Reuters 的法律研究系统。他们的法律 AI 可靠性研究报告称,在受评估工具的回应中,超过 17% 包含错误信息。
这些结果针对的是接受测试的产品和版本。它们不应被用作所有法律 AI 应用当前性能的估计,也未衡量 11 月论文所描述的尚未实施框架。
不过,这一比较确实指出了不同的评估目标。研究助手必须准确找到并描述法律依据。司法起草助手还必须将适用的法律依据和已确立的事实,与拟议结论联系起来。
检索增强生成会向语言模型提供检索到的文件,从而解决获取源材料的问题。其存在本身并不能证明生成的解释在法律上具有正当性。来源可以是真实的,但归于它的命题可能是错误的。
同样的限制也适用于冗长的解释。更多文字可以扩展论证,也可能重复缺乏支持的假设。可审查性取决于揭示决定性关系,而不是增加散文篇幅。
因此,可计算正当程序提案将设计讨论转向可审查的承诺。系统假定了哪些事实?哪项规则为结论提供依据?它在哪里回应了足以改变结果的异议?
这些问题之所以有用,恰恰在于它们允许分歧。审查者可以否定某项前提或解读,而不必接受整份生成文书。这赋予修改 AI 辅助草稿的能力以实质意义。
形式化检查无法解决所有法律判断
该框架最突出的局限性已被明确指出:满足其条件并不保证作出公正决定。
作者将其条件描述为必要但不充分。选择前提以及权衡相互竞争的原则,仍保留着评价成分。形式化结构可以揭示这些选择,却无法判定这些选择是否值得接受。
这为开发者带来了实际权衡。显式表征提供了可检查性,但必须有人负责构建和维护它们。系统不能仅靠用方框和箭头取代文字,就获得可靠的法律覆盖能力。
设想一般规则与较窄例外之间存在冲突。对优先关系进行编码,能使所选解释变得可见。困难的问题仍然是:这一优先级是否适合相关司法辖区、事实情况及所涉法律依据。
维护带来了另一项挑战。在其所依据的法律来源发生变化后,某种表征仍可能保持内部一致。除非系统追踪这些变化,否则一套条理清晰的论证可能建立在过时的假设之上。
这是从所提出架构中推断出的工程风险,而不是已实施产品经测量确认的失败。论文没有提供能够证明维护成本的部署证据。因此,买方应将运营可行性视为一个尚未回答的问题。
该框架也为“何为充分支持”留下了分歧空间。不同审查者可以接受相同的事实记录,却对其重要性持不同看法。应用程序应呈现这种分歧,而不是将其掩饰为技术上的确定性。
另一项风险涉及所展示论证与生成草稿之间的关系。如果两者发生偏离,推理视图可能会成为另一种说服性产物。评估应检验:对支持材料的修改,是否会改变依赖于这些材料的结论。
这提出了一项有益的未来测试,而非已报告的结果。移除一项决定性前提、加入相反的法律依据,或揭示一个未获回应的异议。然后检验应用程序是否能识别由此产生的薄弱点,并向审查者清晰呈现。
论文关于语言模型的更广泛主张同样需要谨慎处理。幻觉现象——即生成虚假或缺乏支持的内容——的证据,表明经过评估的场景中存在可靠性问题。它并不能证明未来的每一种架构都会无法满足每一项推理要求。
混合系统应依据其实际行为接受评估。将语言模型与显式规则结合,本身并不能证明合规。反过来,在工作流的某处使用语言模型,也不能说明应用程序能够验证的一切内容。
司法辖区构成了另一条边界。这项研究以秘鲁法理为基础,并考察了比较法材料。北美读者不应假定其类别会自动复现本国法院的每一项要求。
移植该框架需要针对相关机构和程序进行法律分析。对有理由决定的共同关注,并不会消除程序、法律权威或证据义务方面的差异。实施时需要保留这些差异。
因此,怀疑论者的问题比“形式化是否可行”要求更高:一个经过维护、可供使用的实施方案,能否在现实争议中改善审查?这篇论文提出了这个问题,却没有提供足以解答它的实证证据。
既有法院规则表明,验证需要实质内容
该提案进入了一场既有的治理讨论,其核心是对 AI 辅助工作进行控制、问责以及提出质疑的能力。
西班牙提供了一个具体的法律比较案例。其第 6/2023 号皇家法令第 57 条涉及辅助司法行为。该条规定,未经主管机关验证,生成的草稿不得独立成为司法或程序性决定。
该条款还要求用户能够自由修改草稿。其在此处的相关性在于,生成材料与赋予该材料法律效力之间存在区别。11 月的研究追问:应由哪些实质属性来支撑这种验证。
这些问题彼此相关,但运作于不同层面。规则可以明确谁承担责任并拥有控制权。拟议的技术规范则可以描述哪些信息有助于该人员履行这些责任。
欧洲伦理指引提供了另一项参照。欧洲委员会 CEPEJ 于 2018 年 12 月通过其司法 AI 宪章。其原则包括基本权利、非歧视、质量与安全、透明度以及用户控制。
该宪章支持负责任地使用司法 AI,同时认可其可能带来的效率和质量收益。它并非对这篇特定论文的认可。它的相关性在于表明,问责问题早于最新一代起草系统就已出现。
这项新提案在更广泛的讨论中回应了一个更狭窄的设计问题:生成的论证应揭示什么,以便人们检查它?回答这一问题,并不能取代关于权利、安全或机构独立性的更广泛义务。
对于评估法院技术的读者而言,区分这些层面可避免夸大其词。系统可以提供详尽的论证检查,同时仍让其他部署问题悬而未决。同样,机构可以采用治理规则,却未必拥有能让实质审查变得容易的软件。
在讨论透明度时,这一区别尤为重要。公布应用程序的一般说明,描述的是其预期运作方式。展示某一具体结论背后的前提,则使人能够检验该个案中的推理。
这两类信息都可能重要,但服务于不同目的。质疑事实认定的人,需要的远不止一张架构图。评估访问控制的采购团队,也需要超出单份草稿措辞以外的信息。
这正是为何有意义的验证不能被简化为一次签字。关键问题在于批准之前发生了什么。审查者是否检查了决定性证据、考虑了相反陈述,并独立评估了所提出的解释?
这些是拟议的评估问题,而非关于任何特定法院行为的发现。经审查的材料并未证明机构已经采用 11 月框架。它们说明了为何该框架对可检查论证的关注具有既有的制度背景。
其实际意义在于让责任变得更加具体。开发者可以识别审查者需要看到什么。机构可以识别批准流程应记录什么。研究人员随后可以探究这些安排是否改善了实际审查。
关注实施、独立测试和法院采用情况
下一步真正有意义的发展,将是把概念框架转化为外部人士可以检查和评估的对象。
未来数月,第一个值得关注的信号是公开实施方案或详细技术演示。它应展示所提条件如何在一个已展开的争议中运作。仅有一份易读的回答,对于底层规范只能提供有限证据。
有价值的产物应连接事实前提、法律依据、异议和结论。它还应识别未解决的问题,并允许更正。这样的发布将增强该框架能够指导实际开发的论据。
演示的覆盖范围仍将有限。精选案例可以展示可行性,却无法证明其在陌生事项中的可靠性。读者应寻找明确的覆盖范围说明,避免将狭窄的原型视为通用司法推理引擎。
第二个信号是使用困难案例和刻意设置的错误进行独立评估。评估者应测试缺失证据、相互冲突的规则,以及草稿未回应的决定性异议。这些测试将检验应用程序是否能暴露弱点,而非仅仅生成看似完整的文书。
人类表现应构成评估的一部分。研究人员需要考察审查者是否发现了更多错误,并是否理解所展示的推理。审查时间同样重要,因为令用户不堪重负的界面可能损害其预期目的。
有利的结果将增强对经测试场景中可检查表征的支持论据。令人失望的结果则会识别实施方案或其界面的局限性。两种结果都不应自动决定关于司法 AI 的每一项主张。
第三个信号是具有明确范围的、已记录的机构采用。法院试点、采购要求或已发布的审查协议,都可提供实际采用的证据。相关文档应说明授权何种辅助,以及责任如何运作。
读者应将这些发展与支持透明度的一般性声明区分开来。广泛承诺并不能证明采用了这一框架。可识别的要求、实施方案或评估,将为判断采用情况提供更坚实的依据。
这些信号也澄清了今天仍未知的内容。该论文并未证明准确率提升、审查成本降低或司法结果改善。这些主张需要来自在特定条件下运行的系统和用户的证据。
对开发者而言,直接价值在于一套更精确的设计问题。对机构买方而言,它提供了一种审视产品使哪些内容可供审查的方法。对受影响方而言,相关问题仍然是:决定背后的理由能否被理解并受到质疑。
在评估下一场司法 AI 演示之前,应带着这些区别阅读原始研究。询问哪些证据支持所展示的前提,以及系统留下了哪些未解决的异议。检查审查者能否修改所提出的解释,同时不丢失支持记录。寻找能够区分起草便利性与审查改进的独立结果。Computable Due Process 提案为这种评估提供了一套词汇,而实施与测试仍在前方。当供应商展示 AI 生成的裁决时,要求检查将其证据与结论连接起来的推理。审查者能否找到值得提出异议的精确步骤,系统又能否在修订过程中保留这一质疑?



