可計算正當程序方案為司法 AI 訂立推理檢測標準
11 月 11 日發表的可計算正當程序方案,列出 AI 輔助司法推理須符合的五項條件,同時保留由法官作出最終評估。其核心關注點,在於一份具說服力的法律文件與一項具充分理據的裁決之間的落差。AI 系統可以產出前者,卻未必能確立後者。
該論文以「假說與理論」文章形式刊於 Frontiers in Artificial Intelligence。文中提出一項概念規格,即說明可接受輸出應具備哪些特性的表述。它並非宣布已部署的司法模型、準確度突破,或一項新具約束力的法院標準。
對法院軟件開發商及機構採購方而言,這項分別會改變討論方向。相互競爭的取向,是流暢的文件生成與可供檢視的法律論證。英格蘭及威爾斯現有指引已強調司法責任。這項方案則追問:在接受 AI 輔助草稿前,審核者應可檢視甚麼。
可計算正當程序方案將既有司法責任形式化
論文建議把說明理由的責任,轉化為軟件與人類審核者可檢查的特性。
Roberto Leonardo Cruz-Núñez、Hugo Armando Aguilar-Brito、Andherson J. Aguirre-Lanegra 及 Nuccia Seminario-Hurtado 共同制定此框架。他們分別隸屬墨西哥的 Universidad Autónoma de Chiapas 及 Universidad Tecnológica del Perú。他們的可計算正當程序論文以秘魯憲法判例法為起點,並考察比較法材料。
作者提出五項條件:論證必須存在、其推論必須有效,而其前提必須具備理據。此外,論證亦必須符合適用的證據標準,並回應爭議中的主張。這些條件關乎事實、規則、異議與結論之間的關係。
此重點相當重要,因為法律撰寫與法律論證是兩項不同工作。一份文件可以有標題、引文和井然有序的敘述,卻略過將證據連繫至結論的步驟。專業的呈現方式無法補上這項缺口。
因此,該出版物提出一種描述可接受推理的方式。它並未向法院提供一套可自動檢查所有條件的完整應用程式。作者明確表示,他們沒有進行實證實驗,也沒有實作任何系統。
讀者亦應區分擬議規格與其所詮釋的法律責任。法院本已在各自司法管轄區內負有為裁決提供理據的要求。研究人員主張,這些要求可為計算設計提供參考。發表這項論點本身,並不會獨立改變程序法。
眼前的新聞,比起「建立司法 AI 標準」這類標題所暗示的範圍更為狹窄。研究人員已闡述一套框架,讓開發者可嘗試實作及測試。其重構是否捕捉到相關法律要求,仍有待學術界及機構作出評估。
這亦說明為何這項工作即使沒有產品發布,仍屬司法 AI 討論的一部分。在衡量系統之前,開發者須先界定成功表現的意義。一份精緻草稿與一項可供審核的論證,代表兩種不同的成功定義。
對科技採購方而言,這項方案在能力展示與驗收準則之間作出有用區分。展示說明一項應用程式可在選定條件下產出甚麼。驗收準則則界定機構在擬使用該應用程式的各種情況下,所要求達到的標準。
當草稿交到獲授權簽署的人手上時,這項分別便具實際影響。文件外觀可能促使人們在其底層推理獲得同等審視前便予以接受。此框架將注意力引向生成文本與機構權力之間的交接環節。
司法責任對軟件設計構成壓力
只有當審核者能檢視支持擬議結論的材料,人類審核才具實質意義。
最直接的壓力落在提供司法文書協助的開發者,以及考慮採購此類產品的機構身上。他們面對的挑戰不止於讓文本可以編輯,還必須考慮審核者能否辨識沒有支持依據的前提、遺漏的回應,或未作解釋的推論。
英格蘭及威爾斯提供了一個機構參考點。其 2025 年 10 月的司法 AI 指引重申,司法職務持有人須為以其名義產出的材料負責。指引亦將 AI 的使用置於保障司法公正及法治的義務之內。
對介面設計而言,其含意直接明確,儘管這仍屬分析性推論。審核者需要取得草稿背後的證據及法律權威資料。若要求承擔責任,卻隱藏這些材料,實質核實將更為困難。
試想一個假設的應用程式,為擬議裁決生成文件,並在每段旁附上引文。這種呈現有助用戶查找法律權威資料。但它未必能顯示哪項證據支持某項事實認定,或為何所引權威適用於該具體爭議。
另一種介面可直接呈示這些關係。選取某項結論後,系統或可展示其事實前提、所適用規則及已考慮的異議。這會讓審核者有明確的質疑點,而非必須從精修文字中自行重構推理。
這項差異亦影響採購。單問產品是否包含人類監督,只能提供有限資訊。採購方需要了解該監督實際涉及甚麼、審核者可取得哪些資訊,以及被否決的推理是否仍會保留於紀錄中。
節省時間亦須接受同樣審視。更快完成草擬,並不必然代表核實也更快。某個應用程式可能迅速產出文件,卻把逐一檢查每項事實及法律關連的工作,全部留給審核者手動完成。
這項觀察並不能證實 AI 輔助會增加司法工作量。該論文沒有提供可解答此問題的操作性試驗。不過,它確立了理由,讓未來評估應分別量度草擬時間與審核所需工作。
壓力亦延伸至律師及訴訟當事人,因為他們面對的是經審核後保留下來的推理。受影響一方需要辨識其陳述為何未獲接納。當具決定性的異議仍未獲回應時,法院泛稱已考慮一切,幫助不大。
對知識工作者而言,更廣泛的關連在於資料來源的組織。一個可搜尋知識庫可讓支持文件更容易檢索。但這種組織功能,仍有別於判定法律結論是否可由這些文件推導出來。
因此,機構層面的問題很具體:軟件必須揭示甚麼,責任才可被切實履行?回答這個問題需要法律專家與開發者合作。流暢輸出或一個審核按鈕,均無法單獨解決問題。
可檢視的論證改變法律 AI 必須展示的內容
擬議方法為語言生成、明確推理結構及司法評估分配不同職能。
作者提倡採用可檢視的符號層,即對可辨識前提、規則及結論之間關係的表述。他們容許語言模型檢索資訊及準備草稿。擬議的推理結構則承擔展示理據的責任。
這是在系統內部劃分責任,而非聲稱文件生成毫無價值。找出相關材料及產出易讀語言,仍然是有用功能。爭議在於,這些功能是否同時足以建立可接受的論證。
一宗假設的福利爭議可說明兩者差異。某個應用程式可能檢索資格規則、摘要申請人的紀錄,並起草拒絕決定。該草稿仍可能遺漏會改變規則適用方式的例外情況。
在可檢視的表述中,該例外情況必須有可辨識的位置。審核者可檢視其事實條件是否已獲考慮,以及為何它適用或不適用。這令具爭議的選擇更容易被找出。
同一原則亦適用於某項事實前提仍不確定的情況。系統應區分一項指稱與一項獲接納作為裁決依據的認定。否則,後續推理可能看似內部一致,實際上卻依賴無人恰當確立的前提。
另一項區分涉及證據強度。信心分數描述模型在自身設計下作出的評估。它不會自動對應司法裁決所適用的證據要求。
因此,足夠的審核程序必須識別該數字回答的是哪一個問題。它關乎文件分類、檢索相關性、事實支持,還是其他事項?若將這些含義混合為單一分數,將會掩蓋而非釐清推理。
歷史研究顯示,僅靠專業化無法判定可靠性。Varun Magesh 與同事評估了 LexisNexis 及 Thomson Reuters 的法律研究系統。他們的法律 AI 可靠性研究報告指出,受評工具逾 17% 的回應含有錯誤資訊。
這些結果僅涉及受測產品及其版本。不應將其視為每個法律 AI 應用程式的當前效能估算,也不衡量 11 月論文所描述、尚未實作的框架。
不過,這項比較仍指出不同的評估目標。研究助理必須準確找出並描述法律權威資料。司法文書助理還必須把適用權威資料及已確立事實,連繫到擬議結論。
檢索增強生成會向語言模型提供已檢索文件,從而處理取得來源材料的問題。它的存在並不能獨立證明生成的詮釋在法律上具充分理據。來源可以是真實的,但歸於它的命題可能有誤。
同一限制亦適用於冗長解釋。更多文字可以擴展論證,卻也可以重複沒有支持依據的假設。可審核性取決於揭示關鍵關係,而非增加散文篇幅。
因此,可計算正當程序方案把設計討論轉向可檢視的承諾。系統假定哪些事實?哪項規則支持該結論?它在何處回應足以改變結果的異議?
這些問題之所以有用,正正因為它們容許分歧。審閱者可以拒絕某項前提或詮釋,而毋須接受整份生成文件。這讓修訂 AI 輔助草稿的能力具有實質意義。
正式檢查無法解決每一項法律判斷
此框架最顯著的限制已明確指出:符合其條件並不保證作出公正決定。
作者將其條件描述為必要但不足夠。選擇前提及衡量相互競爭的原則,仍然保留評價成分。正式結構可以揭示這些選擇,卻無法判定這些選擇是否值得接受。
這為開發者帶來實際取捨。明確的表述方式有助檢視,但總要有人建立及維護它們。系統不能只靠以方框和箭頭取代文字,便獲得可靠的法律涵蓋範圍。
試想一個一般規則與較狹窄例外之間的假設衝突。把優先關係編碼,可使所選詮釋一目了然。困難的問題仍然是:就涉及的司法管轄區、事實及法律權威而言,該優先次序是否恰當。
維護帶來另一項挑戰。即使其依據的法律來源有所變動,某種表述仍可保持內部一致。除非系統追蹤這些變動,否則一套條理井然的論證可能建基於過時假設。
這是從擬議架構推論出的工程風險,而非已實施產品的量度失敗。論文並無提供部署證據以確立維護成本。因此,買家應將營運可行性視為尚未解答的問題。
此框架亦容許人們對何謂足夠支持抱有分歧。不同審閱者可以接受同一份事實紀錄,卻不同意其重要性。應用程式應揭示這種分歧,而非將其掩飾成技術上的確定性。
另一項風險涉及所展示的論證與生成草稿之間的關係。若兩者出現分歧,推理視圖可能成為另一件具說服力的產物。評估應檢視支持材料的變更,是否會改變依賴該等材料的結論。
這提出了一項有用的未來測試,而非已報告的結果。移除一項決定性前提、加入相反的法律權威,或揭示一項尚未回應的異議。然後檢視該應用程式會否辨識由此產生的弱點,並清楚向審閱者呈現。
論文對語言模型所作的較廣泛主張,同樣需要審慎處理。幻覺現象的證據,即生成虛假或無支持內容的情況,證明在已評估的情境中存在可靠性問題。這並不能證明每種未來架構都會無法符合每一項推理要求。
混合系統應按其實際行為接受評估。把語言模型與明確規則結合,本身並不證明合規。反過來說,在工作流程某處使用語言模型,也不能說明該應用程式可驗證的一切。
司法管轄區構成另一重界限。該研究以秘魯法理為基礎,並檢視比較材料。北美讀者不應假設其分類會自動複製其本土法院的每項要求。
要作出移植,必須分析相關機構及程序的法律情況。對有理據決定的共同關注,並不會消除程序、權威或證據責任上的差異。實施時必須保留這些差異。
因此,懷疑者提出的問題,比形式化是否可行更具要求:一個獲維護且易於使用的實施方案,能否在真實爭議中改善審閱?該出版物提出了這個問題,卻未提供可解決它的實證證據。
現有法院規則說明為何驗證需要實質內容
這項建議加入了既有的管治討論,議題涵蓋控制、問責,以及質疑 AI 輔助工作成果的能力。
西班牙提供了一個具體的法律比較。其皇家法令法 6/2023 第 57 條處理輔助司法行動。條文規定,生成草稿未經主管機關驗證,不會自行成為司法或程序決定。
該條文亦要求使用者可自由修改草稿。它在此處的重要性,在於區分生成材料與賦予該等材料法律權威。11 月的研究所問的是,哪些實質特性應支持該項驗證。
這些問題彼此相關,但運作於不同層面。規則可以識別誰承擔責任及掌握控制權。擬議的技術規格則可描述哪些資訊有助該人士履行這些責任。
歐洲倫理指引提供另一個參考點。歐洲委員會 CEPEJ 於 2018 年 12 月採納其司法 AI 憲章。其原則包括基本權利、非歧視、品質及安全、透明度,以及使用者控制。
該憲章支持負責任地使用司法 AI,同時承認其可能帶來效率及品質效益。它並非對這篇特定論文的背書。它的相關性在於顯示,問責問題早於新一代草擬系統已受到關注。
這項新建議在更廣泛的討論中處理一個較狹窄的設計問題:生成的論證應揭示甚麼,讓人們可以檢視它?回答這個問題,並不能取代有關權利、安全或機構獨立性的更廣泛責任。
對評估法院科技的讀者而言,區分這些層次可避免誇大其詞。系統可以提供詳細的論證檢視,同時令其他部署問題仍未解決。同樣地,機構可以採納管治規則,卻未必擁有令實質審閱變得容易的軟件。
這項區分在討論透明度時尤其重要。公開應用程式的一般說明,是描述其預定運作方式。展示某項特定結論背後的前提,則讓人可檢視該個別案件中的推理。
兩種資訊都可能重要,但各自服務不同目的。質疑事實裁斷的人,需要的不只是一張架構圖。評估存取控制的採購團隊,亦需要超越個別草稿措辭的資訊。
因此,有意義的驗證不能簡化為一個簽署。相關問題是批准前發生了甚麼:審閱者有否檢視決定性證據、考慮相反陳述,並獨立評估所建議的詮釋?
這些是擬議的評估問題,而非關於任何特定法院行為的發現。所審閱材料並未證明機構已採納 11 月框架。它們說明為何該框架聚焦於可檢視的理據,具有既有的制度背景。
實際意義在於令責任更具體。開發者可以辨識審閱者需要看到甚麼。機構可以辨識批准程序應記錄甚麼。研究人員繼而可以調查這些安排是否改善實際審閱。
留意實施、獨立測試及法院採納
下一步具意義的發展,將會把概念框架轉化為外界可檢視及評估的事物。
未來數月,首個值得留意的訊號是公開實施方案或詳細技術示範。它應展示擬議條件如何在一宗已完成分析的爭議中運作。單靠一個易讀答案,對底層規格只能提供有限證據。
有用的成果應連結事實前提、法律權威、異議及結論。它亦應識別未解決問題,並容許作出修正。這類發布將更有力證明該框架可以指導實際開發。
示範的涵蓋範圍仍然有限。經挑選的例子可以展示可行性,卻不能證明其在陌生案件中的可靠性。讀者應尋找明確的涵蓋範圍說明,並避免將狹窄的原型視作通用的司法推理引擎。
第二個訊號是以困難案件及刻意引入的錯誤進行獨立評估。評估者應測試缺失證據、相互衝突的規則,以及草稿未有處理的決定性異議。這些測試將檢視應用程式是否揭示弱點,而不只是生成看似完整的文件。
人類表現亦應構成該評估的一部分。研究人員需要檢視審閱者是否發現更多錯誤,並理解所展示的推理。審閱時間同樣重要,因為令使用者不勝負荷的介面可能破壞其預定目的。
有利結果將加強在受測情境中採用可檢視表述的論點。令人失望的結果則會指出實施方案或其介面的限制。任何一種結果都不應自動裁定有關司法 AI 的每項主張。
第三個訊號是具界定範圍的、已記錄的制度採納。法院試行、採購要求或公開的審閱規程,都可提供實際採納的證據。相關文件應識別獲授權的協助方式,以及責任如何運作。
讀者應把這些發展與一般支持透明度的聲明區分開來。廣泛的承諾並不證明採用了這個框架。可識別的要求、實施或評估,將為判斷採納情況提供更穩固的基礎。
這些訊號亦釐清現時仍然未知的事項。該出版物並未證明準確度提升、審閱成本下降,或司法結果改善。這些主張需要來自在指定條件下運作的系統及使用者的證據。
對開發者而言,即時價值是一組更精確的設計問題。對機構買家而言,這是審視產品令甚麼內容可供審閱的方法。對受影響人士而言,相關問題仍然是:決定背後的理由是否可以理解及受到質疑。
在評估下一個司法 AI 示範前,請帶着這些區分閱讀原始研究。問一問:甚麼證據支持所展示的前提,而系統又留下哪些未解決的異議?檢查審閱者能否在不失去支持紀錄的情況下,改變所建議的詮釋。尋找能區分草擬便利與審查改善的獨立結果。Computable Due Process 建議為這類評估提供詞彙,而實施及測試仍有待進行。當供應商展示 AI 生成的裁決時,要求檢視連結其證據與結論的推理。審閱者能否找到值得提出異議的精確步驟,而系統又能否在修訂過程中保留這項質疑?



