사법 AI를 위한 추론 검증 기준을 제시한 Computable Due Process 제안
11월 11일 발표된 Computable Due Process 제안은 AI 지원 사법 추론을 위한 다섯 가지 조건을 제시하면서, 최종 평가는 판사에게 유보한다. 이 제안의 핵심 관심사는 설득력 있는 법률 문서와 정당화된 결정 사이의 간극이다. AI 시스템은 후자를 입증하지 않은 채 전자를 생성할 수 있다.
이 논문은 Frontiers in Artificial Intelligence에 Hypothesis and Theory 논문으로 게재됐다. 이 논문은 수용 가능한 결과물이 갖춰야 할 속성을 명시하는 개념적 사양을 소개한다. 이미 배포된 사법 모델이나 정확도 혁신, 새롭게 구속력을 갖는 법원 기준을 발표한 것은 아니다.
법원 소프트웨어 개발자와 기관 구매자에게 이 구분은 논의의 방향을 바꾼다. 경쟁하는 접근법은 유창한 문서 생성과 검증 가능한 법적 정당화다. 잉글랜드와 웨일스의 기존 지침은 이미 사법적 책임을 강조한다. 이 제안은 검토자가 AI 지원 초안을 수용하기 전에 무엇을 살펴볼 수 있어야 하는지를 묻는다.
Computable Due Process 제안은 기존의 사법 의무를 형식화한다
이 논문은 이유를 제시해야 할 의무를 소프트웨어와 인간 검토자가 살필 수 있는 속성으로 전환할 것을 제안한다.
Roberto Leonardo Cruz-Núñez, Hugo Armando Aguilar-Brito, Andherson J. Aguirre-Lanegra, Nuccia Seminario-Hurtado가 이 프레임워크를 개발했다. 이들의 소속 기관은 멕시코의 Universidad Autónoma de Chiapas와 Universidad Tecnológica del Perú에 걸쳐 있다. 이들의 computable due process 논문은 페루 헌법 판례에서 출발해 비교법 자료를 검토한다.
저자들은 다섯 가지 조건을 제시한다. 논증이 존재해야 하고, 그 추론은 타당해야 하며, 전제는 정당성을 갖춰야 한다. 또한 적용되는 증명 기준을 충족하고 분쟁 내 청구를 다뤄야 한다. 이 조건들은 사실, 규칙, 이의 제기, 결론 사이의 관계를 다룬다.
이 초점이 중요한 이유는 법률 문서 작성과 법적 정당화가 서로 다른 과제이기 때문이다. 문서는 제목, 인용, 정돈된 서술을 갖추고도 증거와 결론을 연결하는 단계를 생략할 수 있다. 전문적인 표현만으로는 빠진 연결 고리를 채울 수 없다.
따라서 이 출판물은 수용 가능한 추론을 설명하는 한 가지 제안 방식을 더한다. 모든 조건을 자동으로 점검하는 완성된 애플리케이션을 법원에 제공하는 것은 아니다. 저자들은 경험적 실험을 수행하지 않았고 시스템도 구현하지 않았다고 명시적으로 밝힌다.
독자는 제안된 사양과 그것이 해석하는 법적 의무도 구분해야 한다. 법원은 이미 각 관할권 내에서 결정을 정당화해야 하는 요건 아래 운영된다. 연구진은 이러한 요건이 계산적 설계에 정보를 제공할 수 있다고 주장한다. 이 주장을 출판한다고 해서 절차법이 독립적으로 바뀌는 것은 아니다.
당장의 뉴스는 사법 AI 기준을 확립했다는 제목이 시사하는 것보다 범위가 좁다. 연구자들은 개발자가 구현과 검증을 시도할 수 있는 프레임워크를 제시했다. 이들의 재구성이 관련 법적 요건을 포착하는지는 여전히 학계와 기관의 평가 대상이다.
이는 제품 출시가 없는데도 이 연구가 사법 AI 논의에 속하는 이유이기도 하다. 시스템을 측정하기 전에 개발자는 성공적인 성능이 무엇을 의미하는지 명시해야 한다. 세련된 초안과 검토 가능한 논증은 서로 다른 성공의 정의를 나타낸다.
기술 구매자에게 이 제안은 역량 시연과 수용 기준을 구분하는 유용한 틀을 제공한다. 시연은 애플리케이션이 선택된 조건에서 무엇을 만들어낼 수 있는지 보여준다. 수용 기준은 기관이 해당 애플리케이션을 사용하려는 상황 전반에서 무엇을 요구하는지 정한다.
이 구분은 초안이 서명 권한을 가진 사람에게 전달될 때 중요해진다. 문서의 외관은 그 기저의 추론이 동등한 수준의 검토를 받기 전에 수용을 부추길 수 있다. 이 프레임워크는 생성된 텍스트와 제도적 권한 사이의 인계 지점에 주의를 돌린다.
사법적 책임은 소프트웨어 설계에 압력을 가한다
인간 검토는 검토자가 제안된 결론을 뒷받침하는 자료를 살필 수 있을 때에만 의미를 갖는다.
가장 직접적인 압력은 사법 문서 작성 지원을 제공하는 개발자와 해당 제품을 고려하는 기관에 가해진다. 이들의 과제는 텍스트를 편집 가능하게 만드는 데 그치지 않는다. 검토자가 근거 없는 전제, 누락된 응답, 설명되지 않은 추론을 식별할 수 있는지도 고려해야 한다.
잉글랜드와 웨일스는 제도적 기준점을 제공한다. 2025년 10월의 사법 AI 지침은 사법 공직자가 자신의 명의로 생성된 자료에 대해 지는 책임을 재확인한다. 또한 AI 사용을 사법적 청렴성과 법치주의를 보호해야 할 의무 안에 둔다.
인터페이스 설계에 대한 함의는 직접적이지만, 여전히 분석적 추론에 해당한다. 검토자는 초안의 근거가 된 증거와 법적 권위에 접근할 필요가 있다. 책임을 요구하면서 해당 자료를 숨긴다면 실질적 검증은 더 어려워질 것이다.
각 문단 옆에 인용을 붙인 판결 제안문을 생성하는 가상의 애플리케이션을 생각해 보자. 이러한 표현은 사용자가 법적 권위를 찾는 데 도움이 된다. 그러나 어떤 증거가 사실인정을 뒷받침하는지, 또는 인용된 법적 권위가 왜 특정 분쟁에 적용되는지를 반드시 보여주지는 않는다.
다른 인터페이스는 이러한 관계를 직접 드러낼 수 있다. 결론을 선택하면 그 사실적 전제, 적용된 규칙, 검토된 이의 제기를 표시할 수 있다. 그러면 검토자는 다듬어진 문장에서 추론을 재구성해야 하는 대신, 이의를 제기할 수 있는 식별 가능한 지점을 갖게 된다.
이 차이는 조달에도 영향을 미친다. 제품이 인간 감독을 포함하는지 묻는 것만으로는 정보가 제한적이다. 구매자는 그 감독이 무엇을 수반하는지, 검토자가 어떤 정보를 받는지, 기각된 추론이 기록에 계속 남는지를 이해해야 한다.
시간 절감도 비슷한 검토가 필요하다. 더 빠른 초안 작성이 자동으로 더 빠른 검증을 의미하지는 않는다. 애플리케이션은 문서를 신속히 생성하면서도 검토자에게 모든 사실 및 법적 연결을 수동으로 확인하게 할 수 있다.
이 관찰이 AI 지원이 사법 업무량을 늘린다는 점을 입증하는 것은 아니다. 이 논문은 그 질문을 해결할 수 있는 운영 시험을 제공하지 않는다. 다만 향후 평가에서 초안 작성 시간과 검토 노력을 별도로 측정할 이유를 제시한다.
이 압력은 검토를 통과한 추론을 접하게 되는 변호사와 소송 당사자에게도 미친다. 영향을 받는 당사자는 제출 내용이 왜 받아들여지지 않았는지 식별할 필요가 있다. 결정적인 이의 제기에 답하지 않은 채 법원이 모든 사항을 고려했다는 일반적 진술만으로는 도움이 거의 되지 않는다.
지식 노동자에게 더 넓은 연결점은 출처 정리에 관한 것이다. 검색 가능한 지식 기반은 뒷받침 문서를 더 쉽게 찾도록 할 수 있다. 그러나 이러한 정리 기능은 법적 결론이 해당 문서에서 도출되는지 판단하는 것과는 별개다.
따라서 제도적 질문은 구체적이다. 책임을 행사할 수 있도록 소프트웨어는 무엇을 공개해야 하는가? 이에 답하려면 법률 전문가와 개발자 간 협력이 필요하다. 유창한 출력도 검토 버튼도 단독으로는 이를 해결하지 못한다.
검증 가능한 논증은 법률 AI가 무엇을 보여야 하는지 바꾼다
제안된 접근법은 언어 생성, 명시적 추론 구조, 사법적 평가에 서로 다른 역할을 부여한다.
저자들은 식별 가능한 전제, 규칙, 결론 간 관계를 표현하는 검증 가능한 기호 계층을 옹호한다. 이들은 언어 모델이 정보를 검색하고 초안을 준비할 여지를 남긴다. 제안된 추론 구조는 정당화를 보여주는 부담을 맡는다.
이는 문서 생성이 가치 없다는 주장이 아니라 시스템 내 책임의 분담이다. 관련 자료를 찾고 읽기 쉬운 언어를 만들어내는 일은 여전히 유용한 기능이다. 쟁점은 이러한 기능이 수용 가능한 논증까지 수립하는지 여부다.
가상의 복지 혜택 분쟁은 차이를 보여준다. 애플리케이션은 자격 요건 규칙을 검색하고 신청자의 기록을 요약한 뒤 불허 결정을 초안으로 작성할 수 있다. 그러나 그 초안은 규칙 적용 방식을 바꾸는 예외를 누락할 수 있다.
검증 가능한 표현에서는 그 예외가 식별 가능한 위치를 가져야 한다. 검토자는 그 사실적 조건이 고려됐는지, 왜 적용됐거나 적용되지 않았는지를 살필 수 있다. 그러면 다툼이 되는 선택을 더 쉽게 찾을 수 있다.
동일한 원칙은 사실적 전제가 불확실한 경우에도 적용된다. 시스템은 주장과 결정에 사용하기 위해 수용된 사실인정을 구분해야 한다. 그렇지 않으면 누구도 적절히 확립하지 않은 전제에 의존하면서도 후속 추론은 내부적으로 일관돼 보일 수 있다.
또 다른 구분은 증거의 강도와 관련된다. 신뢰도 점수는 자체 설계에 따른 모델의 평가를 설명한다. 이는 사법 결정에 적용되는 증명 요건에 자동으로 대응하지 않는다.
따라서 적절한 검토 절차는 해당 수치가 어떤 질문에 답하는지 식별해야 한다. 문서 분류, 검색 관련성, 사실적 뒷받침, 또는 다른 무엇에 관한 것인가? 이런 의미를 하나의 점수로 결합하면 추론을 명확히 하기보다 가리게 된다.
역사적 연구는 전문화만으로 신뢰성을 해결할 수 없는 이유를 보여준다. Varun Magesh와 동료들은 LexisNexis 및 Thomson Reuters의 법률 조사 시스템을 평가했다. 이들의 법률 AI 신뢰성 출판물은 평가된 도구의 응답 중 17% 이상에 잘못된 정보가 포함됐다고 보고했다.
이 결과는 시험된 제품과 버전에 관한 것이다. 모든 법률 AI 애플리케이션의 현재 성능 추정치로 사용해서는 안 된다. 또한 11월 논문에서 설명된, 아직 구현되지 않은 프레임워크를 측정한 것도 아니다.
그럼에도 이 비교는 서로 다른 평가 대상을 식별한다. 법률 조사 보조 도구는 법적 권위를 정확하게 찾아 특성을 설명해야 한다. 사법 문서 작성 보조 도구는 적용 가능한 법적 권위와 확립된 사실을 제안된 결론에 연결해야 한다.
검색 증강 생성은 검색된 문서를 언어 모델에 제공하며, 원천 자료에 대한 접근을 다룬다. 이것이 존재한다고 해서 생성된 해석이 법적으로 정당화됐다는 점이 독립적으로 확립되지는 않는다. 출처는 진본일 수 있지만, 그 출처에 귀속된 명제는 잘못됐을 수 있다.
같은 한계는 긴 설명에도 적용된다. 더 많은 텍스트는 논증을 확장할 수 있지만, 근거 없는 가정을 반복할 수도 있다. 검토 가능성은 산문의 양을 늘리는 데 있지 않고, 결정적인 관계를 드러내는 데 달려 있다.
이에 따라 Computable Due Process 제안은 설계 논의를 검증 가능한 약속으로 옮긴다. 시스템은 어떤 사실을 전제하는가? 어떤 규칙이 결론을 정당화하는가? 결과를 바꿀 수 있는 이의 제기는 어디에서 다뤄지는가?
이러한 질문들이 유용한 이유는 바로 이견을 허용하기 때문이다. 검토자는 생성된 문서 전체를 받아들이지 않고도 전제나 해석을 거부할 수 있다. 이는 AI 지원 초안을 수정할 수 있는 능력에 실질적인 의미를 부여한다.
형식적 검토만으로 모든 법적 판단을 해결할 수는 없다
이 프레임워크의 가장 큰 한계는 명시적이다. 조건을 충족한다고 해서 정의로운 결정이 보장되지는 않는다.
저자들은 자신들의 조건을 필요하지만 충분하지는 않은 것으로 설명한다. 전제를 선택하고 상충하는 원칙의 비중을 판단하는 일에는 여전히 평가적 요소가 남는다. 형식적 구조는 그러한 선택을 드러낼 수는 있어도, 그 선택이 수용될 만한지까지 결정하지는 못한다.
이는 개발자에게 실질적인 상충관계를 만든다. 명시적 표현은 검토 가능성을 제공하지만, 누군가는 이를 구축하고 유지해야 한다. 시스템은 산문을 상자와 화살표로 바꾸는 것만으로 신뢰할 수 있는 법적 적용 범위를 확보할 수 없다.
일반 규칙과 더 좁은 예외 사이의 가상적 충돌을 생각해 보자. 우선순위 관계를 인코딩하면 선택된 해석이 드러난다. 그러나 그 우선순위가 해당 관할권, 사실관계 및 관련 법적 근거에 비추어 적절한지라는 까다로운 질문은 남는다.
유지보수는 또 다른 과제를 제기한다. 기반이 되는 법적 출처가 바뀐 뒤에도 표현 체계는 내부적으로 일관된 상태를 유지할 수 있다. 시스템이 그러한 변화를 추적하지 않는다면, 정연한 논증도 오래된 가정에 의존할 수 있다.
이는 구현된 제품의 측정된 실패라기보다 제안된 아키텍처에서 추론되는 엔지니어링 위험이다. 논문은 유지보수 비용을 입증하는 배포 증거를 제공하지 않는다. 따라서 구매자는 운영 가능성을 아직 답이 없는 문제로 보아야 한다.
이 프레임워크는 무엇이 충분한 근거로 간주되는지를 둘러싼 이견의 여지도 남긴다. 서로 다른 검토자는 동일한 사실 기록을 받아들이면서도 그 중요성에 대해서는 의견을 달리할 수 있다. 애플리케이션은 그러한 이견을 기술적 확실성으로 위장하지 말고 드러내야 한다.
또 다른 위험은 표시된 논증과 생성된 초안의 관계에 관한 것이다. 둘이 어긋난다면 추론 화면은 또 하나의 설득용 산출물이 될 수 있다. 평가는 뒷받침 자료의 변경이 그 자료에 의존하는 결론을 바꾸는지 살펴봐야 한다.
이는 보고된 결과가 아니라 유용한 향후 시험을 시사한다. 결정적인 전제를 제거하거나, 반대되는 법적 근거를 추가하거나, 답변되지 않은 이의를 드러내 보라. 그런 다음 애플리케이션이 그에 따른 취약점을 식별하고 검토자에게 명확히 제시하는지 살펴봐야 한다.
언어 모델에 관한 논문의 더 광범위한 주장 역시 신중하게 다뤄야 한다. 환각, 즉 거짓이거나 근거 없는 생성 콘텐츠에 대한 증거는 평가된 환경에서 신뢰성 문제가 있음을 보여 준다. 그렇다고 미래의 모든 아키텍처가 모든 추론 요건을 충족하지 못할 것이라는 뜻은 아니다.
하이브리드 시스템은 실제 동작을 기준으로 평가받아야 한다. 언어 모델을 명시적 규칙과 결합한다고 해서 그 자체로 준수가 입증되는 것은 아니다. 반대로 워크플로의 어느 지점에서 언어 모델을 사용한다고 해서 애플리케이션이 검증할 수 있는 모든 것을 설명하는 것도 아니다.
관할권은 또 하나의 경계를 제시한다. 이 연구는 페루 법리에서 출발하고 비교 자료를 검토한다. 북미 독자들은 그 범주가 자국 법원의 모든 요건을 자동으로 재현한다고 가정해서는 안 된다.
이전에는 관련 기관과 절차에 대한 법적 분석이 필요하다. 이유 있는 결정에 대한 공통 관심이 절차, 권한 또는 증거상 의무의 차이를 없애지는 않는다. 구현은 이러한 차이를 보존해야 한다.
따라서 회의적인 질문은 형식화가 가능한지 여부보다 더 엄격하다. 유지되고 사용 가능한 구현이 현실적인 분쟁 전반에서 검토를 개선할 수 있는가? 이 출판물은 그 질문을 제기하지만, 이를 해결할 실증적 증거는 제공하지 않는다.
기존 법원 규칙은 검증에 실질적 내용이 필요한 이유를 보여 준다
이 제안은 AI 지원 업무의 통제, 책임성 및 이의 제기 가능성에 관한 기존 거버넌스 논의에 들어선다.
스페인은 구체적인 법적 비교 사례를 제공한다. 왕령법 6/2023 제57조는 보조된 사법 행위를 다룬다. 이 조항은 생성된 초안이 관할 권한을 가진 기관의 검증 없이는 독자적으로 사법 또는 절차상 결정이 되지 않는다고 규정한다.
이 조항은 또한 사용자가 초안을 자유롭게 수정할 수 있어야 한다고 요구한다. 여기서 중요한 점은 자료를 생성하는 일과 그 자료에 법적 권위를 부여하는 일의 구분이다. 11월 연구는 그러한 검증을 뒷받침해야 할 실질적 속성이 무엇인지 묻는다.
이들은 관련된 질문이지만 서로 다른 수준에서 작동한다. 규칙은 누가 책임과 통제권을 보유하는지 식별할 수 있다. 제안된 기술 명세는 그 사람이 그러한 책임을 수행하는 데 도움이 될 정보를 설명할 수 있다.
유럽의 윤리 지침은 또 다른 기준점을 제공한다. 유럽평의회 CEPEJ는 2018년 12월 사법 AI 헌장을 채택했다. 그 원칙에는 기본권, 비차별, 품질과 보안, 투명성, 사용자 통제가 포함된다.
이 헌장은 효율성과 품질 측면의 가능한 이점을 인정하면서 책임 있는 사법 AI 사용을 지지한다. 이는 이 특정 논문을 지지한다는 뜻은 아니다. 그 의의는 최신 세대의 초안 작성 시스템보다 앞서 책임성 문제가 제기되었음을 보여 주는 데 있다.
새 제안은 더 넓은 논의 안에서 보다 좁은 설계 질문을 다룬다. 생성된 논증은 사람들이 이를 검토할 수 있도록 무엇을 드러내야 하는가? 이 질문에 답한다고 해서 권리, 보안 또는 제도적 독립성에 관한 더 광범위한 의무가 대체되는 것은 아니다.
법원 기술을 평가하는 독자에게 이러한 층위를 구분하는 일은 과장된 주장을 막아 준다. 시스템은 상세한 논증 검토 기능을 제공하면서도 다른 배포 문제를 해결하지 못할 수 있다. 마찬가지로 기관은 실질적 검토를 쉽게 만드는 소프트웨어 없이도 거버넌스 규칙을 채택할 수 있다.
이 구분은 특히 투명성을 논의할 때 중요하다. 애플리케이션에 관한 일반적 설명을 공개하는 것은 그 의도된 작동 방식을 설명한다. 특정 결론의 전제를 보여 주는 것은 누군가가 그 개별 사안의 추론을 검토할 수 있게 한다.
두 정보 형태 모두 중요할 수 있지만, 목적은 다르다. 사실인정에 이의를 제기하는 사람에게는 아키텍처 다이어그램만으로는 부족하다. 접근 통제를 평가하는 조달팀에는 개별 초안의 문구를 넘어선 정보가 필요하다.
이 때문에 의미 있는 검증은 서명으로 축소될 수 없다. 핵심 질문은 승인 전에 무엇이 일어났는가이다. 검토자는 결정적인 증거를 살펴보고, 반대 주장을 고려하며, 제안된 해석을 독립적으로 평가했는가?
이들은 특정 법원의 행동에 관한 발견이 아니라 제안된 평가 질문이다. 검토된 자료는 기관들이 11월 프레임워크를 채택했음을 입증하지 않는다. 다만 검토 가능한 정당화에 초점을 맞춘 이 프레임워크가 기존 제도적 맥락을 지닌 이유를 보여 준다.
실질적 의의는 책임을 더 구체적으로 만드는 데 있다. 개발자는 검토자가 무엇을 봐야 하는지 식별할 수 있다. 기관은 승인 절차가 무엇을 기록해야 하는지 식별할 수 있다. 연구자는 이어 그러한 장치가 실제 검토를 개선하는지 조사할 수 있다.
구현, 독립적 시험 및 법원 채택을 주시하라
다음으로 의미 있는 발전은 개념적 프레임워크를 외부인이 검토하고 평가할 수 있는 대상으로 바꾸는 일일 것이다.
향후 몇 달 동안 주목할 첫 번째 신호는 공개 구현 또는 상세한 기술 시연이다. 이는 제안된 조건이 실제 분쟁 사례에서 어떻게 작동하는지를 보여 주어야 한다. 읽기 쉬운 답변만으로는 기반이 되는 명세에 대한 증거가 제한적일 것이다.
유용한 산출물은 사실 전제, 법적 근거, 이의 및 결론을 연결할 것이다. 또한 해결되지 않은 쟁점을 식별하고 수정도 허용해야 한다. 이러한 공개는 프레임워크가 실질적 개발을 이끌 수 있다는 주장을 강화할 것이다.
시연의 적용 범위는 여전히 제한적일 것이다. 선별된 사례는 낯선 사안 전반의 신뢰성을 입증하지 못한 채 실현 가능성을 보여 줄 수 있다. 독자들은 적용 범위에 관한 명시적 설명을 찾아야 하며, 좁은 프로토타입을 일반적 사법 추론 엔진으로 간주해서는 안 된다.
두 번째 신호는 어려운 사례와 의도적인 오류를 활용한 독립적 평가다. 평가자는 누락된 증거, 충돌하는 규칙, 초안이 다루지 못한 결정적 이의를 시험해야 한다. 이러한 시험은 애플리케이션이 완성도 있어 보이는 문서만 생성하는 대신 취약점을 드러내는지 살펴볼 것이다.
인간의 수행도 그 평가의 일부가 되어야 한다. 연구자는 검토자가 더 많은 오류를 발견하고 표시된 추론을 이해하는지 검토해야 한다. 사용자를 압도하는 인터페이스는 의도한 목적을 훼손할 수 있으므로 검토 시간도 중요하다.
긍정적인 결과는 시험된 환경에서 검토 가능한 표현을 지지하는 논거를 강화할 것이다. 기대에 미치지 못하는 결과는 구현이나 인터페이스의 한계를 식별할 것이다. 어느 결과도 사법 AI에 관한 모든 주장을 자동으로 결정해서는 안 된다.
세 번째 신호는 정의된 범위를 갖춘 문서화된 제도적 채택이다. 법원 시범사업, 조달 요건 또는 공개된 검토 프로토콜은 실질적 도입의 증거를 제공할 것이다. 문서는 어떤 지원이 허용되는지와 책임이 어떻게 작동하는지를 식별해야 한다.
독자들은 이러한 발전을 투명성을 지지하는 일반적 선언과 구분해야 한다. 광범위한 약속만으로는 이 프레임워크의 사용이 입증되지 않는다. 식별 가능한 요건, 구현 또는 평가는 채택을 평가할 더 확실한 근거를 제공할 것이다.
이러한 신호는 오늘날 무엇이 여전히 알려지지 않았는지도 분명히 한다. 이 출판물은 정확도 향상, 검토 비용 감소 또는 개선된 사법 결과를 입증하지 않는다. 그러한 주장은 특정 조건에서 작동하는 시스템과 사용자의 증거를 필요로 한다.
개발자에게 즉각적인 가치는 더 정확한 설계 질문의 집합이다. 제도적 구매자에게는 제품이 무엇을 검토 가능하게 만드는지 따져 볼 방법이다. 영향을 받는 당사자에게 핵심 문제는 결정 뒤의 이유를 이해하고 이의를 제기할 수 있는지 여부로 남는다.
다음 사법 AI 시연을 평가하기 전에 이러한 구분을 염두에 두고 원 연구를 읽어라. 표시된 전제를 뒷받침하는 증거가 무엇인지, 시스템이 어떤 이의를 해결하지 못한 채 남기는지 물어라. 검토자가 뒷받침 기록을 잃지 않고 제안된 해석을 바꿀 수 있는지 확인하라. 초안 작성의 편의성과 향상된 검증을 구분하는 독립적 결과를 찾아라. Computable Due Process 제안은 그러한 평가를 위한 어휘를 제공하지만, 구현과 시험은 앞으로 남아 있다. 공급업체가 AI 생성 판결을 제시한다면, 그 증거와 결론을 연결하는 추론을 검토하게 해 달라고 요청하라. 검토자는 이견을 제기할 만한 정확한 단계를 찾을 수 있으며, 시스템은 수정 과정 전반에 걸쳐 그 이의를 보존할 수 있는가?



