Arun Subramanian의 법률 AI 경고: 효율성이 검증해야 할 변호사들을 약화시킬 수 있다
Arun Subramanian은 로펌의 정책과 교육이 있었음에도 연방법원 제출 서류에 부정확한 인용이 포함된 뒤 법률 AI에 관한 경고를 내놓았다. 맨해튼의 이 판사는 관련 변호사들에게 제재를 부과하지 않았다. 그러나 그의 결정은 이 사건을 단순한 초안 작성 실패 이상의 문제로 규정했다.
직접적인 문제는 인공지능 도구가 생성한 결과물을 검증하지 않은 데 있었다. 더 큰 문제는 미래에 그 결과물을 검증할 자격을 갖춘 사람이 누구인가에 관한 것이다. AI가 전통적으로 초급 변호사를 교육해 온 조사와 초안 작성 업무를 수행한다면, 로펌은 자체 검증 체계를 약화시킬 위험이 있다.
이러한 긴장은 이 판결을 한 건의 저작권 소송을 넘어 중요한 사안으로 만든다. 법률 AI는 더 빠른 조사, 짧아진 초안 작성 주기, 낮은 비용을 약속한다. 그러나 로펌이 변호사에게 허위 권위, 취약한 논리, 누락된 맥락을 식별하는 법을 가르치는 업무를 없애면, 이러한 이점은 부담으로 바뀐다.
Subramanian의 경고는 인간 감독에 관한 일반적인 가정에도 이의를 제기한다. 로펌은 단순히 모델 뒤에 변호사를 배치하고 절차가 안전하다고 선언할 수 없다. 검토자는 기계의 작업을 검증할 수 있는 충분한 경험, 시간, 독립성을 갖춰야 한다.
따라서 핵심 갈등은 변호사 대 AI가 아니다. 즉각적인 효율성과 유능한 변호사를 길러내는 더 느린 도제식 교육 사이의 갈등이다. 고객은 오늘 더 빠른 업무 결과를 받을 수 있지만, 내일은 신뢰도가 더 낮은 법률 전문직을 물려받을 수 있다.
Arun Subramanian의 법률 AI 경고가 실제로 바꾼 것
법원은 제재를 부과하지 않았음에도 AI 인용 실패를 더 근본적인 교육 및 감독 문제의 증거로 다뤘다.
분쟁은 뉴욕 남부 연방지방법원의 저작권 사건인 Hill v. Foundation Media LLC에서 발생했다. 스스로를 대리한 Lawand Hill은 Foundation Media가 배포된 음악 저작물과 관련된 저작권을 침해했다고 주장했다.
Subramanian은 치안판사의 권고를 채택한 뒤 사건을 기각했다. 그러나 그는 9월 22일자 명령에서 Hill의 이의 제기에 대한 Foundation Media의 답변에 포함된 인용문과 인용 하나를 별도로 문제 삼았다.
판사는 대표 변호사에게 답변 준비에 AI가 도움을 주었는지 밝히라고 명령했다. 또한 검증되지 않은 AI 사용이 문제의 자료를 만들어냈는지도 물었다. 공개된 법원 명령은 다툼이 된 참조 자료를 식별하고 해당 공개 요건을 명시한다.
이 절차적 세부 사항은 중요하다. Foundation Media는 본안 사건에서 승소했지만, 법원은 여전히 승소한 제출 서류의 신뢰성을 조사했다. 유리한 결과가 문서가 만들어진 방식에 대한 변호인의 책임을 없애지는 않았다.
Foundation Media의 변호사인 Cynthia Arato는 사과하며 오류를 Shapiro Arato Bach 소속 다른 변호사에게 돌렸다. 로펌의 진술에 따르면, 그 변호사는 최초 초안을 작성하고 제출 전에 문서를 최종 확정했다.
진술서는 해당 변호사가 로펌의 정책과 교육에 반해 행동했다고 밝혔다. 또한 AI가 생성한 인용을 검증하지 않은 일은 고립된 사례였으며 법원을 오도할 의도는 없었다고 설명했다.
보도된 사건 설명에 따르면, 이후 제출된 서류는 법률 AI 기업 Harvey의 도구들이 초안 작성 과정에 포함됐다고 밝혔다. Reuters가 보도한 바에 따르면 Harvey와 Foundation Media는 논평 요청에 즉시 응답하지 않았다.
현재 공개된 기록은 Harvey만이 오류를 일으켰다고 입증하지 않는다. 이는 AI 지원 업무가 충분한 인간 검증 없이 제출 서류에 반영됐음을 보여준다. 이 구분은 전문직 규정이 정한 대로 문서를 제출하는 변호사에게 책임을 남겨 둔다.
Subramanian은 설명을 검토한 뒤 제재 부과를 거부했다. 그의 절제는 승인을 의미하는 것으로 혼동되어서는 안 된다. 그는 이 사건을 경고로 묘사하며 AI가 생성한 법률 업무에는 세심한 정확성 검토가 필요하다고 강조했다.
따라서 이 결정은 법률 AI의 실수를 바라보는 틀을 바꿨다. 법원은 흔히 조작된 판례, 금전적 제재, 변호사 징계에 초점을 맞춰 왔다. Subramanian은 당면한 오류를 미래의 검토자를 양성할 수 있는 법조계의 역량과 연결했다.
그는 로펌이 AI 지원 없이 최초 초안을 작성하도록 요구하는 방안을 고려할 것을 제안했다. 이 제안은 의도적으로 불편하다. 가치 있는 학습의 일부가 AI가 없애도록 설계된 업무 과정에서 일어나기 때문이다.
이 생각은 인용 사건을 조직적 문제로 바꾼다. 정책이 존재하지만 검증되지 않은 제출 서류가 여전히 법원에 도달한다면, 로펌은 업무 흐름 설계, 감독, 인센티브를 검토해야 한다. 서면 규정만으로는 그 부담을 감당할 수 없다.
Arun Subramanian의 법률 AI 경고는 궁극적으로 제도적 기억에 관한 것이다. 로펌에는 소프트웨어가 설득력 있게 형식을 갖췄는지뿐 아니라 논증이 왜 성립하는지 이해하는 전문가가 필요하다.
인용 오류가 드러낸 감독의 공백
책임은 광범위하게 배정되지만 검증이 업무 흐름의 각 단계에 내장되지 않으면 인간 검토는 실패한다.
생성형 AI는 데이터의 패턴을 바탕으로 그럴듯한 다음 내용을 예측해 텍스트를 만든다. 답변에 세련된 인용문, 사건명, 정식 인용이 포함되더라도 기본적으로 진실을 검색해 가져오지는 않는다.
환각은 신뢰할 만한 사실적 근거가 없는 자신감 있는 결과물이다. 법률 실무에서는 존재하지 않는 사건, 변형된 인용문, 또는 잘못된 명제를 뒷받침하는 실제 판결의 형태로 나타날 수 있다.
이러한 오류는 전문적인 업무 결과처럼 보이기 때문에 위험하다. 조작된 인용에는 그럴듯한 법원명, 날짜, 판례집 참조, 법률 원칙이 포함될 수 있다. 표면적인 완성도는 부실한 검토도 충분하다는 인상을 줄 수 있다.
Foundation Media 사건은 감독이 어떻게 분절될 수 있는지 보여준다. 한 변호사가 도구를 사용하고, 다른 변호사가 초안을 검토하며, 대표 변호사가 결과물에 서명하거나 제출할 수 있다. 각자는 누군가 다른 사람이 출처 확인을 마쳤다고 가정할 수 있다.
이 구조는 검증 공백을 만든다. 정책은 정확성을 요구할 수 있지만, 인용된 모든 권위를 열어 보고 모든 인용문을 원문과 대조하는 문서화된 절차의 책임자는 아무도 없을 수 있다.
미국변호사협회는 Subramanian의 판결 이전에 이 문제를 다뤘다. 협회의 AI 윤리 의견서는 변호사가 역량, 기밀성, 의사소통, 감독, 성실성, 합리적인 수임료를 고려해야 한다고 말한다.
소프트웨어가 최초 초안을 만들더라도 이러한 의무는 사라지지 않는다. 변호사는 법원에 한 진술과 고객에게 제공한 조언에 대해 계속 책임을 진다.
검증은 사건의 존재 여부를 확인하는 것 이상을 요구한다. 검토자는 해당 판결이 여전히 유효한 법인지, 관련 관할에서 적용되는지, 정확히 그 주장에 근거를 제공하는지를 판단해야 한다.
모델이 정확한 자료와 미묘한 허구를 섞을 때 절차는 더 어려워진다. 대부분 정확한 조사 내용으로 구성된 서면은 검토자의 경계심을 낮출 수 있다. 몇몇 허위 요소는 그 밖의 신뢰할 만한 작업물 안에 숨을 수 있다.
기업용 법률 제품은 통제된 데이터 소스, 권위 자료 링크, 보안 설정, 통합 조사 시스템을 통해 일부 위험을 줄일 수 있다. 그러나 제품 설계가 변호인의 전문적 책임을 공급업체로 이전할 수는 없다.
중요한 질문은 도구에 법률 산업용이라는 라벨이 붙어 있느냐가 아니다. 유능한 변호사가 그 결과 분석을 재현하고, 검토하고, 방어할 수 있도록 업무 흐름이 설계되어 있느냐이다.
선임 변호사들 역시 정교하거나 지속적으로 유용해 보인다는 이유로 시스템을 신뢰하는 경향인 자동화 편향에 저항해야 한다. 반복적으로 좋은 결과물이 나오면 예외적인 오류를 발견하기가 더 어려워질 수 있다.
건전한 절차는 감사 추적을 보존해야 한다. 어떤 도구가 사용됐는지, 어떤 업무를 수행했는지, 누가 결과물을 검증했는지, 어떤 1차 출처가 최종 문서를 뒷받침했는지를 기록해야 한다.
로펌은 업무별로 서로 다른 통제를 적용할 수 있다. 내부 회의를 요약하는 일은 사건의 승패를 좌우하는 신청서를 작성하는 일과 위험이 다르다. 필요한 검토 수준은 오류의 결과가 클수록 높아져야 한다.
고위험 업무에는 출처 수준의 확인, 명확한 검토자 배정, 초안에 이의를 제기할 충분한 시간이 필요하다. 또한 생성된 텍스트에 의존하지 않고 변호사가 논리를 재구성해야 할 수도 있다.
마지막 단계는 인용 확인만으로 모든 실패를 식별할 수 없기 때문에 중요하다. 서면은 실제 판례를 정확히 인용하면서도 불리한 권위를 누락하거나, 기록을 오해하거나, 고객에게 해가 되는 전략을 추구할 수 있다.
Subramanian의 대응은 처벌보다 감독을 앞세운다. 법원은 로펌의 설명과 추가 안전장치를 받아들였지만, 그 경고는 다음 촉박한 제출 상황에서도 그 안전장치가 작동할지를 묻는다.
시험대는 운영에 있다. 정책은 변호사들이 마감 기한, 고객 압박, 비용 절감 요구 속에서도 이를 따를 수 있을 때에만 가치가 있다.
효율성의 거래가 법률 도제 교육을 위협한다
AI는 로펌이 과거 초급 업무가 길러낸 판단력을 대체하기도 전에 초급 업무를 없앨 수 있다.
초급 변호사들은 전통적으로 반복을 통해 배운다. 기록을 읽고, 권위 자료를 추적하고, 초안을 비교하며, 수정을 받고, 경험 많은 변호사가 법률 원칙을 고객 조언으로 전환하는 방식을 관찰한다.
이 업무의 상당 부분은 느리다. 전통적인 로펌 모델에서는 비용도 많이 든다. 생성형 AI는 바로 이러한 조사, 검토, 초안 작성 업무를 겨냥한다.
효율성의 논리는 이해하기 쉽다. 시스템은 몇 분 만에 연표를 만들고, 문서를 요약하고, 계약 문구를 비교하거나, 초안을 작성할 수 있다. 그러면 변호사는 전략과 고객 관계에 더 많은 시간을 쓸 수 있다.
이러한 결과는 가능하지만 자동으로 보장되지는 않는다. 일상 업무를 없앤다고 해서 초급 변호사에게 더 나은 업무가 주어지는 것은 아니다. 로펌은 단지 이들의 시간을 줄이거나, 역할을 좁히거나, 평가할 경험이 부족한 결과물을 감독하도록 요구할 수 있다.
법률 도제 교육에는 교육자들이 때때로 인지적 마찰이라고 부르는 것이 포함된다. 학습자는 불확실성을 헤쳐 나가고, 선택을 하며, 막다른 길을 마주하고, 피드백을 받는다. 이러한 노력은 문제에 대한 정신적 모형을 구축한다.
AI는 업무와 함께 이러한 고투도 압축한다. 초급 변호사가 독자적인 견해를 형성하기 전에 세련된 초안이 도착한다. 그러면 편집이 구성 작업을 대신해 기본 학습 활동이 된다.
편집은 가치 있는 기술을 가르칠 수 있지만, 편집자가 빠졌거나 잘못된 것을 알아차릴 때에만 그렇다. 초보자는 결함 있는 전제, 불리한 선례, 전략적 양보를 놓친 채 문구만 개선할 수 있다.
이것이 AI 변호사 교육 위험의 역설이다. 로펌은 초급 변호사가 기계의 결과물을 검증하기를 바라지만, 자동화는 검증을 가르치는 경험을 줄인다.
Subramanian이 일부 최초 초안을 AI 없이 작성하도록 로펌에 요구하라고 제안한 것은 이 역설을 직접 겨냥한다. 이는 변호사가 생성된 결과물과 자신의 작업을 비교하기 전에 조사하고, 구성하고, 추론해야 하는 보호된 실습 환경을 만든다.
이 접근법에는 비용이 따른다. 고객은 소프트웨어가 더 빨리 초안을 만들 수 있을 때 수작업 비용을 부담하고 싶어 하지 않을 수 있다. 파트너들 역시 까다로운 사건을 진행하는 동안 청구할 수 없는 교육에 반대할 수 있다.
그러나 그 비용은 이미 존재한다. 전통적인 도제 교육은 흔히 이를 교육이라고 부르지 않은 채 고객 업무 안에 훈련을 포함했다. AI는 생산과 전문성 개발을 분리함으로써 그 보조금을 가시화한다.
로펌은 이제 의도적인 교육 예산과 측정 가능한 역량 기준이 필요하다. 더 이상 신입 변호사들이 더는 자신들의 업무로 오지 않는 일을 통해 판단력을 자연스럽게 습득할 것이라고 가정할 수 없다.
법조계 전반도 비슷한 결론에 도달했다. 2026년 판단력 파이프라인 분석은 AI가 어떤 업무를 존재하게 하는지, 그리고 미래의 변호사들이 수탁자적 주의, 경영 판단, 고객 신뢰를 어떻게 발전시키는지를 바꾼다고 주장한다.
이 분석은 절차적 산출과 맥락적 판단을 구분한다. AI는 문서를 구성하고 패턴을 인식할 수 있다. 그러나 어떤 사실이 중요한지, 고객이 어느 수준의 위험을 감수할 수 있는지, 조언에 대한 책임을 누가 지는지는 변호사가 판단해야 한다.
싱가포르 대법원장 Sundaresh Menon도 2026년에 관련 우려를 제기했다. 그는 기초적인 조사와 분석 업무가 대체되면 변호사들의 AI 생성 결과물 검증 능력이 약화될 수 있다고 경고했다.
그의 후속 교육 연설은 AI가 상당히 가속할 수 있는 법률 업무와 젊은 변호사들이 직면한 고용 압박을 설명했다. 또한 판단력, 윤리성, 책임감, 분별력, 성실성을 더욱 중시해야 한다고 촉구했다.
이러한 경고가 모든 비효율적 관행을 유지해야 한다는 뜻은 아니다. 이전 세대가 물량을 통해 배웠다는 이유만으로 문서 검토가 계속 느려서는 안 된다.
대신 로펌은 각 업무가 무엇을 가르쳤는지 파악하고, 그 학습을 의도적으로 재구성해야 한다. 조사 업무는 출처 평가를 가르쳤다. 초안 작성은 구조를 가르쳤다. 고객 접촉은 불완전한 정보 아래에서의 판단을 가르쳤다.
새롭게 설계된 도제 과정은 독립적인 1차 초안 작성, 감독하의 AI 결과 비교, 시뮬레이션, 출처 검증 훈련, 직접적인 고객 접촉을 결합할 수 있다. 각 요소는 명확히 정의된 전문 역량을 목표로 해야 한다.
선임 변호사의 검토도 더 가시적으로 이뤄져야 한다. 파트너가 AI 보조 초안을 조용히 수정하면 고객은 보호할 수 있지만, 신입 변호사는 아무것도 배우지 못한다. 피드백은 결과물이 왜 실패했는지와 검토자가 어떻게 문제를 발견했는지를 설명해야 한다.
로펌은 청구 가능 시간이나 도구 사용량뿐 아니라 입증된 역량을 통해 발전을 측정해야 한다. 신입 변호사는 독립적으로 조사하고, AI 결과물을 검증하며, 불확실성을 설명하고, 권고안을 옹호할 수 있어야 한다.
검증된 선례, 검토 메모, 결정의 근거를 보존하는 검색 가능한 내부 지식 시스템은 이 과정을 지원할 수 있다. 목표는 수동적인 저장이 아니라 감독된 학습을 강화하는 검색 가능한 지식 기반이다.
따라서 가장 강력한 법률 AI 워크플로에는 도구를 닫아 두는 시간도 포함된다. 변호사들은 생성형 보조 장치 없이 추론할 수 있음을 입증할 기회를 얻은 뒤에야 이를 감독하라는 요구를 받아야 한다.
고객은 로펌이 통제하겠다고 약속한 위험을 떠안는다
법률 AI의 고객 위험은 허위 인용을 넘어 기밀성, 전략, 비용, 미래 법률 대리의 품질까지 확장된다.
고객이 AI 사용을 요청하는 데에는 합리적인 이유가 많다. 더 빠른 처리, 더 적은 비용, 더 명확한 문서, 반복 업무에 투입되는 시간 감소를 원한다.
Subramanian은 이러한 압박을 인정했다. 동시에 문제가 발생할 경우 고객이 불리한 결과를 겪을 수 있다고 경고했다. 결함 있는 제출물이 청구를 약화시키거나 신뢰성을 훼손한다면, 초안 작성 비용이 낮아진다는 사실은 거의 위안이 되지 않는다.
눈에 보이는 위험은 지어낸 인용이다. 덜 눈에 띄는 위험은 결정적 사실, 절차상 쟁점 또는 사업상 결과를 놓치면서도 그럴듯하게 들리는 조언이다.
법률 대리는 단순히 문서를 생산하는 것 이상을 요구한다. 변호사는 고객의 목표를 이해하고, 가정에 이의를 제기하며, 기밀 정보를 보호하고, 때로는 고객이 선호하는 행동에 반대하는 조언도 해야 한다.
모델은 이러한 선택에 대한 전문가적 책임을 질 수 없다. 고객이 해당 기술을 요청했거나 공급업체가 법률 업무용 시스템으로 홍보했더라도, 이를 사용하는 변호사는 여전히 책임을 진다.
따라서 고객은 로펌이 AI를 사용하는지 여부만이 아니라 어떻게 사용할 것인지를 물어야 한다. 조사, 요약, 초안 작성, 계약 검토, 전략 자문은 서로 다른 결과를 초래한다.
또한 어떤 정보가 시스템에 입력되는지도 물어야 한다. 기밀 사실, 특권이 인정되는 커뮤니케이션, 개인정보, 상업적으로 민감한 문서는 제품의 보존 및 접근 통제에 부합하는 안전장치를 필요로 한다.
ABA의 지침은 변호사가 도구의 기능과 한계를 이해해야 한다고 명시한다. 또한 AI 사용을 고객 커뮤니케이션 및 기밀 유지 의무와 연결한다.
이 의무는 포괄적인 동의 조항을 복잡하게 만든다. 고객은 업무, 관련 데이터, 예상되는 이점, 이용 가능한 대안을 알지 못하면 AI 사용을 의미 있게 평가할 수 없다.
비용은 또 다른 긴장을 낳는다. AI가 업무에 필요한 시간을 줄인다면 고객은 절감 효과가 자신에게 돌아오기를 기대할 것이다. 로펌은 여전히 검토, 교육, 보안, 공급업체 거버넌스에 자금을 투입해야 한다.
이러한 비용은 실제로 존재하지만 투명해야 한다. 고객은 자동화된 산출물에 대해 가상의 수작업 시간을 지불해서는 안 된다. 로펌도 수익성을 유지하기 위해 필수 검토를 없애서는 안 된다.
시간당 청구 모델은 로펌을 양방향으로 압박할 수 있다. 효율성이 수익을 줄일 때 자동화를 저해할 수 있다. 반대로 고객이 엄격한 예산을 부과할 때 과도한 자동화를 부추길 수도 있다.
대체 수수료 구조가 그 자체로 품질 문제를 해결하지는 않는다. 정액 수수료는 효율성을 보상할 수 있지만, 업무 계약에서 산출물과 통제 장치를 정의하지 않으면 최소한의 검토도 보상할 수 있다.
더 나은 계약은 절차를 다룬다. 승인된 사용 방식, 기밀성 보호, 검증 의무, 공개 기대치, 특정 업무에 고객 동의가 필요한지 여부를 명시할 수 있다.
고객은 누가 업무를 수행했는지도 알아야 한다. 모델이 기초를 생성하고 신입 변호사가 제한적인 검토를 했는데도, 선임 변호사가 숙련된 전문가가 직접 쟁점을 조사한 것처럼 암시해서는 안 된다.
그렇다고 고객이 법률 AI를 거부해야 한다는 뜻은 아니다. 책임 있는 사용은 접근성을 개선하고, 일상 업무를 가속하며, 그렇지 않으면 예산을 압박할 대규모 기록을 변호사들이 검토하도록 도울 수 있다.
반대편에는 사법 접근성 문제가 있다. 유용한 도구를 엄격하게 금지하면 많은 개인과 소규모 조직이 감당할 수 없는 고비용 절차를 유지하게 될 수 있다.
사법 논의는 점차 이러한 상충관계를 인식하고 있다. 과제는 검증되지 않은 결과물을 전문가적 판단으로 제시하지 않으면서 AI 보조 서비스를 더 널리 이용할 수 있게 만드는 것이다.
연방 규칙 체계는 기존 의무가 허위 AI 판례 출처 문제를 충분히 다루는지 검토하고 있다. 2026년 10월 규칙위원회 의제는 현행 Rule 11 기준이 이미 이 문제를 다루는지, 아니면 더 구체적인 대응이 필요한지를 논의한다.
법원 관행의 불일치는 불확실성을 낳기 때문에 이 논의는 중요하다. 일부 판사는 AI 사용 공개 또는 인증을 요구한다. 다른 판사들은 정확성, 역량, 합리적 조사에 관한 기존 의무에 의존한다.
전국적 규칙은 일관성을 만들 수 있지만, 공개만으로 품질을 보장할 수는 없다. AI 보조 표시가 된 제출물도 여전히 틀릴 수 있으며, 신중하게 검증된 AI 보조 제출물은 전문가적 의무를 완전히 충족할 수 있다.
가장 유용한 고객 보호 장치는 여전히 책임 있는 인간의 판단이다. 공개, 보안, 검증은 그 판단을 대체하는 것이 아니라 뒷받침해야 한다.
로펌과 고객이 다음으로 주목해야 할 것
다음 시험대는 법조계가 사법부의 경고를 측정 가능한 교육 및 검증 시스템으로 전환하는지 여부다.
첫 번째 신호는 법원 명령과 제재 결정에서 나올 것이다. 판사들은 기존 전문가 규칙만으로 충분한지, 그리고 어떤 실패가 금전적 제재, 회부 또는 공개 견책을 정당화하는지 판단하고 있다.
도구별 인증의 증가는 법원이 공개와 문서화된 검증을 선호한다는 것을 보여줄 것이다. 일반적인 정확성 의무에 계속 의존한다면, 로펌은 자체 통제 장치를 설계할 더 큰 책임을 지게 된다.
어느 경로도 근본 의무를 없애지는 않는다. 법원은 여전히 변호사들이 판례 출처, 인용문, 사실 진술, 선례와 주장 간의 연결을 검증하기를 기대할 것이다.
두 번째 신호는 로펌이 신입 교육을 어떻게 재설계하는지다. 프로그램이 독립적인 조사, 초안 작성, 출처 평가 없이 프롬프팅만 가르친다면 AI 교육을 발표하는 것만으로는 충분하지 않다.
유의미한 증거에는 보호된 비AI 업무, 감독된 비교 훈련, 시뮬레이션 프로그램, 역량 평가가 포함된다. 로펌은 선임 변호사가 AI 보조 업무에 대해 어떻게 피드백을 제공하는지도 설명해야 한다.
채용 패턴도 주목할 필요가 있다. 로펌이 새로운 도제 과정을 만들지 않은 채 초급 직위를 줄인다면 판단력 파이프라인은 좁아질 것이다. 그 결과는 가시화되기까지 수년이 걸릴 수 있다.
세 번째 신호는 고객 행동이다. 기업 법무 부서는 승인된 도구, 데이터 처리, 인력 배치, 청구, 공개를 다루는 외부 자문 변호사 지침을 점점 더 마련하고 있다.
고객이 효율성과 검증 가능한 안전장치를 모두 요구한다면, 로펌은 규율 있는 시스템을 구축할 상업적 이유를 갖게 된다. 고객이 속도와 비용에만 집중한다면 검증과 교육은 계속 자금 부족 상태에 머물 수 있다.
법률 AI 공급업체도 이러한 책임성을 지원해야 한다는 압박에 직면한다. 구매자들은 추적 가능한 출처, 권한 통제, 감사 로그, 안전한 데이터 처리, 권위 있는 조사 자료와의 통합을 찾게 될 것이다.
이러한 기능은 검토를 더 쉽게 만들 수 있다. 그러나 변호사가 고객의 목표를 이해했는지 또는 건전한 판단을 내렸는지를 판단할 수는 없다.
Hill 제출 건은 유용한 기준점이 된다. 보도에 따르면 해당 로펌에는 정책과 교육이 있었지만, 여전히 문제가 될 만한 내용이 법원에 도달했다. 미래의 안전장치는 형식적 규칙과 실제 행동 사이의 경로를 다뤄야 한다.
로펌은 명확한 책임 소재부터 시작할 수 있다. 모든 AI 보조 문서에는 출처 검증, 추론 검토, 기밀성, 최종 승인을 책임지는 특정 변호사가 있어야 한다.
그다음에는 그 업무의 증거를 보존해야 한다. 체크리스트는 제출 전에 선택된 체크박스가 아니라 실제 검토를 반영할 때만 유용하다.
교육은 오류를 전문가적 결과와 연결해야 한다. 신입 변호사는 조작된 인용문이 신뢰성, 고객 전략, 이후 제출물을 법원이 신뢰하려는 의지에 어떤 영향을 미칠 수 있는지 알아야 한다.
선임 변호사 역시 교육이 필요하다. 법리에 대한 경험이 모델의 행동 방식, 데이터 통제 또는 생성형 시스템의 실패 패턴에 관한 지식을 자동으로 제공하지는 않는다.
고객은 AI 보조 업무를 요청하기 전에 몇 가지 직접적인 질문을 할 수 있다:
어떤 업무에 AI를 사용하며, 어떤 업무는 사람이 주도하게 되는가?
모든 판례 출처와 인용문은 누가 검증하는가?
어떤 고객 정보가 시스템에 입력되는가?
제공업체는 해당 정보를 어떻게 저장하거나 재사용하는가?
AI는 인력 배치, 일정, 수수료에 어떤 영향을 미치는가?
도구가 오류를 생성하면 어떻게 되는가?
이러한 질문은 고객이 AI 전문가가 될 것을 요구하지 않는다. 로펌이 고객이 평가할 수 있는 방식으로 자신의 절차를 설명하도록 요구한다.
Subramanian의 경고는 법률 AI의 종말을 예측하지 않는다. 이는 지속적인 도입을 전제로 하며, 법조계에 그 숨은 비용을 직시하라고 요구한다.
효율성의 거래는 여전히 매력적이다. AI는 반복적인 노력을 줄이고 변호사에게 더 높은 가치의 업무를 위한 시간을 제공할 수 있다. 이러한 이점은 로펌이 절약한 시간의 일부를 감독과 학습에 재투자할 때만 유지된다.
더 어려운 질문은 그들이 실제로 그렇게 할 것인지다. 도제 과정을 대체 없이 자동화하는 법조계는 결국 자동화를 감독하는 데 필요한 판단력을 잃게 될 것이다.
아룬 수브라마니언의 법률 AI 경고는 로펌, 의뢰인, 법원, 그리고 공급업체에 실질적인 기준을 제시합니다. 이들의 시스템은 더 빠르게 문서를 만들어 낼 뿐인가요, 아니면 그 문서에 책임을 지고 나설 수 있는 변호사를 길러 내고 있나요?
AI 지원 법률 업무를 요청하기 전에, 누가 그 결과를 검증할지, 그리고 그 사람이 오류를 식별하는 법을 어떻게 배웠는지 물어야 합니다. 로펌에도 다음 단계는 분명합니다. 독립적인 조사, 체계적인 피드백, 그리고 출처 단위의 검토를 보호해야 합니다. 효율성은 이러한 안전장치를 없애는 데 쓰여서는 안 되며, 이를 뒷받침하는 데 활용되어야 합니다.
