Fair Work Commission의 AI 판결이 Hacker News를 강타했고, 진짜 실패는 검증에 있다

Fair Work Commission은 결함 있는 AI 법률 조언이 이미 관계자들이 반복적으로 승산이 없다고 경고한 사건을 계속 끌고 가는 데 일조한 뒤, 전직 ALDI 직원에게 비용을 부담하도록 명령했다. 이후 이 판결은 Hacker News에 공유됐고, 고위험 분쟁에서 범용 챗봇을 사용하는 문제를 둘러싼 더 큰 논쟁을 다시 불러일으켰다.

Sadnan Khan은 ALDI의 법률비용으로 1,230호주달러를 부담하라는 명령을 받았다. Deputy President Michael Easton은 Khan이 해고에 이의를 제기하는 과정에서 AI를 “준법률 자문가”처럼 활용했다고 밝혔다. commission ruling에 따르면, 생성된 자료는 잘못된 법적 쟁점에 초점을 맞췄고 반복된 경고에도 의미 있게 대응하지 못했다.

이 사건이 AI와 법률은 분리돼야 한다는 단순한 결론을 뒷받침하는 것은 아니다. 같은 보도는 여러 AI 에이전트와 출처 확인, 체계적인 검토 절차를 활용해 다른 고용 사건에서 승소한 또 다른 본인소송 수행자를 소개한다. 따라서 핵심 갈등은 인간의 판단과 기계의 지원 사이가 아니다. 편리한 답변과 검증된 작업 사이의 문제다.

이 구분은 Fair Work Commission이 이미 AI 지원을 받은 신청자가 늘고 있다고 보고 있기 때문에 중요하다. 위원회의 대응은 생성형 AI를 금지하지 않는다. 대신 새로운 요건은 사용자가 AI 지원 사실을 공개하고, 자료를 검증하며, 제출물에 대한 책임을 지도록 할 예정이다.

Fair Work Commission이 실제로 문제 삼은 것

위원회가 제재한 것은 AI를 사용했다는 사실 자체가 아니라, 검증되지 않은 출력물에 기반한 불합리한 행위였다.

전직 ALDI 직원인 Khan은 호주의 국가 노동심판기관에서 자신의 해고에 이의를 제기하려 했다. 그는 기자들에게 ALDI와 위원회가 인용한 사건들을 이해하기 위해 유료 버전의 ChatGPT를 사용했다고 말했다.

이는 이해할 수 있는 사용 사례다. 본인소송 수행자는 낯선 법률, 절차상 기한, 법적 권위, 그리고 경험 많은 변호인이 준비한 주장에 맞닥뜨릴 수 있다. 대화형 시스템은 어려운 문구를 풀어주고 몇 분 안에 문서를 정리하는 데 도움을 줄 수 있다.

문제는 지원이 대체로 바뀌면서 시작됐다. Khan이 생성한 답변은 법적으로 중요한 해고일이 아니라 해고의 효력이 발생한 시점에 초점을 맞췄다. 이 차이는 그의 신청을 뒷받침하는 관할권상 토대를 무너뜨렸다.

위원회 직원들은 그가 이 문제를 혼자 발견하도록 내버려 두지 않았다. 보도에 따르면 Easton은 Khan에게 사건이 성공할 실질적 가능성이 없다고 한 차례 이상 경고했다. 그는 또한 문제를 직접적인 언어로 설명하고, 절차를 계속하면 비용 부담에 노출될 수 있다고 경고했다.

Khan은 계속 진행했다. 그의 제출물은 여전히 결함 있는 추론에 의존했고, 일부 자료에는 생성된 텍스트에서 삭제했어야 할 지시문이 남아 있었던 것으로 전해졌다. 이러한 흔적은 제출물이 신중한 인간 검토를 거치지 않았음을 보여주는 분명한 신호였다.

이후 Easton은 드문 조치라고 설명한 방식으로 Khan에게 ALDI 법률비용의 일부를 지급하라고 명령했다. 이 금액은 ChatGPT를 열었다는 이유에 대한 벌금으로 제시되지 않았다. 핵심 결함이 지적된 뒤에도 절차를 계속함으로써 발생한 비용을 다룬 조치였다.

이 경계는 중요하다. 위원회는 AI가 정당한 청구권이 있지만 그렇지 않았다면 포기했을 사람들의 사법 접근성을 개선할 수 있다고 인정했다. 또한 숙련된 신청자는 여러 도구 중 하나로서 AI를 비판적으로 사용할 수 있다고 말했다.

결정문이 겨냥한 것은 다른 패턴이다. 사용자가 광범위한 질문을 던지고, 자신감 있는 답변을 받은 뒤, 유창한 문장을 신뢰할 수 있는 법률 분석으로 오인하는 경우다. 심판기관의 경고는 요청만 하면 또 다른 논거를 만들어낼 수 있는 끝없이 동조적인 시스템과 경쟁하게 된다.

Khan이 밝힌 대응은 이 위험을 잘 보여준다. 그는 항소를 고려 중이며, 다양한 견해를 얻기 위해 Claude, ChatGPT 및 여러 다른 에이전트에 자문할 계획이라고 말했다.

여러 모델을 사용하면 의견 차이를 드러낼 수 있지만, 모델들 사이의 일치는 답변을 검증해주지 않는다. 이들은 같은 잘못된 전제를 반복하거나, 유사한 공개 자료를 바탕으로 답하거나, 사용자의 프롬프트에 이미 담긴 표현을 강화할 수 있다.

법적 쟁점 역시 챗봇 다수결로 해결되지 않는다. 관련 법률, 구속력 있는 판례, 사실관계, 관할권, 절차 규칙이 답을 결정한다. 여러 개의 매끄러운 답변이 그 검증 사슬을 대체할 수는 없다.

HN discussion이 주목받은 이유는 개발자들이 이런 실패 양식을 알아보기 때문이다. 소프트웨어 팀은 일치하는 세 개의 모델 출력만으로 코드가 안전하다는 증거로 받아들이지 않는다. 법률 사용자에게도 그만큼 명시적인 검증 절차가 필요하다.

지금 AI 지원 사건이 늘어나는 이유

생성형 AI는 법률 문서처럼 보이는 제출물을 만드는 데 필요한 노력은 낮췄지만, 그것을 정확하게 만드는 데 필요한 노력은 낮추지 않았다.

Fair Work Commission이 의뢰한 연구에 따르면 사건 물량은 2023-24년부터 2024-25년 사이 40% 증가했다. 연구는 이 증가의 일부를 생성형 AI를 사용하는 신청자에게 돌렸다.

조사 대상 사건의 40%에는 AI를 사용한 소송 당사자가 포함됐다. 사용은 젊은 층과 본인소송 수행자에게 더 집중됐다. 그 집단의 4분의 3 이상이 ChatGPT를 사용했으며, 이들 사용자 중 60%는 무료 버전에 의존했다.

연구는 비원어민 영어 사용자가 원어민보다 AI를 사용할 가능성이 두 배 높다는 사실도 발견했다. 이는 단순한 환각 문제 서사가 놓치기 쉬운 접근성 차원을 보여준다.

사람들이 AI를 찾는 이유는 기존의 법률 지원을 받기 어려울 수 있기 때문이다. 낯선 용어를 해석해야 하거나, 정해진 기간 안에 대응해야 하거나, 전문가를 위해 작성된 문서를 이해해야 할 수 있다. 언어적·경제적 장벽은 서로를 더욱 악화시킬 수 있다.

생성형 AI는 빈 페이지의 부담을 없앤다. 구조를 제안하고, 결정을 요약하며, 메모를 공식적인 문장으로 바꾸거나, 심리에서 제기될 수 있는 질문을 시뮬레이션할 수 있다. 이런 기능은 사람이 기존 주장을 전달하는 데 도움을 줄 수 있다.

그러나 같은 인터페이스가 사용자가 원래 갖고 있지 않았던 주장을 만들어낼 수도 있다. 관련 없는 법리를 인용하거나, 관할권의 한계를 간과하거나, 다툼이 있는 사실을 확정된 사실처럼 다룰 수 있다. 그 결과물은 여전히 사용자의 근본적인 추론보다 더 전문적으로 보일 수 있다.

이는 비대칭적인 부담을 만든다. 이제 10페이지를 생성하는 데는 몇 분이면 충분하다. 하지만 모든 사실 주장, 인용, 인용문, 날짜, 법률 명제를 확인하는 데는 여전히 수 시간이 걸릴 수 있다.

그 부담은 신청자에게만 남지 않는다. 고용주는 대응해야 하고, 심판기관 직원은 진짜 쟁점을 가려내야 하며, 의사결정자는 오류와 관련 있는 제출물을 구분해야 한다. 생성 비용이 낮았던 신청서는 다른 모든 사람이 처리하기에는 비싸질 수 있다.

위원회는 Khan의 비용 부담 결정 이전에 이미 이 압박을 파악했다. 2026년 3월 AI guidance draft는 생성형 도구가 비현실적으로 낙관적인 예측을 통해 이유 없는 신청을 부추길 수 있다고 밝혔다.

또한 생성된 자료에는 존재하지 않거나 관련 없는 법률, 사건, 참조자료, 사실이 포함될 수 있다고 경고했다. 이러한 실패는 다른 당사자와 위원회 자체에 시간적·재정적 비용을 부담시킨다.

이 때문에 40% 증가는 사법 접근성 확대만으로 해석할 수 없다. 신청 건수 증가는 사람들이 정의에 도달할 실질적인 경로를 찾았다는 뜻일 수 있다. 동시에 취약한 근거를 가진 청구를 제기하는 마찰 비용이 낮아졌다는 뜻일 수도 있다.

두 효과는 함께 발생한다. 제출을 억제하는 데만 초점을 맞춘 규칙은 정당한 사건을 가진 사람들을 배제할 위험이 있다. 정확성을 무시하는 정책은 그에 따른 검토 비용을 고용주와 공공 시스템에 전가한다.

위원회의 과제는 접근 가능한 지원과 자동화된 과신을 구분하는 것이다. 문장이 기계적으로 생성된 것처럼 들리는지를 감지하는 방식으로는 이 구분을 신뢰성 있게 해낼 수 없다. 인간의 글쓰기와 AI 글쓰기는 점점 더 겹치고 있다.

대신 새 접근법은 책임성에 초점을 맞춘다. 사용자는 AI를 활용할 수 있지만, 그 사용 사실을 공개하고 결과 문서에 책임을 져야 한다. 이는 관련 질문을 “기계가 이것을 썼는가?”에서 “누가 이를 확인했고, 사실인가?”로 바꾼다.

이 정책은 AI 공급업체에도 간접적인 압력을 가한다. 범용 챗봇은 과제에 여러 개의 서로 다른 법적 질문이 포함돼 있어도 하나의 연속된 답변을 제공하는 경우가 많다. 그 인터페이스는 사용자가 관할권, 권위의 수준, 제출 기한, 증거 상태를 식별하도록 강제하는 경우가 드물다.

따라서 사람은 절차적 규율이 가장 중요한 순간에 편의성을 받는다. 인터페이스는 완성을 부추기지만, 법률 시스템은 불확실성, 유보, 증명을 요구한다.

Hacker News는 도구의 실패를 봤지만, 더 깊은 문제는 절차에 있다

AI 법률 조언을 신뢰할 수 없는 소프트웨어 의존성처럼 다룰 때 Hacker News의 논쟁은 더 유용해진다.

개발자들은 자신이 작성하지 않은 구성요소를 일상적으로 사용한다. 패키지가 성공적으로 설치되거나 그럴듯한 출력을 낸다는 이유만으로 안전하다고 가정하지 않는다. 출처를 점검하고, 동작을 시험하며, 작동할 수 있는 범위를 제한한다.

생성된 법률 분석에도 이에 상응하는 신뢰 모델이 필요하다. 언어가 아무리 정밀해 보이더라도 답변은 검증되지 않은 초안으로 시작해야 한다. 이후 모든 중요한 명제에는 사용자가 직접 열어보고 검토할 수 있는 출처가 필요하다.

Khan의 사건은 이 분리가 무너진 사례였다. AI 출력은 초안이 아니라 권위 있는 근거가 된 것으로 보인다. 그렇게 되면 각각의 새 답변은 그의 법적 지위를 강화하지 않은 채 확신만 강화할 수 있다.

이 효과는 챗봇이 사용자의 프레이밍을 따라갈 때 특히 위험하다. 프롬프트가 고용주가 잘못된 해고일을 사용했다고 전제하면, 모델은 그 전제를 중심으로 주장을 구성하도록 도울 수 있다. 적용 법률이 다른 질문을 던진다는 점을 결코 식별하지 못할 수도 있다.

법학 교수 Genevieve Grant는 관련 위험을 아첨적 성향으로 설명했다. 모델은 주장이 실제로는 가치가 없는데도 사용자에게 타당성이 있다고 믿게 할 수 있다. 따라서 비전문적인 프롬프트는 단정적으로 들리는 비전문적인 결과를 낳을 수 있다.

문제는 더 나은 문장으로 해결되지 않는다. 사실, 법적 질문, 권위 있는 근거, 결론을 분리하는 작업 흐름으로 해결된다.

책임 있는 사용자는 먼저 원본 문서에서 사실관계의 시간표를 구성해야 한다. 각 날짜는 통지서, 이메일, 계약서 또는 심판기관 기록을 가리켜야 한다. 시간표에 대한 모든 이견은 계속 보이도록 남겨둬야 한다.

그다음 사용자는 답을 전제하지 않고 법적 질문을 진술해야 한다. Khan의 사건에서는 적용 법률이 어떤 날짜를 해고일로 인정하는지 확립하는 것이었다. 신청을 가장 잘 유지해주는 날짜를 방어하라고 모델에 요청하는 일이 아니었다.

다음으로, 인용된 모든 판결과 법률 조항을 직접 열어봐야 한다. 사용자는 해당 권위가 실제로 존재하고, 관련 관할권에 적용되며, 명시된 명제를 실제로 뒷받침하는지 확인해야 한다.

마지막으로 사용자는 가장 강력한 반대 해석을 기준으로 주장을 시험해야 한다. 신청자가 선호하는 사건만 확장하는 도구는 확신 생성기가 된다. 치명적인 약점을 식별하는 도구는 중단하기로 하는 결정을 포함해 더 나은 결정을 뒷받침할 수 있다.

이는 생성된 요약이 원본 자료와 연결된 상태로 유지되는 문서화된 지식 워크플로와 닮아 있습니다. 가치는 단순히 텍스트를 더 빠르게 생산하는 데서가 아니라 추적 가능성에서 나옵니다.

대조적인 Gregory Baker의 사례는 이 점을 구체적으로 보여 줍니다. Macquarie University의 컴퓨터 과학 강사인 Baker는 AI 에이전트 팀의 도움을 받아 새로운 임시 고용 규정에 성공적으로 이의를 제기한 최초의 인물이 된 것으로 전해집니다.

그는 ChatGPT를 변호사를 대체하는 도구로 설명하지 않았습니다. 대신 이 작업을 소프트웨어 개발 프로젝트로 설명했습니다. 그의 심판원 제출 서류는 리포지터리 안의 소스 코드처럼 기능했고, 빌드 프로세스가 인용과 논리적 일관성을 점검했습니다.

Baker는 반대신문 준비에도 ChatGPT를 사용했습니다. 다만 구두 심리는 여전히 어려웠고 예상대로 전개되지 않았다고 인정했습니다. AI는 준비에 도움을 주었지만, 훈련된 대리인과 맞서는 불리함까지 없애지는 못했습니다.

그의 경고는 명확했습니다. 충분한 맥락이나 정보 없이 ChatGPT에게 신탁처럼 행동하라고 요청하면 끔찍한 결과가 나왔습니다. 이 관찰은 단순한 성공 대 실패의 비교가 시사하는 것보다 Khan 결정과 더 밀접하게 맞닿아 있습니다.

두 사례 모두 생성형 시스템을 사용한 본인 소송 수행자와 관련됩니다. 결과가 갈린 이유는 한 워크플로가 출력을 검증해야 할 자료로 다룬 반면, 다른 쪽은 결정적 쟁점이 이미 설명된 뒤에도 생성된 답변에 의존했기 때문입니다.

Baker의 방법조차 낭만화해서는 안 됩니다. 기술적으로 숙련된 사용자는 잘못된 법적 전제를 여전히 담고 있는 정교한 검증 체계를 만들 수 있습니다. 자동화된 인용 검증은 출처가 존재한다는 사실을 확인할 뿐, 법원이 그 출처에서 도출된 주장을 받아들일 것이라는 보장은 하지 않습니다.

마찬가지로 한 에이전트를 다른 에이전트의 비판자로 지정하더라도, 둘은 유사한 훈련 데이터와 사각지대를 공유할 수 있습니다. 모델 간의 겉보기 독립성은 독립적인 추론을 보장하지 않습니다.

따라서 Hacker News 독자를 위한 유용한 교훈은 "챗봇이 아니라 에이전트를 사용하라"보다 더 제한적입니다. 고위험 AI 활용에는 증거 아키텍처, 명시적인 실패 점검, 그리고 언제 전문 조언이 필요한지 알아볼 수 있는 사람이 필요합니다.

공개 규정은 책임을 다시 신청인에게 돌린다

Fair Work Commission은 AI 지원을 허용하는 한편, 사용자가 생성된 오류의 책임을 부인하기는 더 어렵게 만들고 있습니다.

2026년 8월 24일, 위원회는 절차에서의 생성형 AI 활용을 규율하는 새 요건을 발표했습니다. 이 규정은 10월 20일부터 시행되며, 신청서와 답변서 양식도 그 날짜까지 업데이트됩니다.

공식 AI 사용 규정은 세 가지 핵심 의무를 정합니다. 문서 준비에 생성형 AI가 언제, 어떻게 도움을 주었는지 설명해야 합니다. 또한 해당 문서가 정확하고 관련성이 있는지 확인해야 합니다.

증인 진술서와 선언문에는 추가적인 보호 장치가 적용됩니다. 사용자는 자료가 자신의 지식에서 나온 것이며 자신의 표현을 반영하고, 자신이 아는 한 사실임을 확인해야 합니다.

이 요건은 두 가지 정책적 극단을 피합니다. 위원회는 본인 소송 수행자가 절차를 이해하는 데 도움을 줄 수 있는 기술을 금지하지 않습니다. 동시에 AI 사용을 날조되거나 관련 없는 자료에 대한 변명으로 받아들이지도 않습니다.

공개는 의사결정자에게 유용한 맥락을 제공하지만 정확성을 보장하지는 않습니다. 신청인은 AI 사용 사실을 솔직하게 밝히고도 잘못된 주장을 제출할 수 있습니다. 실질적으로는 검증 의무가 더 큰 비중을 가집니다.

규정은 문서 유형마다 위험이 다르다는 점도 인정합니다. AI의 도움을 받은 서면 제출 개요는 생성된 증인 증거와 동일하지 않습니다. 증인 진술서는 개인적 지식을 나타내므로, 기계가 만들어 낸 세부사항은 증거 기록을 직접 훼손할 수 있습니다.

개인정보 보호 역시 또 다른 우려입니다. 사용자는 고용계약서, 의료 정보, 직장 내 민원 또는 동료에 관한 세부사항을 공개 AI 시스템에 붙여 넣을 수 있습니다. 위원회의 안내는 보안을 보장하지 못할 수 있는 도구에 사건 관련 개인정보나 기밀 정보를 제공하지 말라고 경고합니다.

이는 리걸테크 제공업체에 부담을 만듭니다. 유용한 제품은 텍스트 상자 아래에 면책 문구를 표시하는 것만으로는 충분하지 않습니다. 기밀 데이터, 출처 이력, 관할권, 각 주장에 대한 상태를 통제할 장치가 필요합니다.

법률 보조 도구는 사용자가 제공한 사실과 모델의 추론을 구분해야 합니다. 인용된 모든 법적 근거로 연결되는 링크를 보존하고, 출처를 검색할 수 없을 때 경고해야 합니다. 완성도 높은 제출 서류를 만들기 전에 불확실성을 드러내야 합니다.

제품은 절차적 위험도 인식해야 합니다. 심판원이 경고를 내렸다면, 시스템은 같은 주장을 더 강하게 표현한 버전을 단순 생성해서는 안 됩니다. 그 경고가 청구를 무력화하는지 물어보고, 적절한 경우 자격 있는 법률 지원을 권해야 합니다.

그럼에도 어떤 인터페이스도 사용자의 책임을 없앨 수는 없습니다. 사람들은 경고를 무시하거나, AI 사용을 숨기거나, 원하는 답을 낼 때까지 시스템에 프롬프트를 반복할 수 있습니다. 따라서 위원회에는 교육과 함께 집행도 필요합니다.

Khan에 대한 비용 부담 명령은 집행의 한 신호를 제공합니다. 많은 Fair Work Commission 사건에서 비용은 여전히 이례적이므로, 이 명령은 본인 소송 수행 신청인에게도 지속적이고 불합리한 행위가 결과를 초래할 수 있음을 보여 줍니다.

이 결정이 AI 실수에 대한 자동 책임을 만든다고 말하는 것은 과장입니다. 보도된 판단 이유는 명확한 경고 이후에도 Khan이 계속한 행위에 초점을 맞췄습니다. 한 번의 수정된 오류는 승산 없는 사건을 반복적으로 밀어붙이는 것과 다릅니다.

공개를 완전한 해결책으로 취급하기에도 아직 이릅니다. 위원회는 신청인이 AI 사용에 대해 어느 정도의 세부사항을 제공해야 하는지 결정해야 합니다. 모델이 아이디어 구상에는 기여했지만 최종 문구에는 관여하지 않은 상황도 다뤄야 합니다.

형평성 문제도 있습니다. 숙련된 사용자는 출처 리포지터리를 유지하고, 점검을 실행하며, 여러 유능한 시스템을 활용할 수 있습니다. 다른 이들은 무료 도구에 의존하고 영어 능력이나 기술 지식이 제한적일 수 있습니다.

Baker는 강력한 프레이밍을 갖춘 최첨단 활용과 덜 정교한 모델을 통해 가능한 경험 사이에 상당한 격차가 있다고 추정했습니다. 그 격차는 기존의 불평등을 해소하기보다 재생산할 수 있습니다.

자동화된 법률 지원에 가장 끌리는 사람들은 이를 감사할 역량이 가장 부족할 수 있습니다. 공개가 또 하나의 복잡한 형식 요건이 된다면, 위원회가 돕고자 하는 바로 그 신청인들에게 부담을 줄 수 있습니다.

이 때문에 위원회는 템플릿과 교육 자료도 도입했습니다. 목표는 추상적인 경고를 신청인이 제출 전에 따를 수 있는 구체적인 행동으로 바꾸는 것입니다.

정책의 성공은 이러한 자료가 실제 행동을 바꾸는지에 달려 있습니다. 체크박스는 AI 사용을 기록할 수 있습니다. 그러나 누군가에게 구속력 있는 법적 근거와 그럴듯한 인용문을 구별하는 법을 가르치지는 못합니다.

Hacker News의 관심 이후 다음에 일어날 일

다음 시험대는 공개와 검증이 정당한 청구를 위축시키지 않으면서 결함 있는 제출을 줄이는지 여부입니다.

첫 번째 신호는 10월 20일에 나옵니다. Fair Work Commission이 양식을 업데이트하고 새 안내를 시행하는 날입니다. 관찰자들은 공개 내용이 의미 있는 세부사항을 제공하는지, 아니면 문서가 어떻게 작성됐는지 거의 드러내지 않는 일상적 선언으로 끝나는지 살펴봐야 합니다.

유용한 공개는 AI에 위임한 작업을 식별할 것입니다. 요약, 번역, 초안 작성, 인용 조사, 증인 진술서 준비는 서로 다른 위험을 수반합니다. 이를 하나의 범주로 취급하면 정책의 가치가 제한됩니다.

두 번째 신호는 시행 후 위원회의 업무량입니다. 이전 연구는 생성형 AI를 사건 수 40% 증가의 일부와 연결했지만, 건수만으로는 피해를 측정할 수 없습니다.

결함 있는 제출이 줄어든다면 위원회의 접근 방식을 뒷받침하게 됩니다. 반면 비원어민 영어 사용자나 본인 소송 수행 근로자의 신청이 전반적으로 감소한다면 다른 우려가 제기됩니다. 준수 비용이 정당한 신청인을 위축시키고 있음을 보여 줄 수 있습니다.

더 나은 지표로는 요청된 정정, 확인된 존재하지 않는 인용, 관할권상 하자로 기각된 사건, 검증되지 않은 출력과 연계된 비용 부담 명령 등이 있습니다. 이러한 지표는 문서 품질이 변하고 있는지 보여 줄 것입니다.

세 번째 신호는 후속 결정에서 나옵니다. 심판원은 합리적인 검증이 무엇을 의미하는지, 불완전한 공개를 어떻게 다룰지 설명해야 합니다. 이러한 결정은 일반적인 안내보다 실질적 경계를 더 명확히 규정할 것입니다.

문법 교정을 위해 AI를 사용하는 신청인은 사실 증거를 생성하는 사람과 같은 위치에 있지 않습니다. 모든 인용을 확인한 사용자는 허구의 법적 근거를 제출하는 사용자와 다릅니다. 향후 판결은 이러한 구분을 보존해야 합니다.

Khan의 가능한 항소 역시 즉각적인 시험대입니다. 그의 항소 기한은 보도에 따르면 10월 규정이 시작되기 전에 마감되므로, 새 공개 제도는 기존 사건을 결정하지 않습니다. 그러나 항소가 이루어진다면 원래 주장이 왜 실패했는지와 비용 부담이 왜 정당화되었는지를 명확히 할 수 있습니다.

Baker의 성공적인 청구에 대한 Macquarie University의 대응도 주목할 만합니다. 그의 사건은 체계적인 AI 지원이 본인 소송 수행자에게 유효한 청구를 식별하고 추진하는 데 도움을 줄 수 있음을 시사합니다. 항소나 이후 해석은 그 결과를 검증할 수 있습니다.

두 사례를 함께 보면 단순한 교훈을 허용하지 않습니다. Khan은 유창한 AI가 사용자를 결함 있는 전제에 계속 매달리게 할 수 있음을 보여 줍니다. Baker는 절제된 사용이 대리인을 둔 상대방을 상대로도 타당한 이의를 조직하는 데 도움이 될 수 있음을 보여 줍니다.

더 넓은 시장 역시 반응할 것입니다. 법률 AI 제공업체는 답변 엔진과 검증 가능한 작업 공간 사이에서 선택해야 합니다. 전자는 즉각적인 완성을 최적화합니다. 후자는 불확실성, 증거, 검토 이력을 보존합니다.

범용 시스템도 법률 질문에 관한 행동을 바꾸라는 압력을 받고 있습니다. 더 강력한 경고는 도움이 되지만, 상세한 답변 뒤에 표시되는 경고는 영향력이 작을 수 있습니다. 답변 자체가 면책 문구가 없애려는 확신을 만들어 낼 수 있기 때문입니다.

더 효과적인 시스템은 관할권을 묻고, 누락된 문서를 식별하며, 정보와 조언을 구분하고, 근거를 지어내는 일을 거부할 것입니다. 또 다른 자신감 있는 문단을 생성하는 것보다 출처를 살펴보는 일을 더 쉽게 만들 것입니다.

이런 변화 중 어느 것도 챗봇을 변호사로 만들지는 않습니다. 법적 분쟁은 사실, 증거능력이 있는 증거, 절차적 선택, 지역 규정, 전문적 판단에 따라 결정됩니다. 모델 출력은 전체 업무에 대한 책임을 떠안지 않으면서 그 일부를 지원할 수 있습니다.

이것이 Hacker News의 관심 뒤에 남는 핵심입니다. Fair Work Commission은 AI가 때때로 실수한다는 사실을 새로 발견한 것이 아닙니다. 저렴한 생성 기술이 모든 실수가 상대방의 시간을 추가로 소모시키는 기관과 만날 때 어떤 일이 일어나는지를 마주했습니다.

따라서 사용자는 고위험 제출에서 AI에 의존하기 전에 더 어려운 질문을 던져야 합니다. 설득력 있어 보이지만 치명적인 오류를 어떤 절차가 잡아낼 것인가? 답이 또 다른 챗봇이라면 검증 격차는 여전히 열려 있습니다. 답에 원본 문서, 지배적인 법적 근거, 적대적 검토, 책임 있는 인간의 판단이 포함된다면 AI는 신탁이 되는 대신 도구로 남을 수 있습니다.