Anthropic과 Alibaba의 증류 논란, AI 절도 논쟁을 스스로에게 돌리다

9월 14일

12분 분량

Anthropic은 Alibaba가 수백만 건의 상호작용을 통해 Claude의 능력을 추출했다고 비난하며, 인공지능에서 누가 누구에게서 학습할 수 있는지를 둘러싼 갈등을 격화시켰다. Anthropic과 Alibaba의 모델 증류 분쟁에는 불편한 역전이 담겨 있다. 최전선 연구소들은 이제 모델 출력을 가치 있는 자산으로 설명하는 반면, 출판사와 예술가들은 그러한 연구소가 자체 학습 자료를 어떻게 확보했는지 문제를 제기하고 있다.

직접적인 갈등은 한 모델이 다른 모델이 생성한 출력으로 학습하는 기법인 모델 증류에 관한 것이다. 증류는 흔하며, 종종 정당한 방식으로 사용된다. 하지만 접근 사실을 숨기거나 제한을 우회하고, 다른 기업의 시스템을 무단 학습 데이터 출처로 삼을 때 분쟁이 시작된다.

이 구분은 이제 훨씬 더 큰 논쟁의 중심에 놓여 있다. 미국 AI 연구소들은 자사의 역량을 복제했다는 의혹을 받는 해외 경쟁사로부터 보호받기를 원한다. 한편 창작자들은 보호 대상인 최전선 모델을 구축하는 데 쓰인 인간의 작업물에 대해서도 이에 상응하는 통제권을 원한다.

Anthropic의 Alibaba 비난, 사안을 더 키우다

Anthropic은 Claude를 겨냥한 활동이 일반적인 제품 사용이 아니라 조직적인 추출 캠페인이었다고 주장한다.

Anthropic에 따르면 Alibaba는 Claude에서 학습 자료를 생성하기 위해 수천 개의 사기 계정을 만들거나 통제했다. 회사는 처음에 약 2만5,000개 계정이 2026년 4월 말부터 6월 초 사이 수천만 건의 상호작용을 수행했다고 주장했다.

Anthropic은 이후 해당 활동에 대한 설명을 확대했다. 9월 위협 인텔리전스 보고서에 따르면 Alibaba의 캠페인은 하루 약 300만 건의 상호작용으로 정점에 달했다. 회사는 5월부터 7월까지 1억5,100만 건이 넘는 상호작용이 있었다고 밝혔다.

이 수치는 Anthropic이 제시한 것이며 독립적으로 검증되지는 않았다. Alibaba는 특정 트래픽 의혹을 다루는 이와 비슷한 수준의 상세한 설명을 공개적으로 내놓지 않았다.

일반 사용자 역시 AI 시스템과의 대화를 통해 데이터를 생성하기 때문에, 혐의의 규모는 중요하다. 개발자는 출력을 분석하고 응답을 비교하며 실험 중 생성된 사례를 활용할 수 있다. 그러한 행위가 자동으로 모델의 역량을 재현하려는 조직적 시도에 해당하는 것은 아니다.

Anthropic은 더 체계적인 활동을 설명한다. 회사의 주장에는 대규모 계정 네트워크, 자동화된 질의, 접근 은폐, 그리고 가치 있는 행동을 추출하기 위해 선택된 프롬프트가 포함된다. 표적이 된 역량에는 코딩, 추론, 도구 사용, 자율적 작업 수행이 포함된 것으로 전해진다.

그 결과로 나온 데이터는 다른 모델을 학습시키는 기계 생성 자료인 합성 학습 데이터가 될 수 있다. 학생 모델은 교사 모델의 내부 가중치를 받지 않는다. 대신 교사가 생성한 사례에서 패턴을 학습한다.

이 차이 때문에 “절도”라는 표현은 법적·기술적으로 논쟁의 여지가 크다. 증류가 반드시 원래 모델의 복제본을 만드는 것은 아니다. 아키텍처, 원천 데이터, 또는 완전한 내부 상태를 드러내지 않고도 선택된 행동을 이전할 수 있다.

따라서 Anthropic의 핵심 주장은 기법만큼이나 행위에 달려 있다. 회사는 운영자들이 기만적인 접근 방식을 사용하고 계약상 제한을 위반했다고 주장한다. 또한 상당한 연구와 컴퓨팅 투자로 개발된 독점적 역량을 노린 활동이었다고 주장한다.

이 때문에 Anthropic과 Alibaba의 증류 분쟁은 권한이 부여된 계정으로 Claude를 시험하는 연구자와는 다르다. 규모, 은폐, 의도, 그리고 후속 학습은 모두 해당 활동을 어떻게 평가해야 하는지에 영향을 준다.

정치적 맥락은 압박을 키웠다. Anthropic은 미국 정부가 해외의 모델 추출에 대한 대응을 확대하는 가운데 미국 당국자들에게 우려를 전달했다. 분쟁은 사적인 서비스 약관 충돌에서 국가 기술 정책의 문제로 옮겨갔다.

4월 백악관은 미국 최전선 시스템을 겨냥한 의도적이고 산업 규모의 증류는 용납할 수 없다고 설명하는 국가안보 메모를 발표했다. 이 메모는 기관들이 AI 기업과 함께 탐지, 완화, 시정 조치를 조율하도록 지시했다.

메모는 여전히 정당한 증류를 인정했다. 이 단서는 매우 중요하다. 이 기법 자체는 같은 기업 내부에서 수행되는 작업을 포함해 여전히 머신러닝의 일반적인 일부다.

정부의 논지는 미국의 연구를 약화시키거나 독점적 역량을 확보하려는 목적의 산업적 추출에 초점을 맞춘다. 그러나 메모나 Anthropic의 주장이 현행법상 금지된 모든 상호작용이 지식재산권 절도에 해당하는지 자동으로 결론내리는 것은 아니다.

이 불확실성은 이 사안의 첫 번째 큰 분열을 만든다. AI 연구소는 의심스러운 트래픽을 식별하고 계정을 종료할 수 있다. 그러나 더 광범위한 절도 주장을 입증하려면 소유권, 계약, 영업비밀, 그리고 모델 출력물의 법적 지위에 대한 더 명확한 답이 필요하다.

AI 모델 증류가 자동으로 절도가 아닌 이유

AI 모델 증류는 중립적인 학습 방식이며, 특정 캠페인이 남용으로 이어지는지는 권한과 접근 방식에 따라 결정된다.

전통적인 증류는 더 큰 교사 모델이 더 작은 학생 모델을 이끌도록 한다. 교사 모델은 확률, 라벨, 설명 또는 완성된 사례를 생성한다. 학생 모델은 그 출력을 활용해 자체 예측을 개선한다.

연구소는 이 과정을 적용해 자체 모델을 휴대폰이나 노트북에서 사용하도록 압축할 수 있다. 더 작은 시스템은 교사 모델 성능의 일부를 유지하면서 더 저렴하고 빨라질 수 있다.

개발자들은 적합한 인간 제작 데이터가 부족할 때도 합성 사례를 사용한다. 성능이 뛰어난 모델은 코딩 연습문제, 추론 과정, 분류, 질의응답 쌍을 생성할 수 있다. 이러한 사례는 이후 학습이나 평가를 지원할 수 있다.

이 워크플로 자체에 본질적으로 기만이 필요한 것은 아니다. 모델 소유자는 자체 시스템을 증류하거나 파트너에게 이를 허가할 수 있다. 오픈 모델 역시 특정 형태의 재사용을 허용하는 라이선스를 포함할 수 있다.

한 기업이 경쟁사의 제한된 서비스를 신고하지 않은 학습 엔진으로 사용할 때 갈등은 달라진다. 자동화된 운영자는 계정과 제공업체 전반에 걸쳐 요청을 분산할 수 있다. 또한 활동 제한을 피하면서 특정 기술을 겨냥하도록 프롬프트를 다양화할 수 있다.

이 방식은 시스템에 반복적으로 질의해 유용한 행동을 재현하려는 모델 추출과 닮아 있다. 추출은 여전히 원래 가중치를 드러내지 않을 수 있다. 그럼에도 경쟁 역량을 개발하는 데 필요한 시간과 비용을 줄일 수 있다.

최전선 연구소들은 이 가능성을 직접적인 경제적 위협으로 본다. 이들은 컴퓨팅, 데이터 준비, 연구, 안전성 테스트, 배포 인프라에 투자한다. 출력을 수집하는 경쟁사는 같은 개발 비용을 부담하지 않고도 그 가치의 일부를 가져갈 수 있다.

경쟁사는 관찰 가능한 행동에서 학습하고 있을 뿐이라고 반박할 수 있다. 소프트웨어 개발자들은 일상적으로 경쟁 제품을 시험한다. 연구자들은 공개된 결과를 재현한다. 사람들은 더 숙련된 실무자가 만든 사례를 연구하며 기술을 배운다.

AI 시스템은 기계가 막대한 규모로 사례를 수집하고 처리할 수 있다는 점에서 이러한 비유를 복잡하게 만든다. 사람이 Claude의 응답 몇 개를 읽는 일은 자동화된 네트워크가 매일 수백만 건을 생성하는 일과 같지 않다.

규모는 관찰을 인프라로 바꿀 수 있다. 다른 모델의 출력이 주요 학습 자원이 되면 교사 모델은 사실상 경쟁사를 위한 생산 파이프라인을 제공하게 된다.

그렇다고 규모만으로 소유권 문제가 해결되는 것은 아니다. API 제공업체는 서비스를 소유하며 계약상 조건을 부과할 수 있다. 출력에 표현된 모든 정보 패턴까지 소유하는지는 별개의 문제다.

법적 범주도 다르다. 어떤 캠페인은 저작권을 침해하지 않으면서 서비스 약관을 위반할 수 있다. 보호되는 표현을 복제하지 않으면서 사기나 무단 접근에 해당할 수 있다. 운영자가 비밀로 취급되는 정보를 의도적으로 취득했다면 영업비밀 규정이 적용될 수도 있다.

반대로 방정식을 풀거나 코드를 작성하는 모델의 일반적 역량은 저작권 있는 문장처럼 취급하기 어렵다. 저작권은 추상적인 기술, 방법 또는 아이디어가 아니라 특정 표현을 보호한다.

이 구분은 왜 비난이 종종 운영 세부 사항에 의존하는지 설명한다. 가짜 신원, 도난된 자격 증명, 프록시 서비스, 자동화된 계정 생성, 회피성 라우팅은 증류 자체보다 더 강한 위법행위 서사를 만든다.

4월 제출된 상원 증언은 증류를 모델 전체를 통째로 훔치는 방식으로 취급하지 말아야 한다고 경고했다. 증류는 더 큰 학습 파이프라인의 한 구성 요소일 뿐이라는 주장이었다.

이 관찰은 경쟁사가 단지 출력물을 수집하는 것만으로 최전선 시스템을 재현할 수 있다는 단순한 주장을 약화시킨다. 학습에는 여전히 엔지니어링, 데이터 선택, 컴퓨팅 자원, 평가, 그리고 독자적 작업이 필요하다.

그렇다고 경쟁상 이점이 사라지는 것은 아니다. 고품질 합성 데이터는 연구소가 약점을 겨냥하거나 선택된 역량을 개선하는 데 도움이 될 수 있다. 실질적인 질문은 특정 사례에서 얼마나 많은 가치가 이전되는가다.

그 답은 챗봇이 자신을 다른 제품이라고 식별하는 것만으로 추론할 수 없다. 모델은 학습 데이터나 프롬프트에 포함된 이름을 반복할 수 있다. 시스템들이 겹치는 공개 자료에서 학습했기 때문에 유사한 답변이 나올 수도 있다.

신뢰할 수 있는 귀속 판단에는 더 강한 증거가 필요하다. 제공업체는 트래픽 기록, 계정 관계, 결제 패턴, 프롬프트 군집, 그리고 활동을 특정 개발자와 연결하는 기술적 분석이 필요하다.

Anthropic은 자사의 조사 결과가 그 기준을 충족한다고 말한다. 외부 독자가 현재 접근할 수 있는 것은 회사가 공개한 설명이며, 전체 기초 데이터셋은 아니다. 이 주장은 사법적 판단으로 취급하지 않되 면밀한 검토를 받을 만하다.

이 검증 공백은 계속 드러나야 한다. Anthropic과 Alibaba의 분쟁은 제공업체가 의심스러운 사용을 어떻게 탐지할 수 있는지 보여주지만, 불법 증류를 판별하는 보편적 기준을 만들지는 않는다.

Anthropic과 Alibaba의 증류 분쟁은 이중 잣대를 드러낸다

업계는 모델 출력을 보호받아야 할 투자로 취급하길 원하면서도, 인간의 작업물을 흡수하는 행위는 적법하고 변형적일 수 있다고 주장한다.

이 모순이 Anthropic의 주장이 틀렸다는 것을 증명하는 것은 아니다. 피해자가 별도의 저작권 청구에 직면하더라도 사기성 접근은 여전히 문제 될 수 있다. 두 가지 논쟁적 관행은 서로를 상쇄하지 않고 공존할 수 있다.

이 긴장은 AI 기업들이 누가 원천 자료를 제공하는지에 따라 학습을 얼마나 다르게 설명하는지를 드러낸다. 최전선 모델이 책, 저널리즘, 이미지, 코드에서 학습할 때 개발자들은 변형성과 통계적 학습을 강조한다.

다른 모델이 최전선 모델의 출력에서 학습할 때 언어는 바뀐다. 기업들은 추출, 무임승차, 독점적 기능, 절도에 관해 이야기한다.

입력물에는 중요한 차이가 있다. 호스팅 모델은 접근 조건과 적극적인 보안 조치가 적용되는 통제된 서비스다. 공개 웹페이지는 폭넓게 접근할 수 있지만, 접근 가능성이 모든 상업적 이용에 대한 허가를 의미하지는 않는다.

모델 출력은 가치 있는 행동을 드러내도록 특별히 생성될 수도 있다. 소설, 사진, 신문 보도는 경쟁사의 표적 질의에 직접 답하기 위해서가 아니라 독자를 위해 만들어졌다.

하지만 창작자들은 자신이 투입한 막대한 비용을 분명히 지적할 수 있다. 기자는 사실을 취재하고, 작가는 표현을 다듬으며, 예술가는 이미지를 만들고, 프로그래머는 코드를 유지한다. 누군가 그 작업물을 만들기 위해 비용을 지불했기 때문에, 그 결과물은 가치 있는 학습 자료가 되기도 한다.

이 갈등은 2026년 6월 구체적인 형태로 드러났다. 약 400개 지역 및 지방 신문사를 대표하는 35개 출판사가 OpenAI와 Microsoft를 상대로 소송을 제기했다. 이들은 두 회사가 허가나 보상 없이 수십만 건의 기사를 복제했다고 주장했다.

출판사들의 저작권 소장은 더 광범위한 소송 물결의 일부이지만, 링크된 문서는 이전의 출판 관련 사건을 다룬다. 이들 소송 전반에서 원고들은 데이터 수집 관행과 보호받는 저작물을 상업적 모델 학습에 사용하는 문제를 모두 제기하고 있다.

6월 연합은 자동화 시스템이 접근이 제한된 자료를 포함한 뉴스 사이트를 크롤링하고 저작권 관리 정보를 제거했다고 주장했다. OpenAI와 Microsoft는 유사한 주장을 반박하며 모델 학습이 변형적 공정 이용에 해당한다고 방어해 왔다.

공정 이용은 저작권 보호 자료의 일부 무단 이용을 허용하는 사실관계별 법리다. 법원은 이용 목적, 저작물의 성격, 사용된 분량, 시장에 미치는 영향을 검토한다.

AI 기업들은 학습이 책과 기사를 원래 형태로 저장하거나 배포하는 것이 아니라고 주장한다. 대신 모델은 다양한 작업에서 새로운 결과물을 뒷받침하는 통계적 관계를 학습한다.

창작자들은 이러한 시스템이 보호받는 자료를 재현할 수 있고, 그 자료를 제공한 출처와 경쟁한다고 반박한다. 출판사들은 챗봇이 그러한 답변을 가능하게 한 보도로 독자를 보내지 않은 채 질문에 답할 수 있다고도 주장한다.

따라서 이 분쟁은 학습 과정의 복제에만 국한되지 않는다. 시장 대체, 출처 표시, 라이선스, 그리고 AI 제품이 신뢰할 수 있는 원천 자료를 생산하는 사업을 약화시키는지에 관한 문제다.

이 우려는 특히 지역 저널리즘에서 심각하다. 지역 신문은 기자들에게 공공 회의에 참석하고, 기록을 검토하며, 주민을 인터뷰하도록 비용을 지불한다. 신문이 사라진다면 챗봇은 그러한 보도를 독립적으로 되살릴 수 없다.

같은 경제적 논리는 Anthropic의 Alibaba 증류 주장에서도 나타난다. Anthropic은 경쟁사가 Claude의 답변을 이용해 일부 연구 및 학습 비용을 회피할 수 있다고 말한다. 출판사들은 AI 연구소가 저널리즘을 이용해 자체 데이터 생성 비용을 줄였다고 주장한다.

양측 모두 하위 시스템이 상위 원천을 유지하지 않으면서 가치를 가져간다고 주장한다. 또한 지속적인 추출이 독창적 생산에 자금을 대려는 유인을 약화시킬 수 있다고 말한다.

프런티어 연구소들은 이 비교에 대한 반론도 갖고 있다. 이들은 라이선스를 받은 자료, 퍼블릭 도메인 자료, 사용자가 제공한 데이터, 그리고 공정 이용 보호를 주장하는 방식으로 사용된 콘텐츠를 제시할 수 있다. 또한 웹 학습과 접근이 제한된 API에 대한 기만적 접근을 구분할 수도 있다.

이런 차이는 중요하지만 소유권의 역설을 없애지는 못한다. 업계에는 여전히 타인의 작업물에서 기계 학습을 하는 행위가 언제 용납될 수 없게 되는지를 설명하는 일관된 원칙이 없다.

“허가”는 가장 명확한 원칙을 제시하지만, 시장은 아직 이를 완전히 받아들이지 않았다. 학습 코퍼스에는 수많은 소유자의 자료가 포함되기 때문에 포괄적 라이선싱은 비용이 많이 들고 어렵다.

“변형성” 역시 충분한 설명이 아니다. 증류된 학생 모델은 교사 모델이 생성한 모든 답변을 재현하지 않는다. 프런티어 모델이 인간의 글쓰기에서 더 넓은 패턴을 학습하는 것처럼, 일반적인 능력을 배울 수 있다.

“보안”은 Anthropic의 가장 강력한 주장을 더 잘 설명한다. 운영자가 가짜 계정을 사용하거나, 자격 증명을 부정 취득하거나, 지역 차단을 우회했다면, 그런 행위는 결과물에서 학습하는 행위의 추상적 합법성과 별개로 판단할 수 있다.

이런 틀은 제공업체가 문서화할 수 있는 행위로 주장을 좁힌다. 또한 모든 경쟁적 테스트나 합성 데이터 사용을 절도로 간주하는 일을 피할 수 있다.

단점은 전략적이다. 핵심 문제가 기만적 접근이라면 정책은 기만적 접근을 겨냥해야 한다. 모델 학습의 모든 분쟁 형태를 지식재산 절도라고 부르면 정당한 연구까지 같은 범주로 묶일 수 있다.

Anthropic Alibaba 증류 논란은 AI 기업들에게 경계선을 더 신중하게 정의하도록 요구한다. 그렇지 않으면 창작자들은 정보가 기업 모델을 거친 뒤에만 왜 제한이 적용되는지 합리적으로 물을 수 있다.

워싱턴은 상업적 분쟁을 AI 정책으로 바꾸고 있다

미국은 주장된 모델 추출을 경제안보 문제로 다루고 있으며, 이는 계정 해지를 훨씬 넘어서는 결과를 낳는다.

백악관 메모는 정부 기관과 민간 기업에 산업 규모의 증류에 관한 정보를 공유할 것을 요청한다. 또한 제공업체와 인프라 전반에서 의심스러운 활동을 식별하도록 설계된 방어 체계를 지지한다.

9월 NSA, CISA, FBI는 중국 기반 6개 기업이 수백만 건의 요청을 통해 수십억 토큰을 추출했다고 공개적으로 비난했다. 지목된 기업에는 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI가 포함됐다.

이들 기관은 해당 활동이 적어도 2024년 말부터 Claude, GPT, Gemini, Grok을 포함한 미국 시스템을 겨냥했다고 밝혔다. 이들의 권고문은 해당 캠페인을 조직적이고 공격적이며, 중국 정부가 인지했을 가능성이 높은 활동으로 규정했다.

이는 여전히 정부의 주장이다. 공개적 귀속은 법원 절차를 대체하지 않으며, 지목된 기업들이 모든 주장에 대해 상세한 답변을 내놓은 것도 아니다.

중국 상무부는 이러한 비난을 거부했다. 상무부는 증류를 업계의 일반적 관행으로 설명하고, 미국 기업들도 연구와 학습 과정에서 중국 모델을 사용한다고 주장했다.

상무부는 나아가 미국이 이 분쟁을 AI 독점을 보호하는 데 이용하고 있다고 비난했다. 그 대응은 이 논란을 칩, 모델 접근, 수출 통제, 기술 표준을 둘러싼 더 큰 경쟁 속에 위치시켰다.

이 지정학적 틀은 세 가지 위험을 낳는다.

첫째, 기술적 관행이 근본적인 행위가 아니라 개발자의 국적에 따라 제한될 수 있다. 같은 학습 방식이 국내에서는 효율적인 연구로, 해외에서는 절도로 묘사될 수 있다.

둘째, 보안 규칙이 정당한 연구 접근을 줄일 수 있다. 독립 연구자들은 편향, 안전성 문제, 기억화, 성능 주장을 검증하기 위해 상업용 시스템을 시험해야 한다. 공격적인 탐지 시스템은 체계적인 감사를 추출 행위로 오인할 수 있다.

셋째, 정책이 AI 시장을 분절시킬 수 있다. 제공업체들은 이미 위치와 고객 유형에 따라 접근을 제한한다. 더 광범위한 통제는 분리된 모델 생태계, 지역별 클라우드 인프라, 경쟁하는 평가 기준을 부추길 것이다.

정부가 우회에 우려를 갖는 것은 정당하다. 고객이 재판매업체와 도난당한 자격 증명 뒤에 숨는다면 제공업체는 안전 조건이나 무역 제한을 집행할 수 없다.

그러나 제안된 대응책은 새로운 문제를 만들 수 있다. 제공업체는 의심 이용자를 더 성능이 낮은 모델로 조용히 연결하거나 응답을 변경할 수 있다. 그런 방식은 평가 결과를 오염시키고 시스템 행동을 해석하기 어렵게 만들 수 있다.

제공업체 간 모니터링은 개인정보와 경쟁 관련 문제도 제기한다. 분산된 캠페인을 탐지하려면 클라우드 플랫폼과 연구소가 신원, 결제 정보, 프롬프트, 트래픽 패턴을 연계해야 할 수 있다.

그런 협력은 보안을 개선할 수 있지만 경계가 필요하다. 사용자는 반복적으로 기술 질문을 제출했다는 이유만으로 불투명한 업계 전반의 위험 점수 대상이 되어서는 안 된다.

집행 단계 역시 중요하다. 계정 정지는 계약상 구제 수단이다. 민사 소송에는 법적 청구와 증거가 필요하다. 수출 통제, 제재, Entity List 제한은 훨씬 더 광범위한 결과를 초래한다.

정부 관계자들은 증류가 지식재산 절도로 이어질 경우 제재가 여전히 가능하다고 시사했다. 그러나 그러한 결론에 이르는 기준은 아직 형성 중이다.

이러한 불확실성은 기업 구매자를 불편한 위치에 놓는다. 제3자 모델을 통합하는 기업은 제공업체가 학습 데이터를 합법적으로 확보했는지, 그리고 접근이 계속 가능할지를 알아야 한다.

데이터와 모델 구성요소의 출처를 기록하는 프로비넌스는 조달 문제가 되고 있다. 구매자는 모든 학습 사례를 감사할 수는 없지만, 더 명확한 정책과 문서화된 통제를 요구할 수 있다.

개발자들도 합성 데이터를 사용할 때 비슷한 문제에 직면한다. 팀은 어떤 모델이 데이터를 생성했는지, 어떤 라이선스 또는 서비스 약관이 적용됐는지, 제공업체가 경쟁 시스템 학습을 허용하는지를 기록해야 한다.

그 기록이 모든 법적 문제를 해결하지는 못한다. 하지만 생성된 결과물을 소유자 없는 자료로 취급하지 않고, 팀이 권한을 고려했음을 보여줄 수 있다.

지식 노동자들도 이 분쟁에 이해관계를 갖고 있다. AI 서비스에 입력된 기밀 문서는 보존, 검토 또는 무단 하위 이용을 통해 노출될 수 있다.

개인 AI 지식 베이스는 원천 자료를 더 명확한 통제 아래에 둘 때 불필요한 공개를 줄일 수 있다. 더 넓은 교훈은 AI 워크플로 전반에서 데이터 출처와 접근 조건이 중요하다는 점이다.

정책은 이런 실질적 초점을 유지해야 한다. 가장 강력한 규칙은 금지된 행위를 명확히 정의하고, 정당한 감사를 보호하며, 모든 모델 유사성이 추출을 증명하는 것처럼 가장하지 않을 것이다.

AI 절도 논쟁의 향방을 보여줄 세 가지 신호

결정적인 질문은 업계가 증거 기반 규칙을 마련할지, 아니면 “절도”라는 말을 계속 선택적으로 적용할지다.

이러한 구분은 증류와 직접적으로 관련된다. 법원은 일반적 능력을 학습하는 행위가 보호받는 표현을 복제하는 것과 다르다고 판단하면서도, 사기적이거나 무단인 접근 방식에는 여전히 제재를 가할 수 있다.

The New York Times 소송은 학습 관련 주장과 AI 제품이 원래 출판사와 경쟁한다는 주장을 결합한다는 점에서 특히 중요하다. 약식판결 결정은 다른 창작자들이 활용하는 시장 대체 이론을 강화하거나 약화시킬 것이다.

법원이 이후의 학습이 변형적이더라도 허가받은 취득이 중요하다고 확립한다면, 그 원칙은 책과 저널리즘을 넘어 적용될 것이다. AI 연구소는 모델 결과물의 기만적 수집에 이의를 제기할 더 강력한 근거를 얻게 된다.

법원이 수집 방식과 시장 효과에 관계없이 학습을 폭넓게 보호한다면, 프런티어 연구소들은 경쟁사의 유사한 학습이 왜 예외적 보호를 받아야 하는지 설명하기 어려워질 것이다.

두 번째 신호는 제공업체의 기술적 증거다. Anthropic은 계정 수, 교환량, 주장된 운영 패턴을 공개했다. 산업 규모의 증류가 공동의 위협이 되고 있다면 다른 연구소도 비슷한 투명성을 제공해야 한다.

유용한 공개는 공격자가 탐지를 우회하는 데 도움이 되는 지침을 공개하지 않으면서도 귀속이 어떻게 이루어지는지 설명해야 한다. 직접 증거와 추론을 구분하고, 다른 가능한 설명도 인정해야 한다.

독립적 검증은 이러한 보고서를 더욱 강화할 수 있다. 감사기관은 비밀유지 계약 아래 익명화된 트래픽 증거, 탐지 방식, 오탐률을 검토할 수 있다.

그런 검토가 없다면 제공업체는 고발자이자 조사자이며 주요 정보원으로 남는다. 이들의 가시성은 가치 있는 증거를 제공하지만, 경쟁상 이해관계 또한 외부 검증을 정당화한다.

Alibaba나 다른 지명된 기업이 기술적 반박을 내놓는지 지켜볼 필요가 있다. 계정 통제, 트래픽 귀속, 학습 활용을 다루는 대응은 일반적인 부인보다 더 많은 점을 명확히 할 수 있다.

모델 평가에서 고유한 전이 행동이 드러나는지도 주목해야 한다. 공통된 오류, 이례적인 응답 구조, 제한된 영역에서의 능력 급상승은 보조 증거가 될 수 있지만, 어느 것도 추출만으로 입증하지는 않는다.

세 번째 신호는 정부의 집행 기준선이다. 계정 제한과 보안 지침은 이미 존재한다. 제재나 수출 관련 처벌은 중대한 확전을 의미할 것이다.

공식 조치는 금지된 행위, 증거 기준, 그리고 귀속 판단에 이의를 제기할 기회를 명시해야 한다. 그렇지 않으면 증류 정책은 미·중 기술 갈등에서 또 하나의 유연한 수단이 될 위험이 있다.

클라우드 제공업체의 대응은 정책이 일반 개발자에게 얼마나 빠르게 도달하는지를 보여줄 것이다. 새로운 신원 확인, 더 엄격한 속도 제한, 리셀러 통제, 합성 데이터 제한은 팀이 최첨단 시스템에 접근하는 방식을 바꿀 수 있다.

그 범위가 중요할 것이다. 좁은 금지 조항은 체계적 복제를 겨냥할 수 있다. 광범위한 조항은 고객이 일상적인 미세 조정, 평가 또는 내부 자동화를 위해 생성된 예시를 사용하는 것까지 막을 수 있다.

오픈 모델 개발자들은 이 갈등을 면밀히 지켜볼 것이다. 이들은 역량과 학습 방법이 널리 유통될 때 혜택을 받지만, 오픈 라이선스에도 집행될 가치가 있는 조건이 포함돼 있다.

Microsoft가 증류 없이 학습된 모델로 마케팅하기로 한 결정은 출처가 경쟁력 있는 주장으로 자리 잡을 수 있음을 보여준다. 구매자는 독립적 증거가 뒷받침하지 않는 한 이런 설명을 기업의 주장으로 받아들여야 한다.

더 넓은 시장은 합성 데이터의 출처와 승인된 관계를 식별하는 모델 문서화로 이동할 수 있다. 이는 모든 영업비밀을 공개하지는 않을 것이다. 다만 구매자가 법적·운영상의 위험을 평가할 더 분명한 근거를 제공할 수 있다.

독자에게 실질적인 핵심은 모든 AI 기업이 똑같이 책임이 있다는 뜻이 아니라는 점이다. 이 주장들은 서로 다른 행위, 법률, 증거, 계약 관계를 포함한다.

핵심은 업계가 학습에 대해 서로 양립할 수 없는 두 가지 정의를 무기한 유지할 수 없다는 것이다. 최첨단 모델을 구축할 때는 대규모 수집을 변형적 이용이라고 부르면서, 경쟁사가 할 때는 모든 후속 학습을 도용이라고 부를 수는 없다.

Anthropic은 기만적인 접근과 산업 규모의 추출에 관한 중대한 의혹을 제기했다. 이러한 주장은 구체적인 증거를 토대로 조사받을 가치가 있다.

창작자들의 주장도 같은 엄격함으로 다뤄져야 한다. AI 연구소가 다른 모델보다 먼저 그들의 작업물을 접했다는 이유만으로, 그 작업물이 도덕적으로 무의미해져서는 안 된다.

가장 바람직한 결과는 기계가 다른 기계로부터 학습하는 것을 전면 금지하는 일이 아니다. 승인된 연구, 변형적 학습, 계약상 오용, 기만적 추출을 구분하는 실용적인 기준을 마련하는 것이다.

AI 기업들은 법원과 정부가 기준을 강제하기 전에 이를 투명한 정책에 반영할 수 있을까? 개발자와 구매자는 지금부터 출처, 허가 기록, 구체적인 증거를 요구해야 한다. 이러한 관행은 현재의 의혹 제기 국면이 다음 표적으로 옮겨간 뒤에도 오래도록 중요할 것이다.