Chamath Palihapitiya, AI 에이전트가 바텀업 소프트웨어와 기업 IP를 충돌시킨다고 경고

Chamath Palihapitiya는 AI 에이전트가 가벼운 실험을 지식재산 유출의 잠재적 통로로 바꾼다며 바텀업 방식의 소프트웨어 도입에 문제를 제기했다.

Google News 목록은 8월 6일 Benzinga 보도를 통해 이 주장을 소개했다. 이는 소프트웨어 수요에 관한 또 하나의 투자자 전망보다 더 중대한 주장이다. Palihapitiya는 직원들이 에이전트에 자사의 운영 방식을 가르칠 때, 그 과정에서 만들어지는 지식을 누가 차지하는지에 의문을 제기하고 있다.

바텀업 소프트웨어는 전통적으로 개인 사용자를 통해 기업에 들어온 뒤, 경영진이 엔터프라이즈 계약을 협상하기 전에 팀 전체로 확산됐다. Slack, Zoom, Dropbox와 다수의 개발자 도구가 이러한 패턴의 수혜를 입었다. AI 에이전트는 업무를 수행하는 과정에서 문서, 수정 사항, 권한, 운영 맥락을 소비하기 때문에 이를 복잡하게 만든다.

따라서 핵심 갈등은 단순히 직원과 보안팀 간의 대립이 아니다. 바텀업 도입과 통제된 조직 학습의 충돌이다. 직원들은 즉시 유능한 도구를 원하지만, 기업은 자사를 차별화하는 판단 과정, 워크플로, 예외 사항을 보존해야 한다.

Google News 보도는 소프트웨어 도입을 소유권의 문제로 바꾼다

Palihapitiya의 경고는 AI 도입을 고객 조직 내부에서 생성된 학습의 소유권을 둘러싼 경쟁으로 재구성한다.

Google News 보도는 Palihapitiya의 우려 두 가지를 연결해 전한다. 첫째, AI 에이전트는 소프트웨어 판매를 위한 기존의 바텀업 전략을 약화시킨다. 둘째, 통제가 부실한 배포는 그가 “IP/alpha leakage”라고 표현한 문제를 만든다.

이 맥락에서 “alpha”는 단순한 기밀 파일이 아니라 기업이 쉽게 복제될 수 없는 우위를 뜻한다. 여기에는 가격 책정 판단, 고객 지식, 운영상의 지름길, 연구 방법, 공식 절차 뒤에 숨은 예외 사항이 포함된다. 그러한 지식의 상당 부분은 정제된 정책 문서에 결코 나타나지 않는다.

일반적인 소프트웨어 도구는 대개 구조화된 입력을 받아 예측 가능한 결과를 반환한다. 반면 에이전트는 더 폭넓은 지시를 받고, 도구를 선택하며, 보조 자료를 읽고, 여러 단계를 완료한다. 조직의 기준에 맞는 결과를 내기까지 수정이 필요한 경우도 많다.

그 수정에는 이례적인 가치가 담겨 있다. 직원은 특정 고객에게 예외가 적용되는 이유, 특정 공급업체가 위험해 보이는 이유, 혹은 기술적 지름길이 과거에 실패한 이유를 설명할 수 있다. 각각의 설명은 조직의 실질적인 의사결정 체계 일부를 드러낸다.

그렇다고 모든 수정이 제공업체의 파운데이션 모델을 학습시킨다는 뜻은 아니다. 주요 벤더들은 고객 데이터 처리와 이를 모델 학습에 사용하는 일을 구분한다. 우려는 단일 학습 설정을 넘어선다.

제공업체는 여전히 고객의 워크플로, 통합, 평가 방법, 운영 습관에 깊이 자리 잡을 수 있다. 그러면 고객은 내부 지식을 적용하기 위해 외부 인텔리전스 계층에 의존하게 된다. 모델 학습이 없더라도 이러한 의존성은 협상력을 이동시킬 수 있다.

Palihapitiya는 이전에도 기업들이 AI 전략을 구축한다고 믿는 동안 경쟁 우위를 넘겨줄 위험이 있다고 주장했다. 관련 분석은 그의 입장을 지식 격리와 관리형 배포에 연결했다.

이 주장을 평가할 때 그의 재정적 이해관계도 중요하다. Palihapitiya는 AI 지원 소프트웨어 개발을 위한 관리 계층인 Software Factory를 개발하는 8090의 공동 창업자다. 이 제품의 포지셔닝은 통제되지 않은 에이전트와 파편화된 도구에 대한 우려에서 이익을 얻는다.

그 이해관계가 주장을 무효화하는 것은 아니지만, 신중한 출처 표기를 요구한다. Palihapitiya는 확인된 침해 사고를 설명하는 중립적 감사자가 아니다. 그는 자신의 회사 제품과 부합하는 아키텍처를 지지하는 투자자이자 벤더다.

보도된 경고에는 특정 기업이 대형 상용 AI 제공업체를 통해 경쟁 우위를 잃었다는 증거도 없다. “IP/alpha leakage”는 문서화된 보편적 결과가 아니라 전략적 위험 모델로 남아 있다. 독자는 그 메커니즘과 가장 강한 형태의 예측을 구분해야 한다.

에이전트가 유용해지려면 맥락이 필요하기 때문에 그 메커니즘은 신뢰할 만하다. 계약, 기술 통제, 배포 모델은 크게 다르므로 예측은 여전히 불확실하다. 이 간극이 엔터프라이즈 AI를 둘러싼 논쟁을 규정한다.

바텀업 AI 도입은 다른 종류의 노출을 만든다

AI 에이전트는 바텀업 실험의 가치를 높이는 동시에 정보 흐름의 파악과 관리도 더 어렵게 만든다.

제품 주도 성장은 소프트웨어 벤더에게 긴 조달 주기를 우회할 길을 제공했다. 직원은 도구를 써보고, 동료를 초대하고, 고위 경영진이 개입하기 전에 유용성을 입증할 수 있었다. 구매자는 근거를 얻고, 벤더는 조직 내부의 지지자를 확보했다.

이 경로가 작동한 이유는 많은 도구가 좁은 경계 안에서 작동했기 때문이다. 디자인 애플리케이션은 디자인 파일을 처리했다. 메시징 서비스는 대화를 전달했다. 프로젝트 추적기는 작업과 댓글을 저장했다.

에이전트는 이러한 경계를 넘나든다. 유용한 영업 에이전트는 이메일을 읽고, 고객 기록을 검색하며, 제안서를 작성하고, 파이프라인을 업데이트하고, 후속 업무 일정을 잡을 수 있다. 코딩 에이전트는 리포지토리, 티켓, 아키텍처 노트, 배포 로그를 검사할 수 있다.

각 연결은 에이전트의 권한과 맥락을 확장한다. 동시에 잘못된 행동, 계정 침해, 악의적 지시가 초래할 결과도 확대한다. 도입은 더 이상 좌석 수나 활성 사용자 수만으로 측정할 수 없다.

National Institute of Standards and Technology는 에이전트를 실제 환경에서 계획을 세우고 자율적 행동을 취할 수 있는 시스템으로 정의한다. 이 기관의 2026년 보안 분석은 에이전트가 고유한 위협을 초래하고 도입 장벽을 만든다는 폭넓은 공감대를 확인했다.

중요한 위협 중 하나는 간접 프롬프트 인젝션이다. 공격자는 에이전트가 나중에 읽을 이메일, 웹사이트, 문서 또는 코드 리포지토리에 지시문을 숨긴다. 에이전트는 이러한 지시문을 명령으로 해석해 데이터를 공개하거나 원치 않는 작업을 수행할 수 있다.

NIST의 레드팀 연구는 주요 모델들의 이러한 공격에 대한 저항성이 상당히 다르다는 점을 확인했다. 모델 역량이 보안을 일관되게 예측하지는 못했다. 더 강력한 범용 모델이 자동으로 더 안전한 엔터프라이즈 에이전트가 되는 것은 아니었다.

이는 직원들이 즉각적인 유용성을 최적화하는 바텀업 배포에서 중요하다. 직원들은 데이터가 시스템 간에 어떻게 이동하는지 파악하지 않은 채 에이전트에 여러 시스템 접근 권한을 부여할 수 있다. 보안팀은 해당 워크플로가 운영상 중요해진 뒤에야 이를 발견할 수 있다.

위험은 의도적인 공격에만 국한되지 않는다. 에이전트는 생성한 이메일에 민감한 정보를 넣거나, 잘못된 문서를 워크스페이스에 복사하거나, 예상치 못한 로그에 기밀 맥락을 보존할 수 있다. 소프트웨어가 행동할 수 있게 되면 일상적인 구성 실수도 더 중대한 결과를 낳는다.

전통적인 데이터 유출 방지 통제는 파일, 메시지, 네트워크 트래픽을 검사한다. 에이전트형 워크플로에는 프롬프트, 검색된 맥락, 도구 호출, 중간 추론, 메모리, 생성된 행동이 추가된다. 기업은 이 전체 사슬에 걸친 가시성이 필요하다.

바텀업 도입 옹호자들은 중앙 승인 절차가 지나치게 느리다고 합리적으로 주장할 수 있다. 직원들은 자신의 업무를 이해하며, 경영진보다 먼저 가치 있는 활용 사례를 파악할 수 있다. 실험을 억누르면 개인 계정과 승인되지 않은 서비스로 도입이 밀려날 수 있다.

이는 Palihapitiya의 논지에서 첫 번째 반전을 만든다. 엄격한 금지는 활동을 관리 시스템 밖으로 밀어내 노출을 늘릴 수 있다. 더 안전한 길은 반드시 실험을 줄이는 것이 아니라, 명확한 기술적 경계 안에서 실험하는 것이다.

관리형 샌드박스는 접근 가능한 데이터, 허용 도구, 외부 행동을 제한할 수 있다. 메시지 전송, 기록 변경, 코드 실행 전에 사람의 승인을 요구할 수 있다. 또한 조사와 평가를 위한 로그를 보존할 수 있다.

기업은 자주 하나로 뭉뚱그려지는 세 가지 질문을 구분해야 한다. 제공업체가 고객 콘텐츠로 학습할 수 있는가? 제공업체는 그 콘텐츠를 얼마나 오래 보관할 수 있는가? 에이전트는 각 세션에서 무엇에 접근하고 무엇을 할 수 있는가?

첫 번째는 모델 개발에 관한 문제다. 두 번째는 데이터 처리에 관한 문제다. 세 번째는 운영 권한에 관한 문제이며, 에이전트에서 결정적인 보안 쟁점이 된다.

벤더는 비즈니스 데이터로 학습하지 않겠다고 약속할 수 있지만, 직원이 여전히 해당 에이전트에 과도한 권한을 줄 수 있다. 반대로 잘 제한된 에이전트는 외부 모델을 사용하더라도 안전하게 작동할 수 있다. 실제 노출은 아키텍처와 거버넌스가 결정한다.

따라서 바텀업 도입은 그 자유가 제한될 때만 살아남는다. 직원들은 여전히 활용 사례를 발견할 수 있지만, 광범위한 배포에 앞서 신원, 권한, 보존, 감사 규칙이 마련돼야 한다. 자발적인 소프트웨어 체험은 관리되는 실험으로 바뀐다.

실제 갈등은 고객의 학습과 벤더 의존성의 충돌이다

Palihapitiya 주장의 가장 강한 형태는 모든 고객 프롬프트의 문자 그대로의 탈취가 아니라, 외부 학습 루프에 대한 의존성을 다룬다.

에이전트는 기업의 업무에 반복적으로 노출되며 가치를 갖게 된다. 직원들이 신뢰하는 출처, 상향 보고가 필요한 예외, 내부 검토를 통과하는 결과물을 학습한다. 이러한 개선은 모델 가중치의 영구적 변화보다 주변 시스템에서 비롯되는 경우가 많다.

주변 시스템에는 프롬프트, 검색 인덱스, 통합, 평가 세트, 정책, 사용자 수정이 포함된다. 이들이 함께 학습 루프를 이룬다. 그 루프를 통제하는 주체가 갈수록 중요한 운영 자산을 통제한다.

벤더가 운영하는 시스템은 분명한 장점이 있다. 제공업체는 모델, 보안 인프라, 제품 통합을 유지한다. 고객은 모든 구성 요소를 직접 구축하지 않아도 된다.

대가는 전환이 어려워질 때 나타난다. 기업은 원본 문서를 보유할 수 있지만, 에이전트 행동, 평가, 수정, 워크플로 이력에 관한 이식 가능한 기록은 없을 수 있다. 다른 제공업체로 옮기려면 조직의 맥락을 다시 구축해야 한다.

이는 독점 파일 형식보다 더 미묘한 형태의 종속이다. 기반 기록은 내보낼 수 있어도, 그 기록을 중심으로 만들어진 행동은 깔끔하게 이전되지 않는다. 직원들은 새 시스템에 같은 암묵적 규칙을 다시 가르쳐야 한다.

이 우려는 Microsoft CEO Satya Nadella의 “reverse information paradox”와 닮아 있다. Microsoft의 임원 페이지는 이 개념에 관한 그의 7월 12일 논의를 공개 게시물 가운데 하나로 나열한다. Nadella는 AI 구매자가 구매한 인텔리전스를 유용하게 만들기 위해 가치 있는 지식을 드러낸다고 주장한다.

역사적인 정보 역설은 구매자가 평가하기 전에 판매자가 정보를 공개하는 문제를 다뤘다. AI는 그 방향을 뒤집는다. 구매자는 자신이 구매하는 서비스를 평가하고 개선하는 과정에서 지식을 노출한다.

팔리하피티야가 언급한 입장은 그 논리를 소프트웨어 유통으로 확장한다. 상향식 성장은 경영진이 축적된 지식의 보관 위치를 결정하기 전에 직원들이 이러한 교환을 시작하도록 유도한다. 조달 부서가 개입할 때쯤이면 워크플로는 이미 특정 공급업체에 의존하고 있을 수 있다.

AI 제공업체들은 일반적인 기업 사용이 고객 지식을 자동으로 공유 모델에 공급한다는 함의에 이의를 제기한다. OpenAI는 business privacy 약정에서 기본적으로 비즈니스 입력과 출력은 학습에 사용되지 않는다고 밝힌다.

Anthropic도 상업 고객 데이터를 생성형 모델 학습에 사용하지 않는다고 말한다. commercial processing에 대한 설명에 따르면 고객은 관리자로 남고 Anthropic은 처리자 역할을 한다.

이러한 약정은 자동적인 모델 학습 유출 주장을 실질적으로 약화한다. 신중한 분석은 모든 기업 프롬프트를 미래의 학습 자료로 간주할 수 없다. 계약 유형, 계정 구성, 선택적 데이터 공유 프로그램, 제품 사용 환경이 모두 중요하다.

그러나 학습 비사용 약속이 모든 소유권 문제를 해결하는 것은 아니다. 평가 결과, 에이전트 메모리, 워크플로 정의 또는 축적된 사용자 피드백의 이동성을 자동으로 보장하지는 않는다. 또한 내부 직원이 잘못된 계정에 정보를 입력하는 일도 막지 못한다.

소비자 서비스와 비즈니스 서비스의 구분은 특히 중요하다. 조직은 승인된 엔터프라이즈 계정에 대해 강력한 보호 조항을 협상할 수 있지만, 직원들은 그러한 계약 밖에서 개인 계정을 사용할 수 있다. 신원 및 조달 통제가 실제 행동과 일치하지 않으면 거버넌스는 실패한다.

보존은 학습과도 다르다. 제공업체는 공유 모델 개선에 사용하지 않더라도 악용 모니터링, 서비스 제공 또는 제품 상태 유지를 위해 데이터를 일시적으로 보관할 수 있다. 보안팀은 각 엔드포인트와 기능에 대해 정확한 답변을 필요로 한다.

같은 수준의 검토는 커넥터에도 적용된다. 모델이 검색된 문서로 학습하지 않더라도, 해당 에이전트는 실행 중 민감한 콘텐츠를 수신한다. 통제가 일관되게 유지되지 않으면 그 콘텐츠는 로그, 생성된 출력 또는 후속 도구에 나타날 수 있다.

이 때문에 프라이빗 배포는 완전한 해답이 아니다. 회사 인프라 내부에서 오픈 모델을 운영하면 제3자 노출을 줄일 수 있다. 하지만 보안, 평가, 패치, 신원 관리, 모니터링 책임도 고객에게 이전된다.

폭넓은 권한을 가진 내부 모델은 여전히 부서 간 데이터 유출을 일으킬 수 있다. 잘못 구성된 검색 시스템은 한 고객의 기록을 다른 팀에 반환할 수 있다. 패치되지 않은 오픈 구성 요소는 공급망 위험을 초래할 수 있다.

따라서 의미 있는 선택지는 외부 AI 대 완벽히 안전한 내부 AI가 아니다. 이는 서로 다른 비용과 실패 양상을 지닌 외주 통제와 내부 거버넌스 통제의 선택이다. 대다수 대기업은 아마 두 방식을 결합할 것이다.

이들은 일반적인 작업은 관리형 외부 서비스로 라우팅하는 한편, 민감한 워크플로는 격리된 시스템에 맡길 수 있다. 프롬프트, 평가, 워크플로 정의를 모델 독립적 제어 계층에 보관할 수도 있다. 이렇게 하면 모든 모델을 로컬에서 실행하지 않고도 의존도를 낮출 수 있다.

지식 근로자들은 이미 도구 전반에서 맥락을 보존하기 위해 개인 지식 시스템을 사용한다. 구조화된 AI knowledge base는 같은 원칙을 더 작은 규모에 적용한다. 사용자는 하나의 채팅 기록에 전적으로 의존하는 대신 정리된 소스 자료를 유지한다.

엔터프라이즈 규모에서 그에 상응하는 체계에는 접근 제어, 출처 정보, 감사 가능한 검색이 필요하다. 또한 어떤 지식이 조직 밖으로 나갈 수 있는지 정의하는 정책도 필요하다. 이러한 분류가 없다면 “알파를 보호하라”는 말은 구호에 그친다.

팔리하피티야의 논지는 SaaS 공급업체와 AI 연구소 모두를 압박한다

에이전트는 소프트웨어 업계의 상향식 성장 엔진을 위협하지만, 거버넌스 요건은 신뢰받는 유통망을 가진 기존 플랫폼을 강화할 수 있다.

전통적인 SaaS 공급업체가 가장 뚜렷한 압박을 받는다. 이들의 제품은 인터페이스, 권한, 데이터베이스 안에 워크플로를 패키징한다. 에이전트는 사용자가 각 애플리케이션 안에서 많은 시간을 보낼 필요 없이 여러 시스템에 걸쳐 이러한 워크플로를 실행할 수 있다.

영업 담당자는 별도의 CRM, 이메일, 문서, 일정 관리 도구를 열기보다 에이전트에게 갱신 계약을 준비해 달라고 요청할 수 있다. 에이전트가 인터페이스가 된다. 기존 애플리케이션은 그 뒤에서 기록 시스템이 된다.

이 변화는 익숙한 참여 지표를 약화한다. 인터페이스 방문이 줄었다고 해서 반드시 제품 가치가 줄어든 것은 아니지만, 차별성을 입증하기는 더 어려워진다. 공급업체는 자사의 데이터, 워크플로 로직 또는 권한이 여전히 필수적임을 증명해야 한다.

보안팀이 에이전트 접근 권한을 중앙에서 통제하면 상향식 고객 확보도 더 어려워진다. 직원은 제한된 데이터로 독립형 애플리케이션을 사용해 볼 수 있다. 그러나 이메일, 소스 코드 또는 금융 시스템 접근을 요청하는 에이전트는 더 엄격한 검토를 받는다.

이는 이미 엔터프라이즈 신원 및 컴플라이언스 시스템에 통합된 공급업체에 유리하다. Microsoft, Google, Salesforce, ServiceNow 및 기타 플랫폼 제공업체는 기존 권한과 기록 옆에 에이전트를 배치할 수 있다. 이들의 설치 기반은 유통 측면의 이점을 만든다.

프런티어 모델 기업은 다른 압박에 직면한다. 최고 성능의 모델은 직원과 개발자를 끌어들이지만, 기업 구매자는 점점 계약상 통제, 감사 가능성, 지역별 처리, 예측 가능한 보존 정책을 요구한다. 모델 품질만으로는 이러한 요구 사항을 해결할 수 없다.

컨설팅 파트너를 통한 Anthropic의 확장은 그 대응을 보여준다. 6월 회사는 4만 곳이 넘는 기업이 파트너 프로그램에 지원했다고 밝혔다. 또한 1만 명이 넘는 컨설턴트가 Claude 인증을 취득했다고 보고했다.

회사는 Accenture, Cognizant, Deloitte, KPMG, Infosys, PwC 전반의 대규모 배포 또는 교육 약정을 언급했다. 이 수치는 Anthropic이 제공한 것이며, 독립적으로 감사된 도입 성과가 아닌 파트너 네트워크를 설명한다. 그럼에도 에이전트 배포가 얼마나 빠르게 서비스 비즈니스가 되고 있는지를 보여준다.

이는 팔리하피티야의 경고와 긴장을 만든다. 컨설팅 회사는 고객의 거버넌스 구현을 도울 수 있지만, 동시에 모델 제공업체의 기업 워크플로 접근을 심화한다. 같은 파트너가 기술적 위험을 줄이는 동시에 전략적 의존도를 높일 수 있다.

팔리하피티야의 회사 역시 그 시장의 또 다른 영역에 자리한다. Software Factory는 모델과 소프트웨어 개발 업무 전반의 제어 계층을 표방한다. 이 아키텍처는 고객에게 더 큰 통제권을 약속하지만, 그 이점은 실제 운영 배포 전반에서의 독립적 근거를 필요로 한다.

제어 플레인은 다른 시스템이 어떻게 선택되고, 권한을 부여받고, 관찰되며, 변경되는지를 관리하는 소프트웨어다. 에이전트 환경에서는 정책과 로그를 보존하면서 작업을 여러 모델 사이로 라우팅할 수 있다. 그렇다고 그 아래에 있는 공급업체에 대한 의존이 사라지는 것은 아니다.

제어 플레인 자체가 새로운 종속의 원천이 될 수도 있다. 워크플로 정의, 평가 데이터, 운영 이력을 소유할 수 있기 때문이다. 고객은 공급업체가 모델, 애플리케이션, 오케스트레이션 중 무엇을 판매하든 동일한 이동성 질문을 던져야 한다.

오픈소스 및 오픈웨이트 모델은 또 다른 경로를 제공한다. 기업은 이를 통제된 인프라 안에 배포하고 주변 시스템을 맞춤화할 수 있다. 이는 외부 처리를 제한하고 상업적 제공업체와의 협상력을 만들 수 있다.

그러나 오픈 배포에는 전문 인력과 지속적인 운영 작업이 필요하다. 팀은 모델 업데이트를 평가하고, 추론 시스템을 보호하며, 출력을 모니터링하고, 하드웨어 또는 클라우드 용량을 관리해야 한다. 소규모 조직은 잘 관리되는 엔터프라이즈 서비스에서 더 큰 안전성을 얻을 수 있다.

SaaS 공급업체도 수동적인 대상은 아니다. 제품 안에 권한과 감사 추적을 유지하면서 애플리케이션 프로그래밍 인터페이스를 통해 통제된 작업을 노출할 수 있다. 그러면 에이전트는 거버넌스를 우회하지 않고 소프트웨어를 사용할 수 있다.

공급업체는 워크플로를 이동 가능하고 모델 중립적으로 만들 수도 있다. 고객은 정책, 평가, 비즈니스 로직을 유지한 채 모델을 전환할 수 있도록 하는 제공업체를 선호할 수 있다. 이동성은 컴플라이언스 각주가 아니라 판매 기능이 된다.

가장 가능성 높은 결과는 SaaS의 소멸도, 무제한적인 상향식 에이전트도 아니다. 직원은 경험을 선택하고, 기업은 접근을 통제하며, 플랫폼은 오케스트레이션 소유권을 놓고 경쟁하는 계층형 시장이다. 가치를 가두지 않으면서 맥락을 보존하는 주체에게 가치가 이동한다.

이 결과는 팔리하피티야를 부분적으로 입증할 것이다. 상향식 유통은 자율성을 잃고, 거버넌스가 적용된 에이전트 플랫폼의 중요성은 커질 것이다. 그렇다고 외부 제공업체가 고객 IP를 일상적으로 전용한다는 사실이 증명되는 것은 아니다.

가장 큰 압박은 일반 모델 위에 편리한 인터페이스만 제공하는 제품에 가해진다. 그 기능은 복제되거나, 번들로 묶이거나, 다른 에이전트가 호출할 수 있다. 독점 데이터, 신뢰받는 워크플로 또는 규제 통제를 가진 제품은 더 강한 방어력을 유지한다.

유출 주장은 여전히 더 엄격한 증거 검증이 필요하다

팔리하피티야는 실제 거버넌스 문제를 지적하지만, 공개된 증거만으로는 모델 제공업체가 기업 지식을 광범위하게 전용한다는 사실이 입증되지 않는다.

“IP/알파 유출”이라는 표현은 여러 구별되는 위험을 한데 묶는다. 하나는 직원의 우발적 공개다. 또 하나는 제공업체의 데이터 보존이다. 세 번째는 모델 학습이며, 네 번째는 제공업체 인프라에 대한 전략적 의존이다.

이러한 위험에는 서로 다른 증거가 필요하다. 노출된 문서는 로그와 접근 기록을 통해 조사할 수 있다. 학습 데이터 사용에는 계약 및 기술 분석이 필요하다. 전략적 의존은 전환 비용, 집중도, 이동성 실패를 통해 드러난다.

이 네 가지를 하나의 유출 형태로 다루면 극적인 헤드라인은 만들 수 있지만 통제 계획은 약해진다. 최고정보보호책임자는 비유를 완화할 수 없다. 팀은 관련 데이터, 엔드포인트, 사용자, 권한, 후속 작업을 식별해야 한다.

가장 강력한 반론은 제공업체 정책에서 나온다. OpenAI와 Anthropic은 상업 고객 콘텐츠가 기본적으로 모델 학습에 사용되지 않는다고 명시한다. 이는 고객이 조달 과정에서 검토할 수 있는 계약상 주장이다.

그 정책이 구현 위험을 없애지는 않는다. 직원은 소비자 제품을 사용하거나, 선택적 공유를 활성화하거나, 피드백을 제출하거나, 승인되지 않은 애플리케이션을 연결할 수 있다. 타사 에이전트 빌더 역시 기반 모델 제공업체와 다른 약관을 적용할 수 있다.

또 다른 불확실성은 에이전트가 실제로 무엇을 학습하는지에 관한 것이다. 대부분의 운영 시스템은 직원의 수정이 있을 때마다 모델 가중치를 영구적으로 업데이트하지 않는다. 대신 대화 기록, 메모리, 검색 콘텐츠 또는 평가 결과를 저장할 수 있다.

이 구분은 위협 모델을 바꾼다. 보존된 워크플로도 민감할 수 있지만, 공유 기반 모델을 학습시키는 것과 동등하지는 않다. 보도는 증거 없이 기술적 과정을 암시하는 일을 피해야 한다.

팔리하피티야의 상업적 이해관계도 주목할 만하다. 기업들이 모델 중립적 오케스트레이션과 지식 격리가 전략적 우선순위라고 결론 내릴 경우 그의 회사는 이익을 얻는다. 독자는 그의 경고를 사업적 이해관계가 결부된 정보에 밝은 논지로 받아들여야 한다.

업계에는 여전히 지식 이동성을 위한 표준 측정 방식이 부족하다. 구매자는 모델 정확도나 지연 시간은 비교할 수 있지만, 얼마나 많은 기관 지식이 이전 가능한 상태로 남는지는 정량화하기 어렵다. 이 격차는 포괄적인 주장을 확인하거나 반박하기 어렵게 만든다.

유용한 평가는 기업이 전체 워크플로를 재구축하지 않고도 모델 제공업체를 교체할 수 있는지를 시험할 것이다. 이전된 프롬프트, 정책, 메모리, 평가, 커넥터, 승인 규칙을 측정할 것이다. 또한 마이그레이션 이후의 출력 품질도 비교할 것이다.

또 다른 검증은 에이전트 실행 중 민감한 콘텐츠가 승인되지 않은 시스템에 도달하는지 살펴보는 방식이 될 수 있다. 보안팀은 통제된 문서에 합성 마커를 심고, 그 마커가 어디에 나타나는지 추적할 수 있다. 이렇게 하면 실제 비밀을 노출하지 않고도 운영상 정보 유출을 확인할 수 있다.

독립 감사는 공급업체의 약속도 검토해야 한다. 구매자는 계정 설정, 보존 규칙, 학습 제외 조치가 연결된 모든 제품에서 작동한다는 증거를 필요로 한다. API에 적용되는 정책이 소비자용 워크스페이스나 서드파티 플러그인에는 적용되지 않을 수 있다.

회의적인 결론은 명확하다. AI 에이전트는 기업 지식이 노출될 수 있는 접점을 넓히지만, 노출이 필연적인 것은 아니다. 아키텍처, 계약 조건, 직원 행동, 그리고 ID 통제가 결과를 결정한다.

Palihapitiya의 경고는 조달 질문으로서 가장 유용하다. 상향식 소프트웨어가 이미 실패했다는 확정된 예측으로서는 설득력이 떨어진다. 기업들은 여전히 거버넌스가 적용된 셀프서비스를 위해 모델을 실험하고 있다.

이 구분은 직원에게 중요하다. 지나치게 광범위한 제한은 생산성을 낮추고 섀도 사용을 부추길 수 있다. 성공적인 정책은 직원들에게 개인용 대안과 경쟁할 만큼 충분한 기능을 갖춘 승인된 도구를 제공한다.

이는 공급업체에도 중요하다. 공포에 기반한 마케팅은 관심을 끌 수 있지만 구체적인 통제 장치를 가릴 수 있다. 구매자는 내보내기 가능성, 제한된 권한, 모델 선택권, 감사 로그, 명확한 사고 대응 절차를 요구해야 한다.

입증 책임은 양측 모두에 있다. 모델 제공업체는 비즈니스 데이터 통제가 약속대로 작동함을 보여야 한다. 제어 계층 공급업체는 또 다른 독점적 종속성을 만들지 않으면서 위험을 줄인다는 점을 입증해야 한다.

엔터프라이즈 구매자가 다음으로 주시해야 할 것

이 논쟁의 다음 단계는 이식성 테스트, 보안 증거, 그리고 엔터프라이즈 조달의 변화에 의해 결정될 것이다.

첫 번째 신호는 주요 공급업체가 에이전트 학습 내용을 이식 가능하게 만드는지 여부다. 고객에게는 단순한 문서 내보내기 이상이 필요하다. 이전 가능한 워크플로 정의, 평가 세트, 수정 사항, 권한, 메모리 구조가 필요하다.

공급업체가 공통 형식을 채택하면 Palihapitiya의 종속 우려는 약화된다. 기업은 모델이나 실행 플랫폼을 바꾸더라도 조직의 학습 내용을 유지할 수 있다. 이식성이 계속 제한된다면 통제에 관한 주장은 더 설득력을 얻는다.

두 번째 신호는 에이전트 보안에 관한 독립적인 증거다. NIST는 이미 간접 프롬프트 인젝션, 데이터 유출, 과도한 권한, 취약한 인가를 중대한 우려 사항으로 지목했다. 향후 벤치마크는 고립된 모델이 아니라 완전한 시스템을 시험해야 한다.

기업은 모델만 단독으로 배포하지 않는다. ID 시스템, 데이터베이스, 파일, 외부 도구에 연결된 모델을 배포한다. 보안 결과는 이러한 운영 환경을 반영해야 한다.

독립 테스트가 제한된 에이전트가 공격을 견디고 승인되지 않은 데이터 이동을 막는다는 점을 보인다면, 상향식 실험은 관리된 경계 안에서 계속될 수 있다. 지속적인 실패는 권한을 중앙집중식 보안 및 조달 팀 쪽으로 이동시킬 것이다.

세 번째 신호는 엔터프라이즈 구매 행태다. 기업이 하나의 에이전트 플랫폼을 표준화하는지, 모델 중립적 제어 계층을 채택하는지, 또는 민감도 수준에 따라 여러 제공업체를 유지하는지 지켜봐야 한다. 계약 구조는 구매자가 통제를 어떻게 평가하는지 드러낼 것이다.

조달 요청도 더 구체화될 것이다. 구매자는 데이터가 모델 학습에 사용되는지, 각 엔드포인트가 콘텐츠를 얼마나 오래 보관하는지, 관리자가 위험한 커넥터를 비활성화할 수 있는지 물을 것이다. 또한 작업 수준의 감사 로그와 승인 점검 지점을 요구할 것이다.

개인 계정과 기업 계정의 구분은 더 큰 관심을 받게 될 것이다. 충분한 역량을 갖춘 관리형 도구를 제공하는 조직은 섀도 AI를 줄일 수 있다. 정책 문서에만 의존하는 조직은 직원 행동을 통제하는 데 어려움을 겪을 것이다.

SaaS 실적도 또 다른 단서를 제공할 것이다. 공급업체는 에이전트가 인터페이스 참여를 줄이면서도 워크플로 볼륨을 늘리는지 공개해야 한다. 또한 고객이 결과, 작업, 사용량 또는 전통적인 좌석 단위 중 무엇에 비용을 지불하는지도 설명해야 한다.

좌석 성장의 감소가 소프트웨어의 붕괴를 자동으로 확인하는 것은 아니다. 에이전트는 기본 기록과 권한의 가치를 높일 수 있다. 제품 범주가 사라지기 전에 비즈니스 모델이 바뀔 수 있다.

모델 제공업체는 선택적 학습 프로그램이 어떻게 작동하는지 명확히 하라는 압박을 받을 것이다. API, 엔터프라이즈 워크스페이스, 코딩 제품, 파트너가 구축한 서비스 전반에 걸쳐 일관된 설명을 제공해야 한다. 모호한 경계는 정보 유출 우려를 강화할 것이다.

기업은 지금 내부 인벤토리를 구축해야 한다. 배포된 각 에이전트에는 담당자, 승인된 데이터 소스, 허용된 작업, 보존 정책, 롤백 프로세스가 있어야 한다. 팀은 각 단계를 어떤 제공업체가 처리하는지도 기록해야 한다.

또한 실무적으로 가능한 경우 학습 계층을 모델과 분리해 보존해야 한다. 프롬프트, 평가, 정책, 검증된 수정 사항은 고객이 통제하는 저장소에 남겨둘 수 있다. 그러면 모델은 운영 인텔리전스의 유일한 보관처가 아니라 교체 가능한 구성 요소가 된다.

중대한 결과를 초래하는 작업에는 사람의 승인이 여전히 중요하다. 결제 전송, 프로덕션 시스템 변경, 고객 정보 공개, 고용 관련 결정에는 명시적인 승인이 필요해야 한다. 자율성은 측정된 성과가 이를 뒷받침한 뒤에만 확대되어야 한다.

8월 6일 Google News 항목은 헤드라인보다 오래 지속될 논쟁을 포착한다. Palihapitiya는 직원 주도 도입이 자연스럽게 고객에게 이익이 된다는 가정에 이의를 제기하고 있다. 에이전트의 경우, 성공적인 모든 실험은 시스템에 회사가 작동하는 방식을 가르치기도 한다.

결정적인 질문은 기업이 AI 에이전트를 사용할지 여부가 아니다. 기업에는 이미 조사, 코딩, 영업, 관리 업무를 자동화할 강한 유인이 있다. 문제는 그러한 에이전트를 효과적으로 만드는 지식에 대한 통제권을 유지할 수 있는지다.

엔터프라이즈 구매자는 다음 배포를 승인하기 전에 한 가지 실용적인 질문을 던져야 한다. 공급업체가 내일 사라진다면, 조직은 직원들이 시스템에 가르친 내용을 보존할 수 있는가?

답이 아니오라면, 기업은 유용한 도구 이상의 것을 만들어낸 셈이다. 운영 기억의 일부를 종속 관계로 이전한 것이다. 이것이 헤드라인 뒤에 있는 경고이며, 더 폭넓게 도입하기 전에 검증할 가치가 있다.