Microsoft의 AI 역설: 기업 구매자는 두 번 대가를 치를 수 있다

Google News는 불편한 Microsoft의 주장을 부각했다. AI를 도입하는 기업은 경쟁력의 원천인 지식을 다시 대가로 지불할 위험이 있다는 것이다. Microsoft CEO Satya Nadella는 이 충돌을 역정보 역설이라고 부른다. 그의 주장은 통상적인 AI 가치 논리를 뒤집는다. 더 나은 결과에는 더 풍부한 맥락이 필요하지만, 그 맥락에는 수년간 쌓인 의사결정, 수정 과정, 독점적 판단이 담겨 있을 수 있다.

이 경고가 중요한 이유는 기업 AI가 단발성 프롬프트를 넘어섰기 때문이다. 이제 에이전트는 문서를 검색하고, 도구를 호출하며, 결과를 관찰하고, 전체 업무 흐름에 걸쳐 피드백을 기록한다. 각각의 상호작용은 기업이 품질을 정의하고, 예외를 처리하며, 의사결정을 내리는 방식을 드러낼 수 있다. 모델 제공업체는 지능을 제공하지만, 이를 유용하게 만드는 운영 지식은 고객이 제공한다.

그렇다고 모든 기업 프롬프트가 학습 데이터가 되는 것은 아니다. Microsoft, OpenAI, Google, Anthropic은 상업 고객 콘텐츠에 대한 학습을 제한하는 보호 조치를 공개하고 있다. 더 근본적인 질문은 평가, 워크플로 추적 기록, 적응형 모델, 누적된 피드백을 포함한 주변 학습 루프를 누가 통제하는가다.

Google News가 Microsoft의 경고를 기업 AI 이야기로 만들었다

중요한 사건은 새 모델의 출시가 아니다. AI 도입이 전략적 지식을 잘못된 방향으로 이전할 수 있음을 Microsoft가 공개적으로 인정했다는 점이다.

Nadella는 7월 12일 에세이에서 역정보 역설을 소개했다. 그는 Kenneth Arrow와 연관된 오래된 경제 문제를 차용했다. Arrow의 문제에서는 구매자가 가치를 판단하려면 판매자가 먼저 정보를 공개해야 하며, 그 과정에서 제품을 넘겨줄 가능성이 생긴다.

Nadella는 AI가 그 방향을 뒤집는다고 주장한다. 기업은 이미 모델 접근 권한에 비용을 지불했지만, 모델이 기업 특화 가치를 제공하려면 먼저 기업 특화 정보가 필요하다. 따라서 구매자는 제품을 구매한 뒤 지식을 공개하게 된다.

이 지식은 기밀 문서에 그치지 않는다. 반복 실험을 통해 개발한 프롬프트, 전문가가 제공한 수정, 내부 평가 기준, 직원들이 어려운 업무를 수행하는 방식을 보여주는 기록도 포함될 수 있다.

Nadella는 자신의 원문 에세이에서 “모든 수정은 조직의 노하우로 정제된다”고 썼다. 이 문장은 글의 핵심 긴장을 짚는다. AI 시스템은 기업이 넘겨주는 데 신중해야 할 바로 그 행동을 관찰함으로써 유용해진다.

이 문제는 Google News에 노출된 보도를 통해 더 넓은 독자층에 도달했으며, 여기에는 초기 보안 분석도 포함됐다. 이 확산이 중요한 이유는 이 주장이 직원들이 챗봇에 비밀 정보를 붙여 넣는 문제에 대한 또 하나의 경고로 오해되기 쉽기 때문이다.

Nadella의 우려는 더 광범위하다. 상업 계약 아래 운영되는 승인된 시스템조차 파생 지식을 둘러싼 소유권 문제를 만들 수 있다. 원본 문서는 보호된 상태로 남더라도 평가 세트, 에이전트 추적 기록, 최적화된 워크플로는 그 운영상 의미를 포착할 수 있다.

이례적인 보험 청구를 검토하기 위해 AI 에이전트를 사용하는 보험사를 생각해 보자. 원본 파일에는 민감한 정보가 담겨 있지만, 가장 가치 있는 자산은 숙련된 조사관이 수행하는 검증의 순서일 수 있다. 이들의 수정은 어떤 불일치가 중요하고 어떤 예외가 정당한지를 시스템에 가르친다.

엔지니어가 장비 고장을 진단하기 위해 어시스턴트를 사용할 때 제조업체도 같은 문제에 직면한다. 매뉴얼도 중요하지만, 희소한 지식은 수석 엔지니어가 센서 판독값, 정비 이력, 미묘한 증상을 결합하는 방식에 있다. 반복된 피드백은 그 판단을 재사용 가능한 체계로 바꿀 수 있다.

이 구분은 데이터 보호와 지식 통제를 가른다. 보안 팀은 전통적으로 누가 파일에 접근할 수 있는지, 얼마나 오래 보관되는지, 암호화되는지를 묻는다. 기업 AI 데이터 거버넌스는 직원이 그 파일을 사용할 때 생성되는 학습으로부터 누가 이익을 얻는지도 물어야 한다.

이 개념은 곧이어 더 공식적인 분석을 얻었다. 7월 14일 게시된 6페이지 분량의 연구 논문은 저자들이 Arrow 문제의 사용자 측 등가물이라고 부르는 것을 모델링한다. 이들의 경제 모델은 플랫폼이 이익을 포착하고 피해를 내부화하는 방식에 따라 보존 수준이 사회적으로 바람직한 수준을 넘거나 밑돌 수 있다고 주장한다.

이 단서는 중요하다. 보존이 자동으로 해로운 것은 아니다. 공동 학습은 안전성, 신뢰성, 모델 성능을 개선할 수 있다. 충돌은 제공업체가 그 이익을 가져가는 반면 고객은 불분명한 통제력 상실을 감수할 때 발생한다.

압박은 AI 공급업체만이 아니라 구매자에게도 가해진다

이제 기업 구매자는 AI를 단순한 소프트웨어 구매가 아니라 지식 관계로 평가해야 한다.

즉각적인 압박은 에이전트를 도입하는 최고정보책임자, 보안 책임자, 조달 팀, 사업 책임자에게 가해진다. 이들은 시스템이 처리할 수 있는 정보와 기업이 보존해야 하는 학습 산출물을 결정해야 한다.

전통적인 소프트웨어 계약은 서비스 가용성, 접근 통제, 지원, 기밀성, 삭제에 초점을 둔다. 이 질문들은 여전히 필요하다. 그러나 사용자 수정을 관찰하고 검색, 메모리, 튜닝, 오케스트레이션을 통해 행동을 바꾸는 AI 시스템을 완전히 포괄하지는 못한다.

오케스트레이션 계층은 모델을 선택하고, 맥락을 구성하며, 도구를 호출하고, 워크플로 상태를 관리하는 소프트웨어다. 공급업체가 이 계층을 통제하면, 기업에 축적된 AI 운영 지식이 안정적으로 작동하는 유일한 장소가 될 수 있다.

이는 기반 모델이 고객 프롬프트로 학습하지 않더라도 압박을 만든다. 기업은 공급업체 전용 메모리 형식, 평가 서비스, 에이전트 프레임워크, 커넥터 시스템에 의존하게 될 수 있다. 모델을 바꾸려면 그 주변에 학습된 워크플로를 다시 구축해야 한다.

흔히 evals로 줄여 부르는 평가는 이 문제를 잘 보여준다. 평가는 AI 시스템이 정의된 기준을 충족하는지 판단하기 위한 구조화된 테스트다. 은행의 평가는 허용 가능한 사기 조사, 규정을 준수하는 설명, 또는 에스컬레이션 판단의 기준을 담을 수 있다.

이러한 테스트는 모델보다 더 가치 있을 수 있다. 경쟁사는 유사한 기반 모델을 라이선스할 수 있지만, 은행의 정의, 사례, 경계 사례, 실패 임계값을 쉽게 재현할 수는 없다. 평가는 압축된 조직 경험을 나타낸다.

같은 논리는 수정에도 적용된다. AI가 생성한 계약 분석을 수정하는 변호사는 어떤 조항에 주목해야 하는지, 조직이 어떤 위험을 수용하는지를 드러낸다. 에이전트의 판단을 재정의하는 지원 관리자는 기술적으로 정확한 답변과 고객 관계를 유지하는 답변의 차이를 보여준다.

이 때문에 기업 AI 데이터에는 저장된 콘텐츠뿐 아니라 행동 정보도 포함된다. 프롬프트는 현재의 작업을 설명한다. 수정은 조직이 올바른 작업이 무엇이어야 했다고 믿는지를 설명한다.

사업 리더들은 측정 문제에도 직면한다. 생산성 대시보드는 흔히 생성된 요약, 종료된 티켓, 승인된 코드를 집계한다. 하지만 재사용 가능한 전문성이 기업 내부에 축적됐는지, 공급업체가 통제하는 서비스에 축적됐는지는 거의 측정하지 않는다.

따라서 도입은 장기적인 통제력을 약화시키면서도 즉각적인 성과를 보일 수 있다. 직원들은 업무를 더 빨리 완료하지만, 조직은 에이전트가 왜 개선됐는지에 관한 이식 가능한 기록을 확보하지 못한다. 전문성은 채팅 기록, 독점 로그, 접근할 수 없는 서비스 텔레메트리에 흩어진 채 남는다.

지식 노동자는 더 작은 규모에서 이 압박을 느낀다. 최고의 프롬프트와 검토 패턴은 일상 업무의 일부가 되지만, 많은 이들이 이를 구조화된 자산으로 내보낼 수 없다. 도구를 바꾸면 축적된 학습은 종종 사라진다.

사용자가 관리하는 지식 계층에 원본 맥락을 연결해 두는 통제된 knowledge blending 접근 방식은 이러한 파편화를 줄일 수 있다. 전략적 원칙은 어떤 제품보다 넓다. 중요한 맥락은 모델과 워크플로를 넘나들며 계속 활용할 수 있어야 한다.

따라서 조달 팀은 단순한 학습 데이터 관련 약속을 넘어 검토해야 한다. 보존, 2차 사용, 사람의 검토, 하도급 처리업체, 결과물 소유권, 피드백 처리, 삭제, 이식성, 감사 접근에 대해 명확한 답을 얻어야 한다.

제품 에디션도 구분해야 한다. 소비자용, 비즈니스용, API, 엔터프라이즈 서비스는 서로 다른 약관 아래 운영되는 경우가 많다. 관리형 회사 워크스페이스에서 제공되는 보호 조치가 직원이 개인 계정으로 로그인할 때는 적용되지 않을 수 있다.

이 차이 때문에 섀도 AI는 특히 위험하다. 섀도 AI는 조직의 승인이나 가시성 없이 사용되는 도구를 뜻한다. 승인된 시스템이 더 느리거나 기능이 부족하다고 느낀 직원은 가치 있는 맥락을 소비자 서비스에 업로드할 수 있다.

그러면 기업은 기술적 경계와 계약상 경계를 모두 잃는다. 어떤 계정이 사용됐는지, 기록 기능이 켜져 있었는지, 콘텐츠가 어떻게 보존됐는지, 결과물이 어디에서 업무 프로세스에 들어갔는지 알지 못할 수 있다.

필요한 대응은 일률적인 금지가 아니다. 유용한 도구를 금지하면 활동이 관리 시스템 밖으로 더 밀려나는 경우가 많다. 더 지속 가능한 대응은 직원에게 승인된 선택지를 제공하는 동시에 지식 경계를 가시화하고 강제하는 것이다.

실제 상충 관계는 더 나은 맥락과 통제력 사이에 있다

역정보 역설은 가장 안전한 AI 시스템이 종종 정보가 가장 부족한 시스템인 반면, 가장 많은 정보를 얻은 시스템은 통제하기 더 어려워질 수 있기 때문에 존재한다.

범용 모델은 민감한 정보 없이도 일상적인 문서를 작성할 수 있다. 하지만 추가 맥락 없이는 내부 예외를 신뢰성 있게 설명하거나, 비공개 설계를 평가하거나, 기업 특화 프로세스 안에서 작동할 수 없다.

일반적으로 RAG라고 부르는 검색 증강 생성은 관련 기록을 찾아 모델 요청에 삽입함으로써 이 맥락을 제공한다. 에이전트는 도구를 사용하고, 상태를 읽으며, 여러 단계에 걸쳐 행동한다는 점에서 한 단계 더 나아간다.

각 기능은 잠재적 가치를 높인다. 동시에 기업 AI 데이터가 이동하는 경로도 넓힌다. 하나의 요청은 애플리케이션, 검색 서비스, 모델 엔드포인트, 로깅 플랫폼, 연결된 도구, 모니터링 시스템을 거칠 수 있다.

따라서 관련 보안 경계는 모델 제공업체를 넘어 확장된다. 기업은 프롬프트, 검색된 문단, 중간 추론 산출물, 도구 결과, 사용자 피드백을 받는 모든 구성 요소를 파악해야 한다.

이 때문에 “학습에 사용하지 않는다”는 약속만으로는 문제가 해결되지 않는다. 학습은 사용의 한 형태일 뿐이다. 악용 모니터링을 위한 보존, 대화 기록을 위한 저장, 관리자의 검토, 연결된 서비스의 처리는 별개의 질문으로 남는다.

Microsoft는 프롬프트, 응답, Microsoft Graph를 통해 접근한 데이터가 Microsoft 365 Copilot의 기반 모델 학습에 사용되지 않는다고 밝힌다. 엔터프라이즈 보호 조치는 조직 사용을 기존의 상업용 데이터 보호 장치 아래에 둔다.

OpenAI 역시 기본적으로 자사의 비즈니스 제품이나 API 플랫폼에서 나온 데이터로 학습하지 않는다고 밝히고 있습니다. 비즈니스 개인정보 보호 문서에 따르면, 요건을 충족하는 조직은 보존 설정을 구성할 수 있으며, 적격 API 사용에는 데이터 보존 없음도 포함됩니다.

Google은 Workspace 내 Gemini에 사용되는 콘텐츠가 허가 없이 Workspace 외부의 기반 생성형 모델을 학습하거나 개선하는 데 사용되지 않는다고 설명합니다. Workspace 제어 문서는 관리형 비즈니스 사용을 개인 서비스 및 선택적 데이터 공유 기능과도 구분합니다.

Anthropic은 상업용 API를 통해 보존되는 데이터가 명시적인 허가 없이 모델 학습에 사용되지 않는다고 명시합니다. 또한 적격 제품을 위한 데이터 보존 없음 방식을 문서화하고 있으나, 이용 가능 여부는 서비스와 계약에 따라 달라집니다.

이러한 약속은 Nadella의 경고 중 가장 강한 형태에 직접 이의를 제기합니다. 엔터프라이즈 제공업체가 고객 콘텐츠로 학습하지 않는다면, 모든 프롬프트가 자동으로 공유 기반 모델을 개선한다고 암시하는 것은 부정확합니다.

다만 이 역설은 더 좁고 방어 가능한 형태로는 남아 있습니다. 원본 콘텐츠가 일반 학습에서 제외되더라도, 고객은 모델을 둘러싸고 구축된 학습 시스템에 대한 실질적인 통제권을 잃을 수 있습니다.

한 소프트웨어 회사가 코딩 에이전트를 배포한다고 가정해 보겠습니다. 제공업체는 해당 회사의 리포지터리로 기반 모델을 학습하지 않습니다. 그러나 에이전트의 가치는 독점 지침, 테스트 스위트, 리뷰 의견, 도구 통합, 그리고 축적되는 승인 변경 기록에 달려 있습니다.

이러한 자산이 제공업체의 환경 안에만 존재한다면, 회사는 여전히 종속 위험에 노출됩니다. 코드는 소유하지만, 에이전트를 효과적으로 만든 전체 프로세스까지 반드시 소유하는 것은 아닙니다.

모델 이식성은 도움이 되지만 이것만으로 문제를 해결하지는 못합니다. 두 모델은 동일한 프롬프트를 다르게 해석할 수 있습니다. 도구 호출, 메모리, 안전 필터, 컨텍스트 한도, 출력 형식도 서로 다릅니다. 에이전트를 이전하려면 단순히 API 엔드포인트를 바꾸는 것이 아니라 행동 특성을 보존해야 합니다.

따라서 기업에는 이식 가능한 평가가 필요합니다. 동일한 비즈니스 테스트를 여러 모델에 실행하고 자체 기준으로 결과를 비교할 수 있어야 합니다. 이렇게 하면 모델 선택은 되돌릴 수 없는 종속이 아니라 운영상의 결정이 됩니다.

통제된 피드백도 필요합니다. 싫어요 버튼은 제공업체가 제품을 개선하는 데 도움이 될 수 있지만, 내부 수정에는 전략적 가치가 있을 수 있습니다. 조직은 어떤 피드백이 경계를 벗어나고 어떤 피드백이 비공개 학습 기록의 일부가 될지를 결정해야 합니다.

로컬 지식 시스템은 또 다른 통제 계층을 제공합니다. 원본 자료, 주석, 검색 인덱스를 조직의 거버넌스 아래에 두면 불필요한 공개를 줄일 수 있습니다. 또한 지식 계층이 인터페이스와 함께 사라지지 않으므로 모델 교체도 더 현실적으로 만듭니다.

검색 가능한 기술 지식 베이스는 검색된 컨텍스트와 함께 출처 정보를 보존할 수 있습니다. 엔지니어가 답변이 왜 나타났는지와 어떤 문서가 이를 뒷받침했는지를 검증해야 할 때 이는 중요합니다.

이러한 조치 중 어느 것도 상충 관계를 없애지는 못합니다. 지나치게 많은 컨텍스트를 숨기는 회사는 일반적인 답변과 취약한 자동화를 얻게 됩니다. 모든 것을 공유하는 회사는 성능을 얻는 대신 노출, 종속성, 거버넌스 업무가 늘어납니다.

적절한 경계는 워크플로에 따라 달라집니다. 공개 마케팅 문구를 작성하는 일은 인수합병 문서를 검토하는 일과 위험이 다릅니다. 승인된 정책을 요약하는 일은 에이전트가 프로덕션 인프라를 수정하게 하는 일과도 다릅니다.

전략적 과제는 공개 범위를 행동의 가치와 되돌릴 수 있는 정도에 맞추는 것입니다. 고가치 독점 워크플로에는 저위험 관리 업무보다 더 엄격한 격리, 더 명확한 로그, 더 강한 이식성, 더 신중한 승인이 필요합니다.

Microsoft에도 적용되는 Microsoft의 주장

Nadella의 경고가 설득력 있는 이유는 Microsoft가 자신이 설명한 갈등의 바깥에 있을 수 없기 때문입니다.

Microsoft는 모델, Copilot, 클라우드 인프라, 에이전트 개발 도구, 데이터 플랫폼, 보안 서비스를 판매합니다. 고객이 더 많은 업무와 컨텍스트를 자사 시스템으로 가져올수록 이익을 얻습니다.

이러한 위치가 역(逆) 정보 역설을 무효로 만들지는 않습니다. 다만 Microsoft를 경쟁 구도 안에 포함시킵니다. 이 긴장은 Microsoft와 다른 AI 기업 간의 대립이 아닙니다. 도움이 되는 지능이라는 공급업체의 약속과 독립적인 지식을 보존해야 하는 구매자의 필요 사이의 긴장입니다.

Microsoft의 엔터프라이즈 보호 조치는 이 우려의 중요한 부분을 다룹니다. 조직의 프롬프트를 기반 모델 학습에 사용하는 것을 제한하고, Copilot을 기존의 ID, 규정 준수, 데이터 제어와 연결합니다.

그럼에도 기업은 이러한 보호 조치를 따르면서 Microsoft 환경에 의존할 수 있습니다. 에이전트는 Microsoft Graph 권한, Copilot Studio 흐름, Purview 정책, 독점 커넥터 또는 공급업체별 평가 도구에 의존할 수 있습니다.

OpenAI, Google, Anthropic도 동등한 검증 대상입니다. 모두 엔터프라이즈 고객이 더 깊은 데이터 소스를 연결하고, 더 강력한 에이전트를 배포하며, 워크플로 적용 범위를 넓히기를 원합니다. 이러한 목표를 이루려면 고객은 확대되는 기술적 표면을 신뢰해야 합니다.

경쟁은 유용한 압력을 만듭니다. 제공업체들은 이제 학습 제외, 관리 제어, 암호화, 보존 옵션, 규정 준수 기능을 내세웁니다. 구매자는 이러한 약속을 비교하고 더 강한 조건을 협상할 수 있습니다.

그러나 제품 문서만으로는 시스템 수준의 검증을 대체할 수 없습니다. 제공업체가 자체 엔드포인트를 보호하더라도 타사 커넥터가 프롬프트를 저장할 수 있습니다. 내부 로깅 도구가 전체 응답을 캡처할 수도 있습니다. 잘못 구성된 검색 계층은 부서 간 기록을 노출할 수 있습니다.

에이전트형 AI는 행동이 새로운 데이터를 생성하기 때문에 위험도를 높입니다. 문서를 검토하는 에이전트는 요약을 만듭니다. 워크플로를 완료하는 에이전트는 의사결정, 도구 호출, 실패, 재시도, 승인으로 이어지는 순서를 생성합니다.

그 순서는 원본 문서보다 더 많은 것을 드러낼 수 있습니다. 조직이 정보를 행동으로 전환하는 방식을 보여 줍니다. 경쟁업체에 이러한 프로세스 지식은 기반 데이터보다 얻기 어려울 수 있습니다.

보안 위험은 공급업체의 사용 범위를 넘어 확장됩니다. 프롬프트 인젝션은 악의적인 지침이 사용자 입력 또는 검색된 콘텐츠를 통해 AI 시스템에 들어올 때 발생합니다. 이러한 지침은 에이전트의 방향을 바꾸거나, 기밀 컨텍스트를 노출하거나, 연결된 도구를 오용하려 할 수 있습니다.

NIST AI 프로필은 조직이 관리해야 할 위험으로 프롬프트 인젝션, 개인정보 보호, 보안, 데이터 거버넌스를 지목합니다. 이는 핵심 요점을 강화합니다. 계약상 학습 제한은 공격자가 과도하게 연결된 시스템을 악용하는 것을 막지 못합니다.

따라서 Nadella의 에세이를 회의적으로 읽으면 두 가지 측면이 있습니다. 첫째, 엔터프라이즈 서비스는 이미 일방향 학습이라는 개념을 복잡하게 만드는 보호 장치를 제공합니다. 둘째, Microsoft는 비공개 엔터프라이즈 인프라를 해결책으로 제시하는 데 상업적 이해관계를 갖고 있습니다.

그가 제안하는 방향은 Microsoft의 포트폴리오와 부합합니다. 통제된 데이터 경계, 비공개 평가, 적응 가능한 모델, 거버넌스가 적용된 에이전트를 원하는 기업은 더 많은 클라우드 및 보안 서비스를 구매할 수 있습니다. 진단과 Microsoft의 사업적 이해관계는 모두 현실일 수 있습니다.

또 다른 불확실성도 있습니다. 모든 흔적이나 수정이 의미 있는 경쟁 정보로 이어지는 것은 아닙니다. 많은 프롬프트는 반복적이거나 품질이 낮거나 특정 업무에만 국한됩니다. 모든 상호작용 데이터를 기업의 보물처럼 취급하면, 그에 비례한 이익 없이 비용이 많이 드는 통제를 만들 수 있습니다.

조직에 필요한 것은 신화가 아니라 분류입니다. 규제 대상 의사결정에 대한 컴플라이언스 담당자의 수정은 매우 가치 있을 수 있습니다. 회의 노트의 형식을 바꿔 달라는 요청은 아마 그렇지 않을 것입니다.

팀은 독점적 판단이 실제로 시스템에 유입되는 지점을 식별해야 합니다. 그러면 모든 AI 상호작용을 동일한 장벽 뒤에 두지 않고도, 해당 워크플로에 연결된 평가, 사례, 추적 기록, 의사결정을 보호할 수 있습니다.

또한 대규모로 도입하기 전에 공급업체 이식성을 테스트해야 합니다. 기업이 다른 환경에서 행동을 재현할 수 없다면 모델 중립성 주장은 의미가 거의 없습니다. 구매자에게는 프롬프트, 도구, 메모리, 평가, 로그가 함께 이동할 수 있다는 증거가 필요합니다.

가장 강력한 해답은 모든 워크로드를 완전히 자체 호스팅하는 것이 아닙니다. 모델을 내부에서 운영하면 인프라, 보안, 인력, 모델 관리 부담이 발생합니다. 또한 팀이 더 약한 기능이나 더 느린 업데이트에 머물 수 있습니다.

혼합 아키텍처가 더 현실적입니다. 범용 업무에는 계약상 보호를 갖춘 관리형 서비스를 사용할 수 있습니다. 민감한 워크플로에는 격리된 환경, 더 제한적인 검색, 비공개 평가, 더 엄격한 보존 정책을 적용할 수 있습니다.

이 균형은 계속 수정할 수 있도록 열어 두어야 합니다. 모델이 개선되면 더 적은 컨텍스트로 같은 결과를 얻을 수 있습니다. 에이전트의 접근 권한이 늘어나면 손상된 상호작용의 결과도 더 커질 수 있습니다.

Google News 독자가 다음으로 주시해야 할 것

다음 단계는 이식 가능한 평가, 집행 가능한 보존 제어, 그리고 엔터프라이즈 학습이 구매자에게 남는다는 증거에 의해 결정될 것입니다.

첫 번째 신호는 주요 AI 공급업체가 평가 이식성을 표준 엔터프라이즈 기능으로 만들지 여부입니다. 고객은 문서화된 형식으로 테스트 사례, 채점 규칙, 실패 기록, 사람의 수정을 내보낼 수 있어야 합니다.

그렇게 된다면 Nadella의 진단은 힘을 얻는 동시에 종속 위험은 약해집니다. 공급업체는 학습 계층이 고객에게 속한다는 점을 인정하고, 고객을 묶어 두는 평가 인프라가 아니라 모델 성능으로 경쟁하게 될 것입니다.

평가를 계속 내보내기 어렵다면 역설은 더 구체적으로 드러납니다. 고객은 문서를 소유할 수 있지만, 허용 가능한 AI 행동을 정의하는 기준을 옮길 실질적인 방법은 부족할 수 있습니다.

두 번째 신호는 검증 가능한 보존 제어의 확대입니다. 계약 문구도 중요하지만, 구매자에게는 관리 설정, 로그, 삭제 증거, 지역별 처리 선택권, 악용 모니터링을 위한 명확한 경계도 필요합니다.

데이터 보존 없음은 면밀히 살펴볼 가치가 있지만, 그 표현은 신중히 해석해야 합니다. 이는 적격 API 트래픽에 적용될 수 있지만, 제품 인터페이스, 안전 관련 기록, 연결된 서비스는 제외할 수 있습니다.

제공업체가 이러한 제어를 에이전트와 업무용 애플리케이션 전반으로 확장한다면, 상류 방향의 정보 이전에 대한 가장 강한 우려는 약해질 것입니다. 에이전트의 기능이 강해질수록 예외가 늘어난다면, 보안 책임자는 더 격리된 배포 방식을 필요로 하게 됩니다.

세 번째 신호는 기업이 재사용 가능한 지식 자산을 통해 AI 가치를 보고하는지 여부입니다. 생산성 통계만으로는 누가 학습을 통제하는지 알 수 없습니다. 기업은 이식 가능한 평가 적용 범위, 문서화된 수정, 모델 전환 시간, 승인된 경계 안에서 운영되는 고위험 워크플로의 비중을 측정해야 합니다.

이러한 지표의 개선은 Nadella가 설명한 구매자 통제형 학습 모델을 뒷받침할 것입니다. 공급업체 대시보드와 불투명한 이력에 대한 지속적인 의존은 지능이 고객의 실질적 통제 밖에서 축적되고 있음을 시사할 것입니다.

Google News는 AI 보안, 개인정보 보호, 지적 재산, 공급업체 집중, 에이전트 거버넌스 등 여러 현재의 우려와 연결되기 때문에 이 논쟁을 계속 다룰 가능성이 큽니다. 독자는 모든 상업용 모델이 모든 프롬프트로 학습한다는 주장으로 이를 축소해서는 안 됩니다.

더 유용한 질문은 더 좁습니다. AI 시스템이 회사별 업무를 1년간 수행한 뒤, 회사는 이전에는 갖고 있지 않았던 어떤 재사용 가능한 지능을 소유하게 되는가?

엔터프라이즈 구매자는 저장된 채팅 기록 이상의 답을 제시할 수 있어야 합니다. 축적된 전문성을 버리지 않고도 모델을 바꿀 수 있는 선택지와 함께, 이식 가능한 평가, 거버넌스가 적용된 컨텍스트, 문서화된 워크플로, 추적 가능한 수정을 보유해야 합니다.

개발자는 프롬프트, 도구 결과, 에이전트 추적 정보가 어디에 저장되는지 물어야 합니다. 보안팀은 워크플로 내의 모든 처리 주체를 파악해야 합니다. 지식 근로자는 자신이 제공하는 정보를 어떤 계정과 정책이 적용하는지 알아야 합니다.

역정보 역설은 호스팅형 AI를 신뢰할 수 없다는 증거가 아닙니다. 이는 개인정보 보호 약속이 교환의 일부만 다룬다는 경고입니다. 보호된 프롬프트라도 유용한 학습 결과의 소유권을 확보하거나 이전하기 어려운 시스템에 계속 관여할 수 있습니다.

향후 Google News 보도가 공급업체 정책과 엔터프라이즈 배포를 추적할 때는 실질적인 이식성의 증거를 살펴봐야 합니다. 고객은 에이전트가 학습한 내용을 내보내고, 다른 환경에서 테스트를 다시 실행하며, 중요한 결정의 맥락을 보존할 수 있을까요?

그 답이 ‘예’가 된다면, 엔터프라이즈 AI는 고객의 정체성을 흡수하지 않으면서도 외부 지능을 제공할 수 있습니다. 답이 계속 불분명하다면 두 번째 대가는 청구서에 나타나지 않을 것입니다. 회사가 떠나려 할 때 비로소 드러날 것입니다.