Meta 토큰 급증, Microsoft를 조용한 AI 공급업체로 만들다
보도에 따르면 Meta는 매주 Microsoft를 통해 수조 개의 AI 토큰을 소비하고 있으며, 이로써 Llama 개발사는 Azure의 최대 인공지능 고객 가운데 하나가 됐다.
이 Meta 토큰 규모가 주목받는 이유는 Meta가 수년간 자체 모델, 데이터센터, 오픈웨이트 AI 전략을 구축해 왔기 때문이다. 그럼에도 이 회사는 직원들이 OpenAI, Anthropic 및 다른 개발사의 경쟁 모델에 접근할 수 있도록 하는 인프라에 여전히 의존하고 있다.
Microsoft는 이 반전의 수혜를 본다. 모든 고객이 Microsoft 모델 하나로 표준화할 필요는 없다. 기업들이 모델을 비교하거나, 코딩 에이전트를 실행하거나, 관리형 플랫폼을 통해 워크로드를 라우팅할 때마다 Azure는 수익을 거둘 수 있다.
따라서 핵심 갈등은 하나의 클라우드 계약보다 더 크다. Meta는 AI 스택에 대한 통제권을 원하지만, 직원들은 어떤 작업이든 가장 잘 처리하는 모델에 즉시 접근하기를 원한다.
보고된 Meta 토큰 규모가 판도를 바꾼다
보도에 따르면 Meta는 제한적인 실험을 위해 Azure를 사용하는 것이 아니다. Microsoft가 호스팅하는 AI 모델의 주요 소비자가 됐다.
2026년 8월 20일자 원문 보도에 따르면 Meta는 Azure를 통한 모델 접근에 연간 수억 달러를 지출한다. 이 보도는 익명을 요구한 사안 정통자의 발언을 인용했다.
해당 소식통에 따르면 Meta는 매주 이 플랫폼을 통해 수조 개의 토큰을 처리한다. 토큰은 AI 모델이 요청 과정에서 읽거나 생성하는 작은 텍스트 단위다.
Meta와 Microsoft 어느 쪽도 보도된 계약에 관해 언급하지 않았다. 이는 주요 수치가 공개 기업 공시가 아닌 한 명의 익명 소식통에 귀속된다는 점에서 중요하다.
보도는 정확한 주간 규모, 참여하는 Meta 팀, 모델 구성 비율을 밝히지 않았다. 또한 입력 토큰과 생성된 출력, 캐시된 콘텐츠, 반복적인 에이전트 활동도 구분하지 않았다.
이런 차이는 토큰 총량의 비용과 의미를 크게 바꿀 수 있다. 긴 코딩 워크플로는 눈에 보이는 답변보다 훨씬 많은 토큰을 소비할 수 있다.
AI 에이전트는 여러 내부 단계에 걸쳐 파일을 검사하고, 코드를 생성하며, 변경 사항을 테스트하고, 작업을 수정하는 경우가 많다. 각 단계는 추가 컨텍스트를 모델에 다시 보낼 수 있다.
그럼에도 보고된 규모는 가끔 하는 챗봇 대화가 아닌 지속적인 프로덕션 사용을 시사한다. “수조”라는 표현이 암시하는 최저치조차 엄청난 수의 모델 상호작용을 의미한다.
시점 역시 Meta 내부의 더 광범위한 흐름과 맞아떨어진다. 앞선 보도는 직원들이 내부 AI 도구를 통해 매달 수십조 개의 토큰을 소비한다고 전했다.
Meta는 특히 소프트웨어 개발에서 엔지니어들이 AI를 적극적으로 활용하도록 장려해 왔다. 코딩은 반복적인 모델 호출이 빠르게 누적될 수 있는 가장 명확한 환경 중 하나다.
이 회사는 직원의 토큰 사용량을 측정하는 내부 시스템도 실험했다. 이러한 추적은 도입을 촉진할 수 있지만, 소비량을 생산성의 오해를 부르는 대리 지표로 만들 수도 있다.
토큰이 많다고 해서 반드시 더 나은 소프트웨어나 더 빠른 배포를 뜻하지는 않는다. 잘못 구성된 에이전트는 유용한 결과물을 내지 못한 채 같은 리포지터리를 반복적으로 검사할 수 있다.
이러한 불확실성은 독자들이 Meta 토큰 수치를 해석하는 방식에 영향을 줘야 한다. 이는 계산 활동을 측정하는 지표이지 사업 가치를 측정하는 지표가 아니다.
그럼에도 이 수치는 경쟁 구도를 바꾼다. Meta는 단지 독점 AI 공급자들의 대안을 구축하는 것이 아니다. Microsoft를 통해 그 공급자들에 대한 상당한 접근권도 구매하고 있다.
이것이 이 글의 핵심 긴장을 만든다. 인프라와 모델 계층에서 독립을 추구하는 회사가 애플리케이션 계층에서는 여전히 외부 역량을 필요로 한다.
Meta가 여전히 외부에서 만든 모델을 필요로 하는 이유
보고된 Azure 지출은 AI 모델을 소유하는 것과 모든 직원 워크플로를 잘 지원하는 것 사이의 실질적인 격차를 보여준다.
Meta는 Llama를 개발하고, 대규모 컴퓨팅 클러스터를 운영하며, 소비자 서비스 전반에 Meta AI를 탑재하고 있다. 하지만 이런 노력만으로 모든 엔지니어에게 모든 작업에 가장 적합한 도구가 자동으로 제공되는 것은 아니다.
코딩 어시스턴트에는 유능한 파운데이션 모델 이상의 것이 필요하다. 리포지터리 접근, 긴 컨텍스트 처리, 도구 실행, 보안 통제, ID 관리, 안정적인 가용성이 필요하다.
직원들은 기획, 디버깅, 조사, 문서 분석을 위해서도 모델을 비교한다. 한 워크로드에서 뛰어난 성능을 보이는 모델이 다른 작업에서는 어려움을 겪을 수 있다.
Azure는 기업 구매자에게 여러 모델 계열로 향하는 관리형 경로를 제공한다. Microsoft는 Foundry 플랫폼을 하나의 공급업체에 대한 독점적 의존이 아니라 모델 선택권을 중심으로 포지셔닝해 왔다.
Microsoft는 2026 회계연도 3분기 실적 발표에서 1만 곳 이상의 고객이 Foundry에서 여러 모델을 사용했다고 밝혔다. 또한 Anthropic과 OpenAI 모델 사용량 모두 전 분기 대비 두 배 증가했다고 말했다.
이 분기별 발언은 고객이 자체 모델을 개발하더라도 Microsoft가 이익을 얻을 수 있는 이유를 보여준다. Azure는 기업이 경쟁 시스템을 시험하고, 관리하며, 소비하는 통제 계층이 된다.
Meta의 내부 모델 전략은 다른 문제를 다룬다. Llama는 모델 아키텍처, 배포, 오픈웨이트 개발자 커뮤니티에 대한 영향력을 회사에 제공한다.
오픈웨이트 모델은 개발자가 해당 라이선스에 따라 실행하거나 맞춤화할 수 있는 훈련된 파라미터를 배포한다. 이는 기업 배포에 필요한 운영 작업을 없애주지는 않는다.
대기업은 용량, 지연 시간, 권한, 데이터 경계, 모델 업그레이드를 관리해야 한다. 새롭게 부상하는 모든 모델에 내부 시스템을 맞추는 것보다 관리형 접근권을 구매하는 편이 더 빠를 수 있다.
AI 모델 순위가 빠르게 바뀔 때 이러한 선택은 더욱 중요해진다. 직원들은 코드 생성에는 한 모델을, 어려운 추론에는 다른 모델을 선호할 수 있다.
이들을 Llama로만 제한하면 외부 지출은 줄일 수 있다. 그러나 다른 모델이 더 잘 처리하는 업무를 맡은 팀의 속도를 늦출 수도 있다.
따라서 Meta는 전형적인 플랫폼 선택에 직면한다. 내부 통제를 중심으로 최적화할 수도 있고, 선택권을 보존하는 대신 외부 공급업체에 대한 의존을 받아들일 수도 있다.
보고된 선택은 접근성을 우선시한다. Meta는 모든 워크플로를 자체 모델과 인프라에 강제하기보다 Microsoft에 비용을 지불할 의향이 있는 것으로 보인다.
이는 Llama가 실패했다는 뜻은 아니다. 소비자 어시스턴트, 추천 시스템, 광고 제품, 내부 코딩 도구는 서로 다른 기술적 요구사항을 가진다.
오히려 이 결정은 모델 소유와 모델 소비가 분리됐음을 시사한다. 기업은 주요 모델 계열을 만들면서도 동시에 경쟁사의 주요 고객으로 남을 수 있다.
Meta 토큰 급증은 이 분리의 한 결과다. Meta 직원들은 관리형 플랫폼이 제공하는 어떤 모델이든 사용할 수 있으며, 그 선택이 다른 회사의 AI 사업을 강화하더라도 마찬가지다.
고객이 하나의 모델을 고르지 않을 때 Microsoft가 승리한다
Microsoft의 강점은 승리하는 모델 하나를 소유하는 데만 있지 않다. 시장이 하나의 모델로 정착하지 않는 상황에서도 수익을 낼 수 있다.
이 이야기에서 명백한 대립 구도는 AI 독립을 향한 Meta의 추진과 피할 수 없는 모델 마켓플레이스로서 Microsoft의 역할이다.
Meta는 컴퓨팅, 모델, 제품 유통에 대한 더 많은 통제권을 원한다. Microsoft는 기업이 필요한 거의 모든 모델에 접근하고 관리하는 장소로 Azure가 남기를 원한다.
이 목표들은 직접적으로 양립 불가능한 것은 아니다. Meta의 수요가 Microsoft에 수익, 사용 데이터, 기업 AI 유통에 대한 영향력을 제공할 때 경쟁적 성격을 띤다.
Microsoft의 모델 카탈로그는 독점 시스템과 오픈웨이트 시스템을 아우른다. 고객은 별도의 인프라 계약을 협상하지 않고도 공통의 클라우드 관계를 통해 서로 다른 워크로드를 라우팅할 수 있다.
이 접근법은 하나의 연구소에 베팅하는 전략적 위험을 줄인다. OpenAI가 특정 벤치마크에서 뒤처지거나 Anthropic이 코딩에 더 적합해져도 Azure는 계속 고객을 지원할 수 있다.
Microsoft는 실적 발표에서 이러한 폭넓은 선택지를 강조했다. 회사는 Foundry 고객들이 OpenAI, Anthropic, 오픈소스, 지역별 모델을 사용하고 있다고 밝혔다.
또한 300곳 이상의 고객이 연중 1조 개 이상의 토큰을 처리할 궤도에 있다고 말했다. 보도된 Meta의 주간 소비량은 이를 연간 기준치보다 훨씬 높은 수준에 놓는다.
이 수치들은 완전히 비교 가능한 것은 아니다. Microsoft의 공개 발언은 연간 기준치를 충족하는 고객을 가리키는 반면, Meta 보도는 전체 주간 활동을 설명한다.
그럼에도 이 대비는 Meta가 가질 수 있는 규모를 보여준다. 보도된 워크로드는 Microsoft의 확대되는 기업 고객 기반 안에서도 Meta를 유난히 집약적인 고객으로 만들 것이다.
Microsoft는 자체 MAI 모델도 구축하고, 자사 제품을 위해 OpenAI 기술을 조정한다. 그러나 Azure가 이러한 시스템이 모든 기술적 비교에서 승리할 것을 요구하지는 않는다.
이 클라우드 플랫폼은 접근, 청구, 보안, 용량을 처리함으로써 입지를 확보한다. 이는 인프라 공급자가 직접 소유하지 않은 소프트웨어에서도 이익을 거뒀던 초기 클라우드 경쟁과 닮아 있다.
이러한 입지는 Amazon과 Google에 압박을 가한다. 두 회사 모두 폭넓은 모델 카탈로그, 관리형 AI 서비스, 자체 파운데이션 모델을 제공한다.
Amazon은 Anthropic을 전략의 중심에 두었고, Google은 Gemini를 Vertex AI 플랫폼과 결합한다. Microsoft는 여러 모델 계열에 분산된 고객 수요로 맞설 수 있다.
Meta의 존재는 이 이야기를 강화한다. Meta는 전통적인 기업 구매자가 아니라 광범위한 내부 인프라를 갖춘 또 다른 하이퍼스케일 기술 기업이기 때문이다.
Meta가 모델 접근권을 구매한다는 보도된 결정은 막대한 시스템을 자체 구축할 역량을 갖춘 기업에도 클라우드 플랫폼이 가치를 유지한다는 점을 시사한다.
Microsoft는 집계된 수요를 활용해 더 많은 데이터센터와 가속기 구매를 정당화할 수도 있다. 더 높은 가동률은 그렇지 않으면 비싸게 유지되거나 충분히 활용되지 못할 용량의 경제성을 개선한다.
이러한 이점에는 위험도 따른다. Microsoft는 충분한 컴퓨팅 자원을 확보하고, 공급업체 관계를 관리하며, 모델 접근이 낮은 마진의 범용 상품이 되는 것을 막아야 한다.
현재로서는 보고된 Meta 토큰 소비량이 Microsoft의 마켓플레이스 전략을 뒷받침한다. Microsoft는 Meta를 설득해 Microsoft가 단독 통제하는 하나의 모델이 Llama를 대체해야 한다고 납득시키지 못해도 거래에서 이길 수 있다.
Meta의 AI 독립에는 값비싼 예외가 있다
반전은 Meta의 규모가 외부 의존을 없애지 않는다는 점이다. 오히려 유용한 모든 모델에 대한 접근의 가치를 높인다.
Meta는 세계 최대 규모의 AI 훈련 시스템 일부를 구축했다. 자체 인프라 설명에 따르면 수십 개의 AI 클러스터가 수백 개 팀과 매일 수천 건의 훈련 작업을 지원한다.
이 인프라는 추천 시스템, 광고, 생성형 제품, 모델 개발을 뒷받침한다. Meta는 수십만 개의 고성능 GPU에 해당하는 용량을 계획했다.
이러한 자원은 Meta를 대부분의 기업보다 외부 클라우드에 덜 의존하게 만들어야 한다. Azure 관련 보도는 그 결론이 지나치게 단순한 이유를 보여준다.
훈련과 추론은 서로 다른 워크로드다. 훈련은 모델을 만들거나 업데이트하는 과정이고, 추론은 기존 모델을 실행해 요청에 응답하는 과정이다.
Meta는 상당한 훈련 인프라를 소유하면서도 통제하지 않는 모델에 대한 추론 접근권을 구매할 수 있다. 내부 공급이 단기 수요를 충족하지 못할 때 외부 용량을 사용할 수도 있다.
회사의 확대되는 AI 예산은 맥락을 더해 준다. Meta는 최신 지출 전망에 따르면 2026년 자본지출을 1,300억~1,450억 달러로 예상했다.
이 투자는 모델 학습에만 쓰이지 않는다. 데이터 센터에는 구축에 시간이 걸리는 네트워킹, 전력, 냉각, 스토리지, 서버가 필요하다.
외부 모델 액세스는 직원 수요와 내부 역량 사이의 간극을 메울 수 있다. 또한 Meta 자체 모델이 모든 특화 기능을 갖출 때까지 기다리지 않아도 된다.
이것이 핵심적인 반전이다. 내부 투자가 늘어났다고 해서 폐쇄적이고 자급자족 가능한 환경이 만들어진 것은 아니다.
오히려 공격적인 도입은 하나의 모델 계열이 충족할 수 있는 수준을 넘어서는 수요를 만든다. Meta는 같은 AI 공급망 안에서 경쟁자이자 고객이 된다.
이러한 방식은 클라우드 컴퓨팅의 초기 단계를 닮았다. 대형 기술 기업들은 내부 인프라를 구축하면서도 특정 서비스나 수요 급증에 대응하기 위해 외부 용량을 임대했다.
AI는 임대 자산에 서버뿐 아니라 모델 역량까지 포함된다는 점에서 한 층 더 복잡하다. 직원들이 중요하게 여기는 것은 기반 소유 구조가 아니라 출력 품질, 도구 활용, 신뢰성이다.
이는 조직적 과제를 만든다. Meta는 외부 토큰이 일시적 가교인지, 아니면 직원 업무의 영구적 구성 요소인지 결정해야 한다.
사용이 일시적이라면 내부 모델과 인프라는 결국 더 많은 수요를 흡수해야 한다. 반대로 지속된다면 Microsoft는 Meta의 AI 운영 내부에서 오래가는 역할을 확보한 셈이다.
이 구분은 Llama의 경쟁적 의미에도 영향을 준다. Llama는 Meta의 유일한 내부 표준이 되지 않더라도 영향력을 유지할 수 있다.
오픈 웨이트는 맞춤화와 로컬 배포를 가능하게 해 개발자를 끌어들인다. 내부 팀은 시간을 절약해 주는 경우 호스팅형 독점 모델을 선택할 수 있다.
개발자와 엔터프라이즈 구매자에게 이는 모델 전략을 단일 벤더의 결정으로 취급해서는 안 된다는 유용한 경고다. 실제 배포 환경에서는 여러 시스템에 작업을 라우팅하는 방식이 점점 늘고 있다.
이러한 라우팅은 그 자체로 지식 관리 문제를 낳는다. 팀은 도구 전반에 걸쳐 프롬프트, 결정, 평가, 출력을 보존해야 한다.
검색 가능한 AI 지식 베이스는 이러한 맥락을 정리하는 데 도움이 될 수 있다. 하지만 기저의 모델 지출이 측정 가능한 생산성을 만들어 내는지까지 해결할 수는 없다.
그 답은 토큰 총량이 아니라 성과를 통해 확인해야 한다.
토큰 수치가 입증하지 못하는 것
수조 개의 토큰은 규모를 보여 주지만, Meta가 지출에 비례하는 가치를 얻고 있음을 입증하지는 않는다.
핵심 수치는 어느 회사에서도 검증되지 않았다. 이 수치는 내부 협약을 잘 아는 익명의 인물에게서 나왔다.
Meta와 Microsoft는 논평을 거부했고, 몇 가지 기본적인 질문은 여전히 답이 없다. 두 회사 모두 정확한 모델, 협상 조건, 워크로드, 측정 기간을 공개하지 않았다.
토큰 집계 방식도 시스템마다 다를 수 있다. 제공업체는 프롬프트, 출력, 캐시된 컨텍스트, 도구 결과, 내부 추론을 서로 다르게 계산할 수 있다.
따라서 주간 토큰 총량을 직원 활동으로 직접 환산할 수는 없다. 해당 트래픽 중 얼마나 많은 부분이 프로덕션 시스템에 도달했는지도 알 수 없다.
일부 사용량은 자동화된 평가에서 비롯됐을 수 있다. 팀은 정확성, 지연 시간, 안전성을 비교하기 위해 같은 프롬프트를 여러 모델에 일상적으로 보낸다.
다른 트래픽은 대규모 리포지터리를 반복해서 읽는 코딩 에이전트에서 발생할 수 있다. 이러한 시스템은 엔지니어 한 명이 한 번 검토할 작업을 수행하면서도 막대한 토큰 수를 생성할 수 있다.
캐싱은 상황을 더 복잡하게 만든다. 제공업체는 이전에 처리한 컨텍스트를 재사용할 수 있어, 청구 기록에 여전히 큰 토큰 규모가 표시되더라도 컴퓨팅 작업은 줄어든다.
모델 크기도 중요하다. 소형 모델은 프런티어 추론 모델보다 더 적은 컴퓨팅으로 토큰을 처리할 수 있다.
따라서 에너지 추정치는 신중해야 한다. Microsoft 자체 추론 분석은 질의당 에너지가 모델, 하드웨어, 소프트웨어, 데이터 센터, 워크로드 특성에 따라 달라진다고 설명한다.
이 연구는 정해진 대화형 질의량에 대한 에너지를 추정했다. Meta의 보고된 트래픽에 적용할 수 있는 신뢰할 만한 환산 기준을 제공하지는 않는다.
비용 수치에도 비슷한 불확실성이 있다. 엔터프라이즈 계약에는 예약 용량, 할인, 약정, 모델별 상이한 요금이 포함될 수 있다.
Meta의 연간 지출과 주간 토큰 수를 보편적인 토큰당 비용으로 나누어서는 안 된다. 그 결과에는 공개되지 않은 모델과 계약 조건이 뒤섞이게 된다.
생산성 문제도 있다. 내부 인센티브는 직원들이 유용한 출력을 극대화하지 않고 눈에 띄는 사용량을 극대화하도록 만들 수 있다.
토큰 기반 리더보드는 긴 프롬프트와 비효율적인 에이전트를 보상할 위험이 있다. 더 나은 평가는 완료된 작업, 채택된 코드, 결함률, 절감된 시간을 측정하는 방식이다.
보안과 거버넌스도 여전히 우려 사항이다. 기업 컨텍스트를 외부 모델에 전송하려면 권한, 데이터 통제, 로깅, 보존 정책이 필요하다.
Azure는 관리형 경계를 제공할 수 있지만, 관리가 위험을 없애지는 않는다. Meta는 각 도구가 어떤 리포지터리와 문서에 접근할 수 있는지 여전히 결정해야 한다.
따라서 가장 강한 결론은 헤드라인보다 더 제한적이다. Meta는 내부 자원에도 불구하고 막대한 규모로 외부 AI 용량을 구매하는 것으로 전해진다.
가장 약한 결론은 토큰 소비가 Microsoft의 모델이 Llama보다 뛰어남을 입증한다는 주장일 것이다. 현재 이용 가능한 증거는 그 주장을 뒷받침하지 않는다.
이는 Meta가 Llama 투자를 줄일 계획이라는 점도 보여 주지 않는다. 외부 사용은 내부 모델 개발의 지속과 공존할 수 있다.
독자들은 보도된 Meta 토큰 수치를 기술적 패배의 증거가 아니라 의존성의 증거로 받아들여야 한다.
이 의존성이 지속될지 보여 줄 세 가지 신호
다음 단계는 워크로드 성과, Meta의 내부 모델 채택, 그리고 Microsoft가 토큰 증가를 지속 가능한 마진으로 전환하는 능력에 의해 결정될 것이다.
첫 번째 신호는 Meta가 직원들의 외부 모델 접근 방식을 바꾸는지 여부다. 새로운 예산, 제한 또는 기본 모델 규칙은 경영진이 통제되지 않은 소비를 재무 문제로 보고 있음을 시사한다.
내부 모델로의 전환은 독립성 주장을 강화할 것이다. 폭넓은 접근이 계속된다면 Microsoft의 마켓플레이스 지위를 뒷받침하게 된다.
두 번째 신호는 Meta의 다음 모델 및 인프라 출시다. 중요한 질문은 Meta가 또 다른 Llama 출시를 발표하는지 여부가 아니다.
유의미한 지표는 내부 팀이 프로덕션 워크로드를 해당 모델로 옮기는지 여부다. Meta 내부 채택은 회사가 모델 투자를 실질적인 대체로 전환할 수 있음을 보여 줄 것이다.
대규모 출시 이후에도 직원들이 경쟁 시스템을 선호한다면, 보도된 Azure 관계는 일시적이기보다 구조적으로 보일 것이다.
세 번째 신호는 Microsoft의 재무 공시에 나타난다. 투자자들은 AI 용량, Azure 성장률, 매출총이익률, 멀티모델 Foundry 채택에 대한 언급을 지켜봐야 한다.
Microsoft의 AI 매출 런레이트는 공개 실적 발표에 따르면 회계연도 3분기에 370억 달러를 넘어섰다. 회사는 대형 Foundry 고객 사이에서도 토큰이 빠르게 증가했다고 보고했다.
이 수치들은 수요 이야기를 뒷받침하지만, 인프라 비용은 여전히 높다. Microsoft는 모든 용량이 매출을 창출하기 전에 가속기를 구매하고 시설을 구축해야 한다.
Meta와 같은 고객은 가동률을 개선할 수 있다. 그러나 모델 서빙 비용이 계약 요금보다 느리게 하락한다면, 대규모로 협상된 사용량도 여전히 마진을 압박할 수 있다.
따라서 이 관계는 두 회사를 모두 시험한다. Meta는 외부 모델 구매가 내부 전략을 훼손하지 않으면서 유용한 업무를 가속한다는 점을 입증해야 한다.
Microsoft는 수조 개의 토큰을 처리하는 일이 인상적인 활동량만이 아니라 매력적인 경제성을 만든다는 점을 입증해야 한다.
Amazon, Google 및 특화 모델 제공업체는 두 결과 모두에 영향을 미칠 것이다. 더 낮은 요금이나 더 나은 모델은 Meta의 워크로드를 Azure에서 끌어낼 수 있다.
Microsoft는 용량, 거버넌스, 모델 폭을 통해 지위를 방어할 수 있다. 오늘 선호되는 모델이 다음 분기에도 선호될 것이라고 가정할 수는 없다.
개발자에게 실무적 교훈은 모델 선택이 여전히 유동적이라는 점이다. 시스템은 평가를 보존하고, 주변의 모든 프로세스를 재구축하지 않고도 워크로드를 옮길 수 있게 해야 한다.
엔터프라이즈 구매자도 성과 지표를 요구해야 한다. 토큰 규모는 컴퓨팅 시간이나 스토리지와 마찬가지로 운영 투입 요소다.
더 나은 질문은 제공 속도, 품질, 신뢰성, 매출에 관한 것이다. 팀은 에이전트가 얼마나 많은 토큰을 소비했는지가 아니라 문제를 해결했는지 알아야 한다.
보도된 Meta 토큰 급증은 기업 AI 도입 규모를 가시화한다. 동시에 그 규모에서 만들어지는 가치에 관한 공개 정보가 얼마나 적은지도 드러낸다.
향후 몇 달간 Meta의 모델 기본값, 내부 워크로드 이전, Microsoft의 클라우드 마진을 지켜보라. 이 신호들을 함께 보면 Azure가 Meta의 가교인지, 아니면 AI 스택의 영구 계층인지 알 수 있을 것이다.
팀이 모델 사용을 확대하고 있다면, 어떤 워크플로가 개선되고 어떤 워크플로가 활동량만 늘리는지 추적하는 것부터 시작하라. 뒷받침되는 컨텍스트를 보존하고, 모델 관련 결정을 기록하며, 반복 작업 전반의 성과를 비교하라. 각 시스템이 검토 시간을 줄이는지, 품질을 높이는지, 또는 이전에는 미완으로 남았던 업무를 처리하는지 물어야 한다. 이러한 규율은 더 큰 토큰 총량을 쫓는 것보다 중요하다. Meta의 보고된 소비량은 극단적 규모의 도입을 드물게 보여 주지만, 그 자체로 템플릿을 제공하지는 않는다. 진정한 기준은 Meta가 경쟁 공급업체에 대한 의존도를 낮추면서 그 토큰을 더 나은 제품으로 전환하는지 여부가 될 것이다.
