Epoch AI 비용 보고서, AI 가격이 무어의 법칙보다 더 빠르게 하락하고 있음을 발견
Epoch AI는 2023년 이후 고정된 AI 성능 수준에 도달하는 비용이 분기마다 47% 하락했다고 밝혔다. 새로운 Epoch AI 비용 보고서는 이 추세가 연간 13배의 하락에 해당하며, 컴퓨팅 하드웨어의 역사적 개선 속도보다 훨씬 빠르다고 분석한다.
이 결과가 모든 AI 청구액이 같은 폭으로 감소한다는 뜻은 아니다. 이는 수학, 과학, 게임을 아우르는 5개 벤치마크에서 정의된 점수에 도달하는 가장 저렴한 방법을 측정한 것이다. 최신 모델은 더 적은 자원을 쓰거나 더 저렴한 인프라를 사용하면서도 비슷한 결과를 낼 수 있기 때문에 이 구분은 중요하다.
무어의 법칙과의 비교는 여전히 인상적이다. 컴퓨팅은 수십 년에 걸쳐 꾸준히 저렴해졌고, 개인용 컴퓨터, 스마트폰, 클라우드 서비스의 등장을 가능하게 했다. Epoch AI는 성능을 반영한 AI 가격이 이제 컴퓨팅의 역사적 하락 속도보다 여섯 배 빠르게 떨어지고 있다고 주장한다.
직접적인 수혜자는 워크로드를 모델 간에 옮길 수 있는 개발자와 조직이다. 압박은 반복 수익이 필요한 OpenAI, Anthropic, Google 및 서드파티 AI 서비스에 가해진다. 프리미엄 모델은 우위를 확보할 수 있지만, 경제적 우위는 몇 달 안에 사라질 수 있다.
이것이 핵심적인 긴장을 만든다. 더 저렴한 지능은 더 폭넓은 도입을 뒷받침하지만, 동시에 가격 기반 충성도를 약화시키고 순수 모델 접근권의 가치를 압축한다. 지속 가능한 사업은 제품이 컨텍스트, 워크플로 통합, 신뢰, 독점 데이터를 보유하는 모델 상위 계층에 자리할 수 있다.
Epoch AI 비용 보고서가 실제로 측정한 것
Epoch AI는 단순히 AI 토큰의 표시 가격이 아니라, 결과를 얻는 비용의 하락을 측정했다.
이 연구 기관은 2026년 9월 22일 비용 분석을 발표했다. 연구원 Luke Emberson과 David Roodman은 2023년부터 5개 벤치마크에 걸친 모델 성능과 비용을 조사했다.
벤치마크는 수학, 대학원 수준 과학, 체스 및 기타 기술 게임의 어려운 문제를 다룬다. 이후 Epoch AI는 서로 다른 시점에 도달 가능한 각 성능 수준으로 가는 가장 저렴한 경로를 추정했다.
이 경계는 파레토 프런티어라고 불린다. 이는 주어진 비용에서 이용 가능한 최상의 성능을 제공하는 모델을 나타낸다. 이 프런티어 밖의 모델은 더 나은 결과를 제공하지 않으면서 비용만 더 든다.
이 방법은 추론 예산도 고려한다. 추론 모델은 문제를 검토하는 데 더 많은 출력 토큰을 사용해 정답을 맞힐 확률을 높일 수 있다. 따라서 단순한 토큰 가격만으로는 작업 완료에 드는 전체 비용을 알 수 없다.
Epoch AI는 평가 트랜스크립트를 사용해 서로 다른 예산 한도에서 성능이 어떻게 변하는지 추정했다. 이 접근법은 연방 Center for AI Standards and Innovation, 즉 CAISI의 연구를 따른다. 이를 통해 모델을 하나의 표시 요금으로 축소하는 대신, 각 모델의 비용-성능 곡선을 산출한다.
두 모델이 토큰을 다르게 사용할 때 이 구분은 중요해진다. 토큰이 더 저렴한 모델이라도 작업을 완료하기 전에 훨씬 더 많은 토큰을 생성할 수 있다. 질문부터 정답까지 기준으로 측정하면 겉보기 가격 우위는 사라질 수 있다.
5개 벤치마크 전반에서 Epoch AI는 성능을 반영한 비용이 분기당 평균 47% 하락했다고 계산했다. 이 추세가 복리로 이어진다면 1년 동안 약 13배 감소하는 것과 같다.
속도는 분야별로 달랐다. 게임 기반 퍼즐에서는 가격이 분기당 약 39%에서 43% 하락했다. 수학 벤치마크에서는 분기당 약 50%에서 52%로 더 빠른 하락이 나타났다.
한 사례는 토큰 정가에 의존하지 않고도 그 규모를 보여준다. Epoch AI는 출시 시점이 18개월도 차이 나지 않는 두 OpenAI 모델을 비교했다. 보도에 따르면 후속 모델은 이전 모델 비용의 약 725분의 1로 동일한 GPQA Diamond 점수에 도달했다.
GPQA Diamond는 물리학, 화학, 생물학의 대학원 수준 문제를 중심으로 설계된 객관식 벤치마크다. 이는 까다로운 추론의 한 유형을 포착하지만, 유용한 작업의 전체 범위를 포괄하지는 않는다.
따라서 헤드라인 수치는 측정된 역량의 가격 지수로 읽는 것이 가장 적절하다. 이는 학습 비용, 기업 지출 또는 모든 고객의 청구서를 설명하지 않는다. 가장 비용 효율적인 이용 가능 모델에서 벤치마크 결과를 얼마나 저렴하게 구매할 수 있는지를 추적한다.
이 결과는 이전 증거와도 일치한다. Stanford의 AI Index는 2022년 11월부터 2024년 10월 사이 GPT-3.5 수준 성능의 비용이 280배 이상 하락했다고 밝혔다.
Stanford의 결과는 Epoch AI의 전체 비용-성능 곡선 집합이 아니라 폭넓은 지식 벤치마크인 MMLU를 사용했다. 방법에 따라 하락률은 달라지지만, 두 결과 모두 이례적으로 가파른 하락을 가리킨다.
어느 하나의 추정치보다 중요한 것은 이러한 수렴이다. 독립적인 데이터셋은 유용한 AI 역량이 그 기반 하드웨어보다 훨씬 빠르게 저렴해지고 있음을 점점 더 보여준다.
AI 성능 가격이 এত দ্রুত 하락하는 이유
이 하락은 더 나은 알고리즘, 작지만 유능한 모델, 향상된 하드웨어, 제공업체 간의 치열한 경쟁이 결합한 결과다.
무어의 법칙은 시간이 흐르면서 트랜지스터 밀도가 증가하는 역사적 경향을 설명한다. 이 표현은 트랜지스터 수와 고객 가격이 동일한 측정값은 아니지만, 컴퓨팅 비용 하락과도 연관되어 있다.
Epoch AI는 1940년부터 2001년까지 컴퓨팅 가격이 연복리 기준 약 1.51배의 비율로 하락했다고 추정한다. 2023년 이후 AI 성능 가격의 추정 하락률은 연간 약 13배다.
이 차이는 AI가 반도체 발전 이상의 혜택을 받기 때문에 발생한다. 모델 개발자는 아키텍처, 학습 방식, 데이터 선택, 양자화, 추론 소프트웨어, 하드웨어 활용률을 동시에 개선한다.
양자화는 모델을 저장하고 실행하는 데 사용되는 수치 정밀도를 낮춘다. 신중하게 적용하면 모델의 유용한 성능 대부분을 보존하면서 메모리 및 컴퓨팅 요구량을 줄일 수 있다.
전문가 혼합 시스템은 또 다른 경로를 제공한다. 모든 파라미터를 사용하는 대신 각 입력에 대해 모델의 선택된 부분만 활성화한다. 이 설계는 모든 요청에 전체 네트워크를 요구하지 않으면서 역량을 높일 수 있다.
지식 증류는 더 큰 모델의 유용한 행동을 더 작은 모델로 이전한다. 그러면 더 작은 모델은 더 낮은 지연 시간과 자원 사용으로 일상적인 작업을 처리할 수 있다. 조직은 추가 역량이 결과를 바꾸는 문제에만 더 큰 모델을 투입할 수 있다.
경쟁은 이러한 엔지니어링 개선을 증폭시킨다. 제공업체들은 이전 플래그십에 가까운 성능을 내도록 설계된 더 작은 모델을 반복적으로 출시한다. 오픈웨이트 모델 역시 독립 호스팅 업체가 서빙 효율성으로 경쟁할 수 있게 한다.
The Price of Progress라는 2026년 연구 논문은 Epoch AI와 Artificial Analysis 데이터를 사용해 더 보수적인 결론에 도달했다. 이 논문은 비교 가능한 벤치마크 성능의 연간 하락률을 5배에서 10배로 추정했다.
저자들은 하락의 원인을 하드웨어 효율성, 알고리즘 개선, 경제적 경쟁으로 돌렸다. 하드웨어와 시장 효과를 분리하려 한 뒤, 알고리즘 효율성만으로 연간 약 세 배의 진전이 있었다고 추정했다.
이 추정치는 Epoch AI의 연간 13배 헤드라인 수치보다 낮다. 그렇다고 어느 분석도 무용해지는 것은 아니다. 이는 결과가 벤치마크, 성능 임계값, 모델 집합, 프런티어 정의에 얼마나 크게 좌우되는지를 보여준다.
Epoch AI의 지표는 각 역량 수준에서 가장 저렴하게 이용 가능한 모델을 선호한다. 이 프레임워크는 시장을 정기적으로 재평가하고 현재의 비용 선도 모델로 전환하는 매우 적극적인 구매자를 가정한다.
실제 조직은 다르게 행동한다. 모델을 테스트하고, 프롬프트를 다시 작성하고, 보안을 점검하고, 평가를 업데이트하고, 계약을 재협상하는 데 시간을 쓴다. 이러한 전환 비용 때문에 많은 사용자가 이론상의 하락 폭을 온전히 누리지는 못한다.
이 연구는 성능 수준이 처음 등장한 직후 가격이 가장 빠르게 떨어진다는 점도 발견했다. 5개 주요 벤치마크 전반에서 프런티어에 가까운 성능은 처음에는 분기당 66% 더 저렴해졌다.
성능 수준이 처음 등장한 지 2년이 지나자 추정 분기 하락률은 32%로 둔화됐다. 여전히 빠른 연간 감소를 뜻하지만, 초기 경쟁만큼 극적이지는 않다.
Epoch AI는 새로운 역량이 잠시 프리미엄을 얻는다고 제안한다. 이후 경쟁업체가 이를 재현하거나 근사하고, 기존 제공업체는 서빙 비용을 최적화한다. 역량이 보편화될수록 프리미엄은 줄어든다.
이 패턴은 전체 하락 속도가 무어의 법칙을 앞지를 수 있는 이유를 설명한다. 시장은 새로운 칩 세대를 기다리지 않는다. 지속되는 하드웨어 개선 위에 소프트웨어, 모델, 인프라, 경쟁의 개선을 겹겹이 쌓는다.
또한 AI 기업들이 데이터센터에 더 많은 비용을 쓰는 동안에도 이 추세가 지속될 수 있는 이유를 설명한다. 가장 앞선 모델을 학습하는 일과 이미 확립된 역량을 제공하는 일은 서로 다른 경제 활동이다.
프런티어 연구소는 연구에 점점 더 많은 자원을 쏟아부을 수 있는 반면, 고객은 어제의 성능에 더 적은 비용을 지불한다. 업계는 동시에 최전선 역량의 창출 비용은 높이고, 기존 역량의 소비 비용은 낮추고 있다.
더 저렴한 지능이 모델 벤더에 가하는 압박
빠른 가격 하락은 순수 모델 역량을 프리미엄 수익을 낼 수 있는 기간이 짧아지는 감가상각 상품으로 만든다.
OpenAI, Anthropic, Google 및 기타 모델 개발업체는 성능 프런티어를 차지하기 위해 경쟁한다. 이 위치는 관심, 기업 시험 도입, 그리고 가장 강력한 이용 가능 시스템을 찾는 개발자를 끌어들인다.
Epoch AI의 결과는 이 우위가 경제적 가치를 빠르게 잃는다는 점을 시사한다. 5개 벤치마크 전반에서 가장 빠른 하락은 새롭게 달성된 성능 수준 근처에서 나타났다. 이후 경쟁업체가 따라잡으면서 선도적 결과에 붙은 프리미엄은 약화됐다.
이는 어려운 수익 문제를 만든다. 연구소는 프런티어 모델을 학습하고, 평가하고, 보안을 확보하고, 운영하기 위해 상당한 투자가 필요하다. 그러나 고객이 고정된 역량에 지불할 가격은 해당 모델이 긴 상업적 수명을 누리기도 전에 하락할 수 있다.
원래 뉴스 분석은 그에 따른 고객 충성도 문제를 강조했다. 몇 달 안에 비슷한 모델이 더 저렴해진다면 구매자는 대안을 계속 확보해 둘 이유가 생긴다.
서드파티 AI 서비스는 이 문제의 더 날카로운 형태에 직면한다. 한 모델에 대한 접근권만 재판매하는 제품은 더 새로운 모델을 사용하는 다른 서비스에 의해 가격 경쟁에서 밀릴 수 있다.
고객은 단일 제공업체에 장기적으로 의존하는 것에도 의문을 제기할 수 있다. 오늘 선호되는 모델은 다음 출시 주기 이후 우위를 잃을 수 있다. 고정된 아키텍처는 하락하는 업스트림 비용을 마이그레이션 압력으로 바꿀 수 있다.
시장 반응은 이미 제품 설계에서 드러나고 있다. 제공업체들은 코딩 환경, 에이전트, 파일 시스템, 커넥터, 메모리, 보안 제어, 배포 옵션을 통해 점점 더 경쟁하고 있다.
이러한 기능은 벤치마크가 측정하지 못하는 가치를 만든다. 주변 서비스가 기업의 권한, 용어, 문서, 검토 프로세스를 이해할 때 모델 전환은 더 어려워진다.
신뢰성도 중요하다. 더 저렴한 답변이 더 많은 사람의 검토를 유발한다면 기업에는 이득이 되지 않는다. 유용한 지표는 실패와 감독을 포함해, 수용 가능한 작업을 완료하는 데 드는 총비용이다.
지연 시간은 또 다른 차이를 만든다. 두 모델이 비슷한 벤치마크 점수를 달성하더라도 응답 시간은 다를 수 있다. 대화형 제품은 추론 비용을 조금 낮추는 것보다 예측 가능한 속도를 더 중시하는 경우가 많다.
개인정보 보호와 거버넌스 역시 가격보다 더 중요할 수 있다. 구매자는 데이터가 어디로 가는지, 제공업체가 얼마나 오래 보관하는지, 관리자가 접근 규칙을 강제할 수 있는지를 알아야 한다.
이러한 요소는 기존 공급업체가 순수한 가격 경쟁에 맞설 수 있는 방어막이 된다. 익숙한 인터페이스, 기존 통합, 보안 승인, 축적된 사용자 맥락은 모두 실질적인 전환 비용을 만든다.
다만 이러한 방어막은 제품이 모델 선택 이상의 가치를 제공할 때만 작동한다. 범용 프롬프트를 얹은 얇은 래퍼는 유능한 대체재가 넘쳐날 때 보호받기 어렵다.
가장 강력한 독립 서비스는 모델을 교체 가능한 인프라로 취급할 가능성이 크다. 간단한 작업은 효율적인 시스템으로 라우팅하고, 어려운 작업에는 프리미엄 성능을 배정할 수 있다.
이 접근법에는 충성도보다 평가가 필요하다. 개발자는 품질, 지연 시간, 실패율, 엔드투엔드 자원 소비를 포함해 자신들의 사용 사례를 대표하는 테스트를 마련해야 한다.
이는 조직이 AI 조달을 바라보는 방식도 바꾼다. 더 이상 어느 단일 모델이 모든 벤치마크에서 이기는지가 질문이 아니다. 서로 다른 작업 전반에서 수용 가능한 결과를 제공하는 포트폴리오가 무엇인지가 핵심이다.
지식 집약형 제품에는 또 다른 장점이 있다. 사용자가 신뢰하는 정보를 정리하는 시스템은 기반 모델이 바뀌어도 가치를 유지할 수 있다. 축적된 맥락은 특정 세대의 모델이 아니라 워크플로에 속한다.
바로 이 지점에서 AI 지식 베이스는 단순한 채팅 접근보다 더 오래 지속될 수 있다. 그 가치는 반복 작업 전반의 검색, 정리, 권한 관리, 연속성에서 나온다.
모델 비용 하락은 이러한 제품의 마진을 개선할 수 있다. 고객 대상 비용을 올리지 않고도 더 강력한 모델을 사용하거나, 워크플로 내부의 더 많은 단계에 AI를 적용할 수 있다.
같은 하락세는 주로 접근성으로 경쟁하는 서비스에는 타격이 될 수 있다. 인공지능이 더 저렴해질수록 차별화는 독점적 맥락, 신뢰할 수 있는 실행, 측정 가능한 비즈니스 성과로 이동한다.
수치가 증명하지 못하는 것
벤치마크 성능을 조정한 가격 하락은 실질적인 증거지만, 유용하거나 신뢰할 수 있는 작업을 보편적으로 측정하는 기준은 아니다.
Epoch AI는 여러 한계를 직접 밝힌다. 주요 데이터셋은 약 3년을 다루며, 모델과 벤치마크의 조합이 불완전하고 추정치에 노이즈가 포함돼 있다.
이는 수십 년에 걸쳐 측정된 기술과 AI를 비교하기에는 짧은 기간이다. 컴퓨팅, 배터리, 시퀀싱, 전력도 각각 제품, 시장, 성능 정의가 다르다.
그럼에도 비교는 역사적 규모를 보여준다. 하지만 벤치마크 답변은 전력 단위나 배터리 용량만큼 물리적으로 표준화돼 있지는 않다.
벤치마크 최적화는 또 다른 우려를 낳는다. 개발자는 의도적이든 간접적이든 인기 있는 평가와 유사한 작업으로 모델을 훈련할 수 있다. 그러면 익숙하지 않은 실제 환경보다 테스트에서 성능이 더 빠르게 향상될 수 있다.
Epoch AI는 이 위험을 benchmaxxing이라고 부른다. 무작위화된 벤치마크 요소는 문제 인식과 암기를 줄일 수 있지만, 모든 형태의 오염이나 표적 최적화를 없앨 수는 없다.
높은 점수 역시 신뢰할 수 있는 작업 수행을 보장하지 않는다. GPQA Diamond는 어려운 과학 질문에 대한 응답을 측정한다. 모델이 프로젝트를 유지할 수 있는지, 회사 정책을 따르는지, 비용이 큰 오류를 피하는지는 측정하지 않는다.
NIST의 평가 가이드라인은 모델 비교가 작업 환경, 도구, 프롬프트, 추론 수준, 샘플 수, 채점 방식에 따라 달라진다고 강조한다. 작은 구성 차이도 성능과 비용을 모두 바꿀 수 있다.
CAISI 평가 역시 엔드투엔드 측정이 중요한 이유를 보여준다. 토큰 요금이 낮은 모델도 더 많은 토큰을 소비하거나, 더 많은 도구 호출을 사용하거나, 더 자주 실패할 수 있다. 따라서 총 작업 비용은 겉보기에 비싼 경쟁 모델보다 높아질 수 있다.
실제 사용자도 Epoch AI의 프런티어 방법이 가정하는 만큼 효율적으로 모델을 전환하지 않는다. 마이그레이션에는 테스트, 통합 작업, 위험 검토, 직원 교육이 필요하다.
한 기업은 이미 보안 요건을 충족하는 더 비싼 제공업체를 합리적으로 유지할 수 있다. 다른 기업은 변경이 자동화된 워크플로를 방해할 수 있기 때문에 안정적인 출력을 중시할 수 있다.
수요는 절감분의 일부를 흡수할 수 있다. AI 작업이 저렴해지면 개발자는 종종 더 자주 실행하고, 맥락을 확장하며, 더 많은 후보를 요청하거나, 검증 단계를 추가한다.
이는 제번스 효과의 한 형태다. 효율이 높아지면 단위당 비용은 낮아지지만, 총소비가 충분히 늘어나 전체 지출이 유지되거나 증가할 수 있다.
추론 모델은 이 효과를 강화한다. 더 효율적인 기본 모델은 답변을 검증하거나 대안을 탐색하는 데 추가 연산을 사용할 수 있다. 사용자는 더 나은 결과를 얻지만, 총사용량이 그에 비례해 줄어들지는 않을 수 있다.
보고서는 프런티어 개발 자체가 저렴해졌다는 점도 보여주지 않는다. 새로운 선도 모델을 훈련하는 데는 이미 알려진 성능을 제공하는 것과 다른 자원이 필요하다.
연구팀은 실험, 전문 인력, 데이터 준비, 평가, 인프라에 비용을 지출한다. 확립된 작업의 추론 비용이 극적으로 낮아지는 동안에도 이러한 비용은 상승할 수 있다.
이 구분은 겉보기의 모순을 해소한다. 모델 제공업체는 대규모 인프라 프로그램을 발표하면서도, 산출물의 성능 조정 가격은 계속 낮아질 수 있다.
따라서 이 보고서는 좁지만 중요한 결론을 뒷받침한다. 비교 가능한 측정 성능은 시장 프런티어에서 훨씬 저렴해졌다.
모든 워크로드가 같은 속도로 개선된다는 뜻은 아니다. 동등한 안전성, 신뢰성, 개인정보 보호, 지연 시간, 통합 품질도 보장하지 않는다.
구매자는 분기당 47%라는 비율을 예산 전망이 아니라 시장 신호로 받아들여야 한다. 방향성은 충분히 뒷받침되는 것으로 보인다. 정확한 속도는 여전히 측정 방식과 사용자 행동에 민감하다.
AI 비용 하락을 시험할 세 가지 신호
다음 시험대는 벤치마크 절감 효과가 실제 워크로드, 공급업체 경제성, 일상적인 전환 행동과 맞닿았을 때도 유지되는지다.
첫 번째 신호는 독립적으로 측정된 엔드투엔드 작업 비용이다. 더 많은 평가는 코딩, 리서치, 고객 지원, 문서 워크플로를 성공적으로 완료하는 데 필요한 총비용을 비교해야 한다.
이러한 테스트에는 안정적인 작업 세트, 통제된 도구, 명확한 품질 기준이 필요하다. 재시도, 추론 토큰, 도구 호출, 지연 시간, 사람의 검토도 포함해야 한다.
이 측정치가 Epoch AI의 추정치에 가까운 속도로 하락한다면 보고서의 상업적 함의는 더욱 강해질 것이다. 훨씬 더 느린 하락은 벤치마크 절감 효과가 실질적 이득을 과장한다는 것을 보여줄 것이다.
두 번째 신호는 공급업체 가격 정책과 제품 패키징이다. 모델 제공업체는 추론 가격 하락에 대응해 요금을 낮추거나, 사용 한도를 늘리거나, 더 넓은 구독 상품에 기능을 묶을 수 있다.
또한 에이전트 플랫폼, 엔터프라이즈 제어 기능, 스토리지, 독점 도구를 통해 수익을 방어할 수도 있다. 이러한 추가 요소는 경쟁이 기본 모델 위 계층으로 이동하고 있음을 확인해 줄 것이다.
공급업체가 프리미엄 기능을 표준 접근으로 얼마나 자주 대체하는지 지켜볼 필요가 있다. 플래그십 독점 기능이 더 작은 모델로 빠르게 이전된다면, 프런티어 프리미엄이 일시적이라는 Epoch AI의 발견을 뒷받침할 것이다.
세 번째 신호는 고객 전환이다. 프런티어 계산은 구매자가 가장 저렴하면서도 충분한 성능을 갖춘 모델을 반복적으로 선택한다고 가정한다. 실제 도입 데이터는 그들이 정말 그렇게 행동하는지 보여줄 것이다.
개발자는 각 작업을 적절한 모델로 보내는 라우팅 시스템을 도입할 수 있다. 기업은 장기 계약을 맺기 전에 이동성 조항과 표준화된 평가를 요구할 수 있다.
반대로 통합된 워크플로는 큰 가격 차이에도 고객을 한 제공업체에 묶어둘 수 있다. 그런 결과는 성능 가격 하락이 자동으로 공급업체 충성도를 무너뜨린다는 주장을 약화시킬 것이다.
오픈 웨이트 모델은 세 신호 모두에 영향을 미칠 것이다. 독립 호스팅 운영자에게는 배포를 최적화하고 폐쇄형 제공업체의 비용에 도전할 더 큰 자유를 준다. 동시에 보안, 유지보수, 평가에 대한 책임도 운영자에게 더 많이 이전한다.
가장 가능성 높은 결과는 최저 요금을 향한 획일적 경쟁이 아니다. AI 시장은 여러 계층으로 분화될 것이다.
모델 계층에서는 비교 가능한 성능이 계속 가격 압력을 받을 것이다. 애플리케이션 계층에서는 공급업체가 맥락, 워크플로 소유권, 신뢰, 실행 품질을 통해 경쟁할 것이다.
개발자에게 실질적인 대응은 선택권을 유지하는 것이다. 모델 인터페이스를 모듈화하고, 평가 세트를 유지하며, 토큰 소비만이 아니라 성공적인 작업 완료를 측정해야 한다.
엔터프라이즈 구매자 역시 비용 안정성에 대한 가정을 더 짧게 가져가야 한다. 오늘 효율적으로 보이는 계약도 기반 서비스가 여전히 유능하더라도 빠르게 경쟁력을 잃을 수 있다.
지식 노동자는 AI 기능이 더 많은 제품으로 확산될 것을 예상해야 한다. 추론 비용이 낮아지면 더 많은 상황에서 요약, 검색, 초안 작성, 분류, 백그라운드 처리가 경제성을 갖게 된다.
Epoch AI 비용 보고서는 이 부문이 얼마나 수익성이 높아질지를 결론내리지 않는다. 다만 고정된 수준의 측정된 지능에 대한 접근이 이례적으로 빠르게 희소성을 잃고 있음을 보여준다.
이제 모든 AI 제품이 마주한 질문은 구체적이다. 모델 성능이 1년 안에 13배 저렴해진다면, 어떤 가치가 고유하게 남는가? 신뢰할 수 있는 맥락과 안정적인 워크플로를 가진 제품에는 답이 있다. 모델 접근 외에는 거의 제공하지 않는 서비스는 아직 답을 찾아야 한다.
