Gartner AI 지출 전망, 2조 5,200억 달러 도달… 그러나 미국 기업은 ROI의 시험대에

Gartner는 2026년 전 세계 AI 지출이 2조 5,200억 달러에 이를 것이라는 전망을 내놓으며 기업 AI 전략의 판돈을 높였다. 그러나 Gartner의 AI 지출 전망에는 뚜렷한 모순이 담겨 있다. 지출은 가속하고 있지만, 여전히 많은 기업이 수익을 입증하거나 운영 비용을 추적하고 단일 책임 임원을 지정하지 못하고 있다.

이 핵심 수치는 미국 기업의 소프트웨어 청구서만을 의미하지 않는다. 인프라, 서비스, 소프트웨어, 사이버보안, 모델, 데이터, 개발 플랫폼에 대한 전 세계 지출을 포함한다. 전체의 절반 이상은 인프라에 해당하며, 상당 부분은 기술 공급업체가 투자한다.

이 구분은 부상하는 AI 후유증을 덜이 아니라 더 명확하게 보여준다. 하이퍼스케일러들은 기업 수요가 완전히 성숙하기 전에 역량을 구축하고 있다. 한편 기업 리더들은 실험을 측정 가능한 매출, 비용 절감 또는 운영 속도 향상으로 전환해야 한다는 압박을 받고 있다.

이제 핵심 경쟁은 AI 야망과 실행 규율 사이에서 벌어진다. 기업 구매자들은 인공지능을 포기하는 것이 아니라, 책임자·기준선·운영 경제성이 없는 파일럿에 점점 더 관대하지 않게 되고 있다. 다음 단계에서는 각 워크로드를 사업 성과와 연결할 수 있는 기업이 보상받게 될 것이다.

Gartner AI 지출 전망이 실제로 측정하는 것

2조 5,200억 달러라는 수치는 단일한 기업용 소프트웨어 구매 물결이 아니라 전체 기술 공급망을 나타낸다.

Gartner의 1월 전망에 따르면 2026년 전 세계 AI 지출은 2조 5,278억 달러에 달한다. 이는 2025년의 1조 7,572억 달러보다 44% 증가한 수준이다. Gartner는 총액이 2027년 3조 3,367억 달러에 이를 것으로 예상한다.

AI 인프라는 2026년 전망치 가운데 1조 3,664억 달러를 차지한다. 이 범주에는 AI 시스템을 개발하고 운영하는 데 필요한 컴퓨팅, 스토리지, 네트워킹 및 관련 기반 기술이 포함된다. 이는 예상 총액의 약 54%에 해당한다.

Gartner는 인프라 지출이 2025년 수준에서 약 4,010억 달러 증가할 것으로 본다. AI 최적화 서버 지출만도 49% 늘어날 전망이다. 이 서버들은 연간 전체 AI 지출의 17%를 차지하게 된다.

서비스는 5,886억 달러로 두 번째로 큰 범주를 형성한다. 소프트웨어는 4,525억 달러로 뒤를 잇고, 사이버보안은 513억 달러를 차지한다. 모델은 264억 달러, 데이터 과학 플랫폼은 추가로 311억 달러 규모다.

더 작은 범주에는 애플리케이션 개발 플랫폼과 AI 데이터가 포함된다. 이들의 총액은 인프라와 비교하면 여전히 작지만, 모델과 실제 업무 프로세스 사이에 얼마나 많은 계층이 놓여 있는지를 보여준다.

따라서 전체 AI spending forecast는 Copilot, Gemini, Claude, ChatGPT 같은 어시스턴트 구독료보다 훨씬 광범위한 범위를 측정한다. 모델 학습, 추론, 보안, 통합, 비즈니스 배포를 뒷받침하는 대규모 산업 구축을 포괄한다.

추론은 학습된 모델이 요청에 응답할 때 수행하는 컴퓨팅 작업이다. 비용은 사용량, 작업 복잡도, 컨텍스트 크기, 생성되는 출력량에 따라 증가한다. 따라서 겉보기에는 단순한 어시스턴트라도 대규모로 운영하면 상당한 반복 비용을 발생시킬 수 있다.

이 구성은 인프라 공급업체가 최종 사용자가 사업 가치를 입증하기 전에 수요를 기록할 수 있음을 의미한다. 파일럿을 운영하는 기업이 실제 운영 단계에 도달하지 못하더라도, 클라우드 공급업체는 그 기업에 컴퓨팅 용량을 판매할 수 있다.

결과적으로 이 지출 전망은 성공보다 투입 의지를 더 분명하게 측정한다. 기업과 공급업체가 AI에 자원을 배분하고 있음을 보여주지만, 그 자원이 지속 가능한 이익이나 생산성으로 이어지는지는 보여주지 않는다.

Gartner는 또한 AI가 2026년에 “환멸의 골짜기”에 놓일 것이라고 설명했다. 이 용어는 실험이 과도하게 부풀려진 기대에 부응하지 못하면서 초기 열기가 식는 시기를 가리킨다.

Gartner는 이 기간에 기존 소프트웨어 공급업체가 기업 도입의 상당 부분을 이끌 것으로 예상한다. 구매자들은 별도의 대형 도전 과제를 시작하기보다 기존 시스템을 통해 AI를 도입하는 경우가 많을 것이다.

이 방식은 조달 마찰을 낮추지만 비용을 흐릴 수도 있다. AI 비용은 클라우드 사용량, 소프트웨어 계약, 컨설팅 프로젝트, 데이터 작업, 보안 예산 안에 분산되어 나타날 수 있다. 재무팀은 여러 비용 항목을 보면서도 하나의 완전한 워크로드 비용을 파악하지 못할 수 있다.

이것이 후유증의 첫 번째 원인이다. 조직은 수익을 측정하는 일관된 방식을 마련하기 전에 여러 예산 항목에 걸쳐 AI를 도입했다.

기업의 AI 지출은 경영진의 통제를 앞지르고 있다

즉각적인 압박은 동등하게 명확한 책임 구조와 운영 통제를 구축하지 않은 채 빠른 도입을 승인한 경영진에게 가해진다.

기업은 열정만으로 AI 지출을 관리할 수 없다. 누군가는 어떤 프로젝트를 계속할지, 어떤 지표가 중요한지, 비용이 편익을 초과할 때 누가 책임을 질지를 결정해야 한다.

Pearl Meyer의 2026년 2분기 연구는 경영진의 자신감과 조직의 준비 상태 사이에 큰 격차가 있음을 발견했다. 이 조사는 116개 기업을 대상으로 리더십, 전환, 인재, AI 실행을 살폈다.

CEO의 80%는 경영진이 더 넓은 기업 전체를 위해 트레이드오프 결정을 내릴 수 있다고 믿었다. 반면 다른 C-suite 리더 중 이 평가에 동의한 비율은 30%에 불과했다. 이 격차는 전략을 실행하는 사람들이 최고경영자보다 더 많은 충돌을 인식하는 경우가 많음을 시사한다.

같은 leadership survey는 응답자의 80%가 조직이 전환을 관리할 리더십 역량을 갖추었다고 믿는다고 밝혔다. 그러나 직원들이 과도한 부담 없이 추가 변화를 감당할 수 있다고 본 비율은 41%에 불과했다.

이 결과는 서로 다른 두 가지 제약을 보여준다. 첫째는 의사결정 책임 소재다. 둘째는 직원들이 기존 업무를 계속 처리하면서 업무를 재설계할 수 있는 조직의 역량이다.

AI 프로젝트는 전통적인 조직 경계를 자주 넘나든다. 고객 서비스 어시스턴트에는 운영, 보안, 법무, 재무, 데이터 엔지니어링, 인사, 조달 부서가 관여할 수 있다. 공동 참여가 공동 책임을 보장하지는 않는다.

책임 소재가 불분명하게 남으면 각 집단은 서로 다른 성과를 최적화할 수 있다. 기술팀은 모델 품질을 우선시할 수 있고, 재무팀은 사용량을 모니터링한다. 법무팀은 위험 노출에 집중하고, 사업 리더들은 도입 확대를 추구한다.

이 목표들 자체가 잘못된 것은 아니다. 문제는 결합된 결과에 대해 아무도 책임지지 않을 때 시작된다.

불가피한 대응은 도입 목표에서 워크로드 경제성으로의 전환이다. 리더들은 각 사용 사례의 총비용을 파악하고 이를 측정 가능한 기준선과 비교해야 한다.

이 비용에는 모델이 정보를 입력받고 생성할 때 처리하는 단위인 토큰보다 더 많은 것이 포함된다. 데이터 준비, 통합, 평가, 보안 검토, 직원 교육, 모니터링, 사람의 수정 작업도 포함될 수 있다.

내부 조사에 사용되는 AI 어시스턴트를 생각해 보자. 소프트웨어는 초안 작성 속도를 높일 수 있지만, 직원들은 여전히 인용을 검증하고 상충하는 정보를 조정해야 한다. 이 검토 시간도 경제성 평가에 포함되어야 한다.

같은 원칙은 코딩 어시스턴트에도 적용된다. 코드 생성이 빨라져도 검토 대기열이 늘어나거나 결함률이 높아진다면 그 가치는 크지 않다. 산출량은 배포 속도, 신뢰성, 고객 영향력을 대체할 수 없다.

따라서 대시보드가 결과가 아니라 활동을 집계할 경우 기업의 AI 지출은 정당화하기 어려워진다. 제출된 프롬프트, 할당된 라이선스, 활성화된 기능은 도입 지표다. 그것만으로 재무적 수익을 입증할 수는 없다.

장기적인 압박은 운영 경영진뿐 아니라 이사회에도 미친다. 이사들은 경영진이 계약, 인프라, 데이터, 인력 계획 전반의 AI 위험 노출을 이해하고 있는지 판단해야 한다.

AI가 기존 공급업체를 통해 유입되면 이 과제는 더 어려워진다. 내장 기능은 전담 투자위원회를 거치지 않은 채 부서 전반으로 확산될 수 있다.

조달 규율은 이 분산형 도입 모델을 따라잡아야 한다. 기업은 단순히 할당된 좌석 수나 총 활동량이 아니라 사용 품질과 사업 성과를 바탕으로 갱신 결정을 내려야 한다.

이러한 변화가 반드시 전체 지출을 줄이지는 않을 것이다. Gartner의 전망은 시장이 빠르게 확대되고 있음을 보여준다. 대신 더 엄격한 재무 및 운영 검토를 통과한 워크로드에 자원이 집중될 것이다.

AI 야망은 측정 가능한 ROI와 충돌하고 있다

기업의 열의는 여전히 높지만, 입증된 AI 수익은 더 강한 책임 구조와 비용 가시성을 갖춘 조직에 집중되어 있다.

KPMG의 2026년 2분기 Global AI Pulse는 20개 국가, 지역 및 관할권의 고위 리더 2,145명을 조사했다. 응답자들은 상당한 연간 매출과 활발한 AI 프로그램을 보유한 조직을 대표했다.

79%는 AI를 핵심 투자 영역으로 꼽았으며, 이는 전 분기의 74%에서 상승한 수치다. 도입을 적극적으로 추진하는 조직의 비율은 13%에서 22%로 늘었다.

그러나 조사 대상 리더 가운데 확립된 투자수익률을 보고한 비율은 7%에 불과했다. 거의 4분의 1은 투자자로부터 가치를 입증하라는 압박을 받고 있었다.

global AI survey는 또한 조직의 42%가 AI 지출을 부분적으로만 파악하고 있다고 밝혔다. 불완전한 비용 기반은 불완전한 계산을 낳기 때문에, 이 격차는 수익에 대한 자신 있는 주장을 약화시킨다.

투자수익률은 이니셔티브의 순편익을 총비용과 비교한다. 기업 AI에서는 이 방정식의 양쪽을 모두 분리해 측정하기가 여전히 어렵다.

매출 변화에는 여러 원인이 있을 수 있다. 비용 절감은 채용 결정, 수요 변화, 프로세스 재설계 또는 일반적인 소프트웨어 업그레이드의 결과일 수 있다. 신뢰할 수 있는 측정 계획은 그러한 효과와 AI 시스템의 기여를 분리해야 한다.

편익은 서로 다른 속도로 나타날 수도 있다. 어시스턴트는 오늘 직원의 시간을 몇 분 절약할 수 있는 반면, 재설계된 고객 워크플로는 수개월 뒤에야 측정 가능한 유지율 개선을 가져올 수 있다.

이러한 시차는 인식이 재무제표보다 빠르게 변할 수 있는 이유를 설명한다. 직원들은 회사가 더 높은 산출이나 낮은 비용을 기록하기 전에 생산성이 향상됐다고 느낄 수 있다.

KPMG는 AI 성과에 대한 명확한 책임이 있는 기업이 입증된 ROI를 보고할 가능성이 세 배 높다는 사실을 발견했다. 운영 비용을 완전히 파악하는 조직은 수익을 확립할 가능성이 다섯 배 높았다.

이 관계가 거버넌스만으로 가치를 만든다는 점을 입증하는 것은 아니다. 성공적인 조직은 더 나은 데이터, 더 강한 프로세스 또는 더 적합한 사용 사례를 보유했을 수 있다. 그럼에도 이 패턴은 더 광범위한 배포가 자동으로 더 나은 결과를 낳는다는 생각을 약화시킨다.

조직의 7%는 운영 비용이 기대 편익을 초과했기 때문에 계획된 출시를 연기했다. 이 결과는 전면적인 거부가 아니라 규율을 보여준다.

합리적인 기업이라면 경제성이 성립하지 않는 배포를 중단해야 한다. 모든 취소를 AI 자체가 실패했다는 증거로 취급하는 것이 오히려 실수다.

가장 강력한 프로그램들은 점점 더 좁고 구체적인 운영 문제에서 출발한다. 이들은 책임자를 지정하고, 기준 성과를 설정하며, AI가 개선해야 할 명확한 의사결정을 정의한다.

예를 들어 지원팀은 해결 시간, 에스컬레이션 비율, 고객 만족도, 수정 작업량을 측정할 수 있습니다. 이러한 지표는 어시스턴트가 전체 프로세스를 개선하는지, 아니면 단지 한 단계를 빠르게 만드는지 보여줍니다.

지식 근로자도 비슷한 검증에 직면합니다. 더 빠른 요약을 만드는 시스템이라도 사용자가 주장을 신뢰할 수 있는 출처 자료까지 추적할 수 없다면 품질을 떨어뜨릴 수 있습니다.

AI knowledge base를 사용하는 팀은 생성된 답변을 통제된 내부 맥락과 연결할 수 있습니다. 그럼에도 정확성, 도입률, 검토 시간, 실제 업무 완료 여부를 평가해야 합니다.

따라서 AI 지출의 실제 ROI에 대한 질문은 모델이 유용한 텍스트를 만들어 내는지 여부가 아닙니다. 반복 비용과 도입 비용을 정당화할 만큼 검증된 가치를 완전한 워크플로가 제공하는지가 핵심입니다.

이 기준은 시연보다 엄격합니다. 불완전한 데이터, 변화하는 정책, 이례적인 요청, 서로 다른 숙련도를 지닌 직원 등 일상적인 조건에서의 성능을 요구합니다.

가장 큰 압박을 받는 기업은 이러한 근거를 정의하지 않은 채 광범위한 변혁을 발표한 곳들입니다. 이들의 과제는 더 이상 모델에 접근하는 것이 아닙니다. 그 접근성이 경제적 성과를 바꾼다는 점을 입증하는 일입니다.

생산성 근거는 반발론보다 더 복잡하다

측정된 수익이 약하다고 해서 AI가 가치를 창출하지 않는다는 뜻은 아니지만, 즉각적인 변혁에 대한 자신감 있는 주장은 흔들립니다.

National Bureau of Economic Research의 2026년 2월 워킹페이퍼는 약 6,000명의 고위 경영진을 조사했습니다. 참가자들은 미국, 영국, 독일, 호주의 기업들을 대표했습니다.

연구진은 기업의 69%가 AI를 적극적으로 사용하고 있음을 발견했습니다. 조사 대상 경영진의 3분의 2 이상도 이를 정기적으로 사용했지만, 개인 평균 사용 시간은 주당 1.5시간에 그쳤습니다.

경영진 10명 중 9명은 지난 3년간 AI가 자사 고용이나 생산성에 영향을 미치지 않았다고 답했습니다. 다만 기업들은 향후 3년간 더 큰 영향을 예상했습니다.

기업 수준의 근거는 이 기간 동안 평균 약 1.4%의 생산성 증가와 약 0.7%의 고용 감소를 전망했습니다. 미국 경영진은 2.3%로 더 큰 생산성 향상을 예상했습니다.

이 결과는 두 가지 극단적 서사에 필요한 보정을 제공합니다. AI가 이미 대부분의 기업 수준 생산성을 변혁한 것은 아닙니다. 그렇다고 경영진이 투자를 보편적으로 낭비라고 보는 것도 아닙니다.

측정 시점은 여전히 불확실성 중 하나입니다. 기업들은 많은 생성형 AI 도구를 최근에 도입했지만, 엔터프라이즈 프로세스 재설계에는 일반적으로 소프트웨어 설치보다 더 긴 시간이 걸립니다.

약 750명의 기업 경영진을 기반으로 한 또 다른 NBER 연구는 긍정적이지만 고르지 않은 생산성 향상을 확인했습니다. 가장 큰 효과는 고숙련 서비스업과 금융 분야에서 나타났습니다.

저자들은 이를 생산성 역설로 설명했습니다. 리더들이 측정된 개선보다 큰 성과를 인식했는데, 이는 매출 효과가 아직 충분히 나타나지 않았기 때문일 수 있습니다.

이 격차는 어느 방향으로든 좁혀질 수 있습니다. 재무 성과가 결국 초기 생산성 인식을 뒷받침할 수 있습니다. 반대로 더 나은 측정은 직원들이 편의성을 경제적 산출과 혼동했음을 드러낼 수 있습니다.

두 번째 가능성은 주목할 만합니다. 생성형 AI는 업무를 없애기보다 이전할 수 있기 때문입니다. 모델은 초안 작성 시간을 줄일 수 있지만, 다른 곳에서 검증, 컴플라이언스, 수정 업무를 추가할 수 있습니다.

직원 경험 역시 분석을 복잡하게 만듭니다. Pearl Meyer는 응답자의 41%만이 직원들이 과도한 부담 없이 더 많은 변화를 감당할 수 있다고 믿는다고 밝혔습니다.

조직은 유용한 도구를 배포하면서도 업무가 더 파편화되게 만들 수 있습니다. 직원들은 기존 책임이 줄어들지 않은 상태에서 여러 인터페이스를 익히고, 자동화된 결과물을 모니터링하며, 예외 상황을 처리해야 할 수 있습니다.

이는 숨겨진 도입 비용을 만듭니다. 교육 세션, 정책 검토, 프롬프트 실험, 반복적인 도구 전환은 효과가 안정화되기 전에 시간을 소모합니다.

회의적인 관점도 모든 AI 이니셔티브에 수익이 없다고 주장해서는 안 됩니다. KPMG는 리더의 76%가 측정 가능한 비즈니스 가치를 확인했다고 보고했지만, 확립된 ROI를 갖춘 곳은 7%에 불과했습니다.

비즈니스 가치와 확립된 ROI는 서로 다른 수준의 확신을 뜻합니다. 기업은 방어 가능한 재무 계산을 완료하지 않고도 더 빠른 서비스나 향상된 직원 접근성을 관찰할 수 있습니다.

마찬가지로 Gartner의 2조 5,200억 달러 총액을 기업 이익과 직접 비교해서는 안 됩니다. 그 지출의 상당 부분은 여러 고객과 미래 수요를 위한 인프라를 의미합니다.

타당한 비판은 지출 가시성과 성과 가시성 간의 불일치에 관한 것입니다. 기업 리더들은 AI 활동이 늘었다는 사실은 종종 알고 있습니다. 그러나 각 배포의 정확한 비용과 검증된 기여도를 파악할 수 있는 경우는 훨씬 적습니다.

이 구분은 AI 숙취가 예산 증가와 공존할 수 있는 이유도 설명합니다. 조직은 여전히 경쟁사에 뒤처질 것을 두려워합니다. 동시에 개별 프로젝트에는 더 엄격한 요건을 부과하고 있습니다.

그 결과 시장은 더 선별적으로 변할 가능성이 큽니다. 공급업체들은 통합 품질, 보안, 통제 가능한 사용량, 워크플로 성과를 입증해야 한다는 압박을 받게 됩니다.

구매자도 더 나은 평가 도구를 요구할 것입니다. 벤치마크 점수는 표준화된 테스트에서의 모델 성능을 설명합니다. 맞춤형 비즈니스 프로세스의 가치를 예측하지는 못합니다.

엔터프라이즈 평가는 실제 업무, 대표성 있는 데이터, 정의된 실패 임계값을 사용해야 합니다. 또한 인적 검토와 후속 영향을 포함한 전체 워크플로를 측정해야 합니다.

이는 파일럿을 발표하는 것보다 느립니다. 그러나 지속적인 도입과 일시적 실험을 가르는 작업이기도 합니다.

구매자가 대형 도전을 피하면서 기존 공급업체가 우위를 얻는다

AI 숙취는 신중한 기업들이 익숙한 계약, 데이터 통제, 워크플로를 선호하기 때문에 기존 공급업체에 유리합니다.

Gartner는 2026년 환멸 기간 동안 AI가 기존 소프트웨어 공급업체를 통해 많은 기업에 도달할 것으로 예상합니다. 이 예측은 스타트업과 대형 플랫폼 모두의 경쟁 환경을 바꿉니다.

Microsoft, Google, Amazon, Salesforce, ServiceNow 및 기타 기존 공급업체는 이미 기업 기술 스택 내부에 자리하고 있습니다. 이들은 커뮤니케이션, 클라우드 컴퓨팅, 고객 기록, 개발, 운영에 사용되는 제품에 AI를 추가할 수 있습니다.

이들의 우위가 반드시 더 뛰어난 모델 성능에 있는 것은 아닙니다. 유통력, 기존 보안 승인, 통합된 데이터 접근성, 확립된 조달 관계에 있습니다.

구매자는 새 공급업체를 승인하는 것보다 내장형 어시스턴트를 더 빠르게 활성화할 수 있는 경우가 많습니다. 이 속도는 이사회가 가시적인 진전을 기대하는 반면 운영팀은 통합 위험을 줄이고자 할 때 중요합니다.

그러나 더 쉬운 도입이 더 낮은 비용을 보장하지는 않습니다. 내장형 AI는 여러 사업 부서에 사용량을 분산시켜 총지출을 추적하기 어렵게 만들 수 있습니다.

또한 경쟁 압력을 줄일 수 있습니다. 기업은 특정 업무에서 다른 모델이 더 나은 성능을 보이더라도, 기존 생산성 제품군에 연결된 어시스턴트를 선택할 수 있습니다.

스타트업은 반대의 과제에 직면합니다. 전문화된 워크플로를 구축하고 빠르게 움직일 수 있지만, 추가 계약, 보안 검토, 통합 프로젝트, 데이터 경계를 정당화해야 합니다.

이들의 가장 강력한 입지는 측정 가능한 수직 분야 성과에 있습니다. 전문 공급업체는 조달 마찰을 뛰어넘을 만큼 정의된 프로세스를 개선할 때 경쟁할 수 있습니다.

이는 Gartner AI 지출 전망을 위한 시장 검증을 만듭니다. 인프라 수요는 계속 증가할 수 있지만, 애플리케이션 지출은 더 적은 수의 공급업체와 입증된 사용 사례로 집중될 수 있습니다.

하이퍼스케일러도 자체적인 ROI 문제에 직면합니다. 고객이 워크로드를 더 선별적으로 선택하는 동안, 이들은 값비싼 컴퓨팅 자산을 계속 활용 상태로 유지해야 합니다.

활용률은 가용 컴퓨팅 용량 중 얼마나 많은 부분이 유용한 업무를 수행하는지를 측정합니다. 데이터센터는 상당한 고정비를 부담하기 때문에 활용률이 낮으면 마진에 압박이 가해질 수 있습니다.

지속적인 건설을 뒷받침할 만큼 수요는 강하지만, 그 구성은 중요합니다. 최첨단 모델을 훈련하는 일은 수백만 건의 소규모 비즈니스 요청을 처리하는 일과 다른 경제성을 만듭니다.

기업 구매자는 사용에 따라 비용이 반복되기 때문에 추론 비용에 점점 더 관심을 두고 있습니다. 성공적인 파일럿도 직원과 고객 전반으로 도입이 확대되면 비용이 더 커질 수 있습니다.

이는 이례적인 위험을 만듭니다. 사용 증가가 제품 수요를 입증하는 동시에 배포의 단위 경제성을 약화시킬 수 있습니다.

기업은 단순한 업무를 더 작은 모델로 라우팅하고, 비용이 많이 드는 추론은 어려운 업무에만 배정하는 통제 장치가 필요합니다. 또한 컨텍스트, 재시도, 자동화 체인, 불필요한 출력에 대한 제한도 필요합니다.

에이전틱 시스템은 이 문제를 증폭시킵니다. AI 에이전트는 제한된 인간 지시에 따라 목표를 향해 여러 단계를 선택하고 수행하는 소프트웨어입니다.

직원 한 명의 요청이 여러 모델 호출, 검색, 도구 작업, 검증 단계를 유발할 수 있습니다. 따라서 눈에 보이는 프롬프트는 총사용량의 일부에 불과할 수 있습니다.

더 나은 오케스트레이션은 이러한 비용을 줄일 수 있지만, 기술적 성숙도가 필요합니다. 기업은 모델 활동을 기록하고, 이를 성과와 연결하며, 어떤 자동화 단계가 가치를 더하는지 식별해야 합니다.

보안과 거버넌스도 여전히 똑같이 중요합니다. 기밀 데이터를 노출하거나 검토되지 않은 결정을 내린다면, 더 저렴한 프로세스는 가치를 창출하지 못합니다.

이 때문에 경쟁은 한 공급업체와 다른 공급업체 간의 대결이 아니라 여전히 야심과 규율의 대결입니다. Microsoft, Google, Amazon, Anthropic, OpenAI 및 전문 공급업체는 모두 같은 경제적 검증 안에서 운영됩니다.

공급업체는 배포를 쉽게 만들 수 있지만, 비즈니스 사례는 여전히 고객의 몫입니다. 어떤 모델 공급업체도 고객의 허용 가능한 오류율, 워크플로 기준선, 규제 노출 수준을 정의할 수 없습니다.

기존 공급업체 경로는 접근성을 가속할 것입니다. 그것이 ROI를 개선할지는 구매자가 활성화 이후의 일을 얼마나 신중하게 관리하느냐에 달려 있습니다.

AI 숙취가 심화될지를 결정할 세 가지 신호

다음 단계는 비용 가시성, 운영 성과, 인프라 성장과 엔터프라이즈 수요 간 격차를 통해 판단될 것입니다.

첫 번째 신호는 기업 공시가 AI 수익에 대해 더 구체적으로 변하는지 여부입니다. 투자자들은 도입에 관한 발언을 넘어 매출, 마진, 처리 주기, 운영비를 살펴봐야 합니다.

기업들이 AI 배포를 감사되었거나 일관되게 측정된 결과와 연결한다면 Gartner AI 지출 전망을 뒷받침하는 더 강한 근거가 나타날 것입니다. 더 많은 라이선스와 파일럿만으로는 같은 근거가 되지 않습니다.

경영진이 기준선이나 전체 비용을 밝히지 않은 채 계속 혜택을 보고한다면 판단은 약화될 것입니다. 이는 AI 활동이 경제적 가치보다 여전히 측정하기 쉽다는 점을 시사합니다.

KPMG의 향후 분기별 설문조사는 유용한 지표 하나를 제공합니다. 확립된 ROI를 보고하는 비율이 7%에서 상승한다면, 배포 규율이 도입을 따라잡고 있음을 나타낼 것입니다.

두 번째 신호는 지속적인 운영 단계로 이동하는 파일럿의 비율입니다. 운영 단계란 시스템이 모니터링, 통제 장치, 책임 있는 소유자와 함께 반복적인 비즈니스 활동을 지원한다는 뜻입니다.

파일럿은 선별된 조건에서 성공할 수 있습니다. 운영 단계에서는 시스템이 다양한 사용자, 변화하는 데이터, 이례적 요청, 보안 제약, 실제 운영 예산에 노출됩니다.

지속 가능한 운영 사용의 근거는 초기 지출이 이후 가치를 위한 기반을 만들었다는 주장을 강화할 것입니다. 반복적인 취소나 사용량 감소는 숙취를 심화시킬 것입니다.

기업은 출시 이정표뿐 아니라 성과 유지율도 보고해야 합니다. 한 달간 잘 작동하다가 사용자를 잃는 워크로드는 지속적인 수익을 뒷받침하지 못합니다.

세 번째 신호는 주요 기술 공급업체가 인프라 투자와 매출 및 마진의 균형을 어떻게 맞추는지입니다. 이들의 재무 성과는 수요가 구축 중인 용량을 흡수하는지 보여줄 것입니다.

지속적인 클라우드 성장, 더 높은 AI 서비스 매출, 안정적인 마진은 인프라 지출이 실제 수요를 예상한 것이었다는 주장을 뒷받침할 수 있습니다. 반대로 낮은 활용률이나 커지는 감가상각 압력은 그 주장에 의문을 제기할 것입니다.

이 세 가지 신호는 함께 읽어야 합니다. 기업의 ROI 개선은 인프라 수요를 뒷받침할 수 있고, 더 저렴한 인프라는 엔터프라이즈 워크로드의 경제성을 개선할 수 있습니다.

반대의 관계도 성립합니다. 비싼 용량은 추론 비용을 높일 수 있으며, 부진한 사업 성과는 기업이 사용량을 제한하게 만들 수 있습니다.

Gartner는 이미 전 세계 AI 지출이 2027년 동안 3조3,000억 달러를 넘어설 것으로 전망합니다. 자본 투입 규모가 계속 커지고 있기 때문에, 이 전망은 실행을 뒷받침하는 증거의 중요성을 더욱 높입니다.

미국 기업들은 지출 확대와 후퇴 사이에서 단순한 선택을 하는 상황이 아닙니다. 어떤 AI 시스템을 확장할지, 어떤 시스템을 재설계할지, 어떤 시스템을 중단할지를 결정해야 합니다.

개발자에게 이는 평가, 관측 가능성, 비용 통제가 핵심 제품 요건이 된다는 뜻입니다. 모델 성능만으로는 엔터프라이즈 판매를 성사시키기 어렵습니다.

비즈니스 구매자에게 실질적인 질문은 공급업체가 기술적 성능을 통제된 워크플로와 연결할 수 있는지입니다. 구매자는 인적 검토와 총운영비를 포함하는 증거를 요구해야 합니다.

지식 노동자는 고용주가 프로세스를 재설계하는지, 아니면 단지 어시스턴트를 추가하는지 지켜봐야 합니다. 팀이 기존 업무 방식 위에 새 의무를 덧붙이는 대신 중복 작업을 없앨 때 도구는 더 강력한 결과를 냅니다.

Gartner의 AI 지출 전망은 막대한 재정적 투자가 이루어지는 시장을 보여 줍니다. AI 지출 ROI에 관한 증거는 돈만으로는 조직의 준비도를 만들어낼 수 없음을 시사합니다.

예산은 늘어나는데 책임 구조가 분산된 채로 남아 있다면 후폭풍은 더 심해질 것입니다. 기업이 어떤 워크로드가 성과를 개선했는지, 비용은 얼마였는지, 왜 계속 투자할 가치가 있는지를 보여줄 수 있을 때 그 영향은 완화될 것입니다.

조직의 다음 AI 확장을 정당화할 증거는 무엇일까요? 또 하나의 배포를 추가하기 전에 기준선, 책임자, 총비용, 측정 가능한 결과를 정의하세요. 그런 다음 실제 직원들이 정상적인 환경에서 해당 워크로드를 사용한 뒤 이를 검토하세요. 이러한 규율은 AI에 대한 야망을 거부하는 것이 아닙니다. 재무팀, 직원, 고객, 이사회가 평가할 수 있는 기준을 그 야망에 부여하는 것입니다.