Amazon Google AI 지출이 드러낸 엔터프라이즈 CX의 숨은 비용 위기
- Martin Chen
- 1시간 전
- 11분 분량
Amazon은 18개 분기 만에 가장 빠른 AWS 성장률을 발표했음에도 2026년 자본 지출 계획을 2,200억 달러로 늘렸다. Amazon Google 인프라 경쟁은 이제 엔터프라이즈 고객 경험 팀에 불편한 현실을 드러낸다. AI 수요는 급증하고 있지만, 이를 뒷받침하는 시스템에는 더 많은 자본, 부족한 하드웨어, 더 긴 약정이 필요하다.
이는 엔터프라이즈 AI가 실패했다는 증거가 아니다. Amazon의 클라우드 사업은 2분기에 37% 성장했으며, AI 사업과 칩 사업은 각각 연간 환산 매출 250억 달러를 넘어섰다. 그럼에도 Amazon은 2026년에도 인프라 용량이 수요에 못 미칠 것으로 예상한다.
Google도 다른 규모에서 같은 긴장에 직면해 있다. Google Cloud 매출은 82% 증가했고, Alphabet은 2026년 예상 자본 지출을 1,950억~2,050억 달러로 상향했다. 두 회사 모두 AI 도입 확대가 자동으로 더 저렴하고 단순한 고객 경험으로 이어지지는 않는다는 점을 보여주고 있다.
기업의 문제는 클라우드 청구서에 그치지 않는다. AI 고객 경험 시스템에는 모델 추론, 데이터 검색, 보안 제어, 평가, 사람의 검토, 기존 플랫폼과의 통합이 필요하다. 조직이 경험 개선을 입증하기 전부터 각 계층은 비용을 추가한다.
Amazon의 2분기 수치가 AI 비용 논쟁을 바꿨다
Amazon의 실적은 강력한 AI 수요와 심각한 비용 압박이 동시에 존재할 수 있음을 보여준다.
Amazon은 2026년 7월 30일 2분기 실적을 발표했다. AWS 매출은 4~6월 동안 37% 증가해 전 분기의 28%에서 성장세가 가속됐다. 회사는 이를 18개 분기 만에 가장 빠른 AWS 성장률이라고 설명했다.
Amazon은 AI 사업과 칩 사업이 각각 연간 환산 매출 250억 달러를 넘어섰다고도 밝혔다. 이 수치는 고객들이 단순히 인프라를 시험하는 수준이 아니라 실제로 구매하고 있음을 시사한다.
이 성장을 뒷받침하기 위한 지출도 그만큼 가파르게 늘었다. 최고경영자 Andy Jassy는 Amazon의 2026년 예상 자본 지출을 약 2,000억 달러에서 2,200억 달러로 높였다. 이 금액에는 AI 인프라, 반도체, 로보틱스, 위성에 대한 투자가 포함된다.
Jassy에 따르면 메모리 비용 상승은 추가 지출의 주요 원인이었다. 메모리는 모델 학습과 추론 실행, 즉 학습된 모델을 사용자에게 제공하는 데 필수적이다. 따라서 부품 비용 상승은 실험 시스템과 이미 운영 중인 프로덕션 워크로드 모두에 영향을 미친다.
Amazon의 2분기 실적 자료는 발표 시점을 확인해 준다. 이후 보도는 이번 증액이 왜 중요한지를 보여줬다. 회사는 전년도에 약 1,280억 달러를 지출했으며, 새 계획은 큰 폭의 상향이다.
지출 증가는 유휴 건설만을 반영한 것이 아니었다. Jassy는 Amazon이 예상되는 2026년 수요를 모두 충족할 만큼의 용량을 여전히 확보하지 못할 것이라고 말했다. 그는 이미 가시화된 2028년 수요도 놀라울 정도라고 설명했다.
이 세부 사항은 해당 분기를 해석하는 방식을 바꾼다. Amazon은 AI 수요가 가설에 머물러 있기 때문에 인프라를 구축하는 것이 아니다. 고객 수요가 여전히 공급 가능 용량을 초과한다고 투자자들에게 말하면서도 막대한 지출을 하고 있다.
이 제약은 엔터프라이즈의 일반적인 가정도 복잡하게 만든다. 구매자들은 종종 클라우드 규모가 커질수록 자동화 세대별 비용이 낮아질 것이라 기대한다. 규모는 도움이 되지만, 부족 현상, 전력 요구량, 데이터센터 건설, 빈번한 하드웨어 교체를 완전히 상쇄할 수는 없다.
고객 경험 팀에는 배포 시점에서 이것이 중요하다. 파일럿은 수천 건의 대화를 수용 가능한 속도와 정확도로 처리할 수 있다. 그러나 프로덕션 서비스는 계절적 피크, 장애, 모델 변경, 예측할 수 없는 고객 행동을 견뎌야 한다.
프로덕션 시스템에는 여유 용량도 필요하다. 컨택센터는 다른 곳에서 추론 수요가 증가했다는 이유만으로 응대를 멈출 수 없다. 공급업체는 피크 기간에 서비스 약속을 지킬 수 있는 충분한 하드웨어와 네트워크 용량을 유지해야 한다.
이러한 신뢰성에는 실제 비용이 따른다. 사용량 요금, 예약 용량, 플랫폼 수수료, 구현 작업 또는 모델 품질 및 응답 길이에 부과되는 제한의 형태로 나타난다. 기업은 서버를 직접 보유하지 않더라도 모든 상호작용 뒤의 인프라 비용을 지불하게 된다.
따라서 Amazon의 이번 분기는 핵심 갈등을 드러냈다. 수요는 AI의 기회를 입증하지만, 그 수요를 충족하는 비용은 계속 상승한다. 엔터프라이즈 CX 구매자는 그 갈등의 최종 수요자 위치에 놓인다.
Amazon Google 경쟁이 엔터프라이즈 구매자에게 비용을 전가한다
Amazon Google 경쟁은 AI 용량을 확대하지만, 고객에게 더 크고 더 이른 시점의 약정을 요구하는 압력도 만든다.
Google은 Amazon보다 일주일 먼저 2분기 실적을 발표했다. Google Cloud 매출은 82% 증가했고, 클라우드 수주잔고는 5,140억 달러에 도달했다. Alphabet은 Fortune 100 기업의 약 90%가 Gemini Enterprise를 사용한다고도 밝혔다.
Google의 성장은 Amazon 지출에 대한 가장 단순한 비판을 약화시키기 때문에 중요한 비교 대상이다. Amazon만 행동하는 것도 아니고, 기업 특유의 비효율성에만 대응하는 것도 아니다. 여러 클라우드 공급업체가 강한 수요를 보고하면서 투자를 늘리고 있다.
Alphabet은 2026년 자본 지출을 1,950억~2,050억 달러로 예상한다. 이전 전망은 1,800억~1,900억 달러였다. 이 지출 대부분은 AI 워크로드에 사용되는 서버와 데이터센터를 포함한 기술 인프라를 지원한다.
Google의 실적 발표 발언 역시 Gemini Enterprise 내 비용 관리와 거버넌스를 강조한다. 이러한 포지셔닝은 이미 재무 부서에서 운영 구매 의사결정으로 옮겨가고 있는 우려를 인식한 것이다.
Amazon Google 경쟁은 엔터프라이즈 구매자에게 더 많은 인프라 선택지를 제공한다. AWS는 Amazon Bedrock, Nova 모델, Anthropic 모델, 맞춤형 Trainium 칩을 제공한다. Google은 Gemini 모델, 클라우드 플랫폼, 독자적인 텐서 처리 장치를 결합한다.
맞춤형 칩은 외부 가속기에 대한 의존도를 낮추고 특정 워크로드의 성능을 개선할 수 있다. 하지만 고객이 공급업체의 아키텍처를 중심으로 시스템을 설계하도록 유도하기도 한다. 이후 전환하려면 새로운 테스트, 데이터 작업, 애플리케이션 변경이 필요할 수 있다.
모델 선택도 비슷한 트레이드오프를 만든다. 기업은 단순한 요청을 소형 모델로, 어려운 요청을 대형 모델로 라우팅할 수 있다. 이 방식은 추론 사용량을 줄일 수 있지만, 오케스트레이션, 모니터링, 평가 작업을 추가한다.
따라서 경쟁은 일부 단위 비용을 낮추는 동시에 시스템 복잡성을 높인다. 기업은 더 많은 선택지를 얻지만, 그 선택지를 책임 있게 사용하는 데 필요한 전문성도 갖춰야 한다. 라우팅 오류가 에스컬레이션을 늘리거나 잘못된 답변을 생성한다면 낮은 토큰 요금은 큰 가치가 없다.
고객 경험에서는 특히 위험 부담이 크다. 코딩 보조 도구는 개발자에게 출력 결과를 검토하도록 요청할 수 있다. 반면 고객 대면 에이전트는 정확한 답변, 명확한 정책, 즉각적인 해결을 기대하는 사람에게 직접 응답하는 경우가 많다.
잘못된 청구 설명은 반복 문의를 만들 수 있다. 지원 근거가 없는 환불은 재정적 손실을 초래할 수 있다. 자신감은 있지만 사실과 다른 계정 명세는 법적, 규제적, 평판상 문제를 촉발할 수 있다.
이러한 위험은 기업이 생성형 모델을 제어 장치로 둘러싸도록 만든다. 검색 증강 생성은 모델이 응답하기 전에 승인된 회사 정보와 연결한다. 가드레일은 출력을 제한하고, 평가 시스템은 답변이 정의된 기준을 충족하는지 시험한다.
각 제어 장치는 엔지니어링 시간과 컴퓨팅 리소스를 소비한다. 검색 시스템에는 인덱싱된 데이터가 필요하다. 평가는 모델이나 프롬프트가 바뀔 때마다 테스트 대화, 모델 호출, 검토자, 반복 측정이 필요하다.
Amazon과 Google은 수천 명의 고객에게 인프라 투자를 분산할 수 있다. 개별 기업은 통합 및 거버넌스 비용을 그만큼 넓게 분산할 수 없다. 이들의 사업성은 더 좁은 범위의 워크플로와 측정 가능한 성과에 달려 있다.
바로 여기에서 비용 부담이 이동한다. 하이퍼스케일러는 데이터센터 비용을 조달하지만, 고객은 유능한 모델과 신뢰할 수 있는 경험 사이의 마지막 구간에 비용을 댄다. 이 마지막 구간이 AI 프로그램의 가치 창출 여부를 결정하는 경우가 많다.
결과는 단순한 가격 인상이 아니다. 이는 약정의 문제다. 기업은 장기적인 비용과 품질이 완전히 드러나기 전에 공급업체, 아키텍처, 운영 모델을 선택해야 한다.
파일럿 이후 무너지는 엔터프라이즈 CX 경제성
숨은 위기는 통제된 시연이 책임 있는 고객 서비스 운영으로 전환될 때 시작된다.
파일럿은 대개 모델이 선정된 질문에 답할 수 있는지를 시험한다. 정리된 문서, 협조적인 직원, 제한된 대화 세트를 사용할 수 있다. 프로덕션에서는 불완전한 데이터, 예외적인 요청, 감정적인 고객, 상충하는 정책이 등장한다.
모델은 프로덕션 비용의 한 부분일 뿐이다. 완전한 시스템은 고객을 식별하고, 계정 정보를 검색하며, 권한을 적용하고, 결정을 기록하고, 어려운 사례를 이관해야 한다. 또한 모든 단계에서 민감한 데이터를 보호해야 한다.
지연 시간은 또 다른 비용 계층을 만든다. 고객은 요청에 여러 번의 모델 호출이 필요하더라도 대화형 시스템이 빠르게 응답하길 기대한다. 더 긴 추론은 일부 답변을 개선할 수 있지만, 더 많은 컴퓨팅을 소비하고 대화를 지연시킨다.
조직은 소형 모델이나 캐시된 응답으로 지연 시간을 줄일 수 있다. 그러나 이런 선택은 복잡한 사례의 품질을 낮출 수 있다. 팀은 더 빠르고 저렴한 출력이 허용되는 지점을 정한 뒤, 테스트를 통해 그 선택을 입증해야 한다.
배포 후에는 문의량도 변할 수 있다. 더 쉬운 디지털 채널은 고객이 이전에는 포기했던 질문까지 끌어들이는 경우가 있다. 자동화는 상담원 처리량을 줄이면서도 전체 상호작용 수를 늘릴 수 있다.
따라서 기업은 전체 경제성이 개선되지 않았는데도 높은 자동 해결률을 보고할 수 있다. 자동 해결률은 대화가 사람 상담원 없이 끝나는 빈도를 측정한다. 고객이 정확하거나 지속적인 해결을 받았는지는 보여주지 않는다.
반복 문의가 더 중요하다. AI 시스템이 불완전한 답변을 제공하면 고객은 채팅, 전화, 이메일을 통해 다시 문의할 수 있다. 첫 번째 상호작용은 자동화된 것처럼 보이지만, 전체 여정은 더 비싸진다.
기업에는 AI 행동을 비즈니스 결과와 연결하는 성과 지표가 필요하다. 여기에는 반복 문의율, 성공적인 작업 완료, 수정 빈도, 에스컬레이션 품질, 고객 노력도가 포함된다. 평균 처리 시간만으로는 이러한 영향을 포착할 수 없다.
데이터 준비는 또 다른 큰 비용을 만든다. 고객 정책은 웹사이트, 지원 플랫폼, 내부 문서, 직원 메시지에 걸쳐 존재하는 경우가 많다. 일부 출처는 최신이지만, 다른 출처에는 오래되었거나 상충하는 지침이 담겨 있다.
모델은 이러한 충돌을 스스로 신뢰성 있게 해결할 수 없다. 팀에는 소유권 규칙, 버전 관리, 권한, 검토 프로세스가 필요하다. 검색 가능한 AI 지식 베이스는 검색을 지원할 수 있지만, 콘텐츠 거버넌스는 여전히 사람의 책임이다.
AI 에이전트는 문제를 더 크게 만든다. 에이전트는 단순히 텍스트를 생성하는 대신 목표를 향해 도구를 선택하고 단계를 실행할 수 있다. 이 기능은 주문 변경, 일정 관리, 문제 해결, 계정 업데이트에 도움이 된다.
행동은 실패 비용도 높입니다. 부실한 답변은 고객을 불만스럽게 만들 수 있지만, 잘못된 행동은 계정을 변경하거나 재정적 의무를 발생시킬 수 있습니다. 기업은 권한 부여 규칙, 감사 추적, 되돌리기 절차를 추가해야 합니다.
이 모델에서 사람의 감독이 사라지는 것은 아닙니다. 위치가 바뀔 뿐입니다. 직원들은 모든 요청을 직접 처리하는 대신 예외를 검토하고, 지식을 유지·관리하며, 실패를 조사하고, 시스템을 개선하게 됩니다.
이 작업은 조달 단계에서 추정하기 어렵습니다. 공급업체는 모델 성능을 시연할 수 있지만, 기업 데이터의 상태를 완전히 예측할 수는 없습니다. 또한 조직이 어느 정도의 위험을 수용할지도 결정할 수 없습니다.
Amazon과 Google의 인프라 경쟁은 모델과 플랫폼 출시를 가속하며 이 과제를 더욱 심화합니다. 더 빠른 출시는 새로운 기능을 만들지만, 모든 변화는 출력 품질, 지연 시간, 비용에 영향을 줄 수 있습니다. 운영 팀은 재테스트의 가치가 중단 부담보다 큰 시점을 판단해야 합니다.
고객 경험 플랫폼은 여러 공급업체에 의존할 수도 있습니다. 한 공급업체는 컨택센터를 제공하고, 다른 업체는 데이터를 호스팅하며, 세 번째 업체는 모델을 제공합니다. 관측 가능성과 책임은 계약 전반에 분산됩니다.
응답이 느려지거나 실패하면 기업은 어느 계층에서 문제가 발생했는지 파악해야 합니다. 이 조사는 시간과 전문 인력을 필요로 합니다. 고객이 경험하는 것은 공급업체 경계가 아니라 결합된 시스템입니다.
따라서 경제성에 관한 질문은 AI가 상담원 1분보다 비용이 적게 드는지 여부보다 더 넓습니다. 리더는 실패한 자동화, 반복 문의, 거버넌스, 통합, 인프라 사용을 포함한 전체 여정을 비교해야 합니다.
성공적인 도입은 여전히 의미 있는 비용 절감을 만들어낼 수 있습니다. 정책이 명확한 일상적 요청은 여전히 강력한 후보입니다. 위험은 하나의 좁은 워크플로에서의 성공이 모든 고객 상호작용의 경제성을 입증한다고 가정하는 데 있습니다.
더 빠른 클라우드 성장이 더 나은 고객 경험을 증명하지는 않는다
Amazon과 Google은 AI 인프라 수요를 입증했지만, 모든 기업 도입이 더 나은 CX를 만든다는 점까지 입증한 것은 아닙니다.
Amazon의 AWS 성장과 Google Cloud의 가속은 고객 지출의 증거를 제공합니다. 그러나 그 지출 중 얼마가 실험, 학습, 마이그레이션 또는 수익성 있는 운영 시스템을 지원하는지는 보여주지 않습니다.
클라우드 매출은 구매자의 수익이 아니라 공급업체의 성과도 측정합니다. 고객이 더 많은 컴퓨팅을 소비할 때마다 공급업체는 이익을 얻습니다. 고객은 그 소비가 비용 절감, 매출 증가, 위험 감소 또는 더 나은 경험으로 이어질 때에만 이익을 얻습니다.
이 차이는 인센티브 격차를 만듭니다. 공급업체는 워크로드가 확대되기를 원합니다. 기업 리더는 어떤 워크로드를 확대할 가치가 있는지, 어떤 워크로드를 결정론적으로 유지하거나 사람이 주도하게 하거나 지원하지 않을지를 판단해야 합니다.
Alphabet의 실적은 양측면을 모두 보여줍니다. 클라우드 성장은 82%에 달했지만, 회사는 자본 지출 전망도 상향했습니다. 해당 분기 보도는 투자자들이 늘어나는 인프라 투자가 현금 창출에 압박을 줄지 의문을 제기했다고 전했습니다.
Google의 빠른 확장이 그 전략을 무효화하는 것은 아닙니다. 강력한 클라우드 수요와 대규모 수주잔고는 고객이 그 용량을 가치 있게 여긴다는 증거를 제공합니다. 불확실성은 수익의 시점과 지속성에 관한 것입니다.
Amazon도 같은 시험대에 서 있습니다. 실적 보도에 따르면 지출이 가속되면서 연간 잉여현금흐름은 적자로 전환했습니다. 회사는 현재의 건설이 향후 계약된 수요를 뒷받침한다고 주장합니다.
데이터센터는 계획과 구축에 수년이 걸리므로 이 설명은 타당합니다. 서버는 가동 시점에 더 가깝게 도입되는 반면, 건물은 여러 세대의 하드웨어를 지원할 수 있습니다. 수요가 약해지면 Amazon은 일부 장비 주문을 조정할 수 있습니다.
그러나 모든 비용이 유연하게 유지되는 것은 아닙니다. 토지, 전력 계약, 네트워크 용량, 건설은 장기적 약정에 해당합니다. 메모리와 가속기 부족도 용량 계획이 진행된 뒤 비용을 높일 수 있습니다.
기업은 이 시점 불일치의 더 작은 버전에 직면합니다. 도입이 예측 가능해지기 전에 통합과 거버넌스에 비용을 지불합니다. 이점은 고객이 시스템을 성공적으로 사용하고 운영 팀이 업무를 재설계한 뒤에야 도착합니다.
이 때문에 수익 계산은 가정에 민감합니다. 에스컬레이션 비율의 작은 변화가 인력 수요를 바꿀 수 있습니다. 품질이 조금만 저하돼도 자동화가 제거한 것보다 더 많은 반복 문의가 발생할 수 있습니다.
공급업체 벤치마크가 이 질문을 해결하는 경우는 드뭅니다. 표준 테스트는 정의된 조건에서 모델 역량을 측정합니다. 기업 CX는 비공개 데이터, 지역 정책, 고객 행동, 연결된 시스템의 품질에 좌우됩니다.
회의적인 관점은 “AI 비용 위기”라는 표현에도 의문을 제기합니다. 인프라 지출만으로 기업 CX의 비용 부담이 커지고 있다는 점이 증명되지는 않습니다. 클라우드 성장은 많은 고객이 계속 구매할 만큼 충분한 가치를 보고 있음을 시사합니다.
모델, 칩, 소프트웨어가 성숙하면서 효율성은 빠르게 개선될 수 있습니다. 더 작은 모델은 이미 한때 더 큰 시스템이 필요했던 작업을 처리합니다. Amazon과 Google의 맞춤형 실리콘은 해당 칩에 적합한 워크로드의 비용을 낮출 수 있습니다.
적절한 결론은 더 제한적입니다. 기업은 하락하는 모델 비용을 총비용 하락의 보장으로 취급할 수 없습니다. 모델 계층의 개선은 사용량 증가, 범위 확대, 더 강력한 통제, 더 큰 통합 복잡성으로 상쇄될 수 있습니다.
Microsoft는 유용한 비교 사례를 제공합니다. 분기 자본 지출은 70% 증가한 410억 달러였으며, 약 3분의 2는 프로세서와 그래픽 칩 같은 수명이 더 짧은 자산을 지원했습니다. 자산 교체 주기는 인프라가 얼마나 빠르게 노후화할 수 있는지를 보여줍니다.
이 주기는 공급업체가 초기 구매를 부담하더라도 고객 계약에 영향을 미칩니다. 공급업체는 결국 가동률, 가격 책정 또는 고부가가치 서비스를 통해 자본을 회수해야 합니다. 경쟁은 그 자유를 제한하지만, 근본적인 비용을 없애지는 않습니다.
CX 리더는 낙관적 주장과 비관적 주장을 모두 검증해야 합니다. 모든 자동화 대화가 비용 절감을 만든다고 가정해서는 안 됩니다. 또한 대형 하이퍼스케일러의 막대한 지출이 AI 도입에 실현 가능한 수익이 없다는 뜻이라고 가정해서도 안 됩니다.
결정적인 증거는 안정적인 운영 성과에서 나옵니다. 시스템은 피크 시간, 모델 업데이트, 정책 변경, 이례적 요청 중에도 품질을 유지해야 합니다. 또한 모든 지원 업무를 계산한 뒤에도 이점을 만들어야 합니다.
기업 AI 구매자가 다음으로 주목해야 할 것
세 가지 신호가 현재의 지출 주기가 기업 CX 비용을 낮추는지, 아니면 단지 이를 새로운 범주로 옮기는지를 보여줄 것입니다.
첫 번째 신호는 Amazon이 용량을 지속적인 AWS 성장과 긍정적인 현금 창출로 전환하는지 여부입니다. 현재의 주장은 인프라가 서비스를 시작해 약정된 수요를 처리한다는 데 의존합니다. 강력한 성장은 결국 건설과 하드웨어가 만든 현금 부담을 넘어야 합니다.
AWS 성장은 2분기에 37%를 기록했습니다. 메모리 가격이 더 비싸졌기 때문에 회사는 지출도 늘렸습니다. 향후 분기는 그 추가 투자가 현금 창출을 영구적으로 약화하지 않으면서 지속 가능한 매출을 뒷받침하는지 보여줘야 합니다.
AWS 가속이 이어지는 가운데 잉여현금흐름이 다시 흑자로 전환된다면 Amazon의 주장은 더 설득력을 얻을 것입니다. 또 한 번의 지출 증가와 함께 클라우드 성장이 둔화된다면 그 주장은 약화될 것입니다. CX 구매자는 매출 성장만으로 충분한 증거로 취급하지 말고 두 지표를 모두 지켜봐야 합니다.
두 번째 신호는 Google Cloud가 확대된 자본 계획을 관리하면서도 이례적인 성장을 유지할 수 있는지 여부입니다. Google은 82%의 클라우드 성장과 5,140억 달러의 수주잔고를 보고했습니다. 이 수치는 향후 분기에 요구 수준이 높은 비교 기준을 만듭니다.
Google은 Fortune 100의 거의 90%가 Gemini Enterprise를 사용한다고도 밝혔습니다. 다음 질문은 로고 수가 아니라 사용 깊이에 관한 것입니다. 구매자는 기업이 접근 권한과 파일럿에서 반복적인 운영 워크로드로 이동하고 있다는 증거를 필요로 합니다.
Google은 기업 AI 에이전트를 구축하는 프레임워크인 Agent Development Kit의 다운로드가 약 7천만 건에 달한다고 강조했습니다. 다운로드는 개발자 관심을 나타내지만, 활성 배포나 고객 성과를 측정하지는 않습니다. 운영 사용량이 더 강력한 도입 신호를 제공할 것입니다.
Google이 자본 집약도가 안정되는 가운데 클라우드 성장을 유지한다면, Amazon과 Google의 경쟁은 규모와 맞춤형 실리콘을 통해 단위 비용을 낮출 수 있습니다. 지출이 수익화보다 계속 더 빠르게 증가한다면, 고객은 더 엄격한 사용량 관리와 더 강한 약정 압박을 예상해야 합니다.
세 번째 신호는 기업 내에서 측정 가능한 CX 성과입니다. 구매자는 공급업체와 내부 팀에 시연 정확도가 아니라 완전한 여정 지표를 요청해야 합니다. 이 측정에는 작업 완료율, 반복 문의, 에스컬레이션, 수정, 고객 노력이 포함돼야 합니다.
자동화 상호작용당 비용은 여전히 유용하지만, 이 더 넓은 범위 안에서만 그렇습니다. 또 다른 문의를 만드는 저렴한 답변은 저렴하지 않습니다. 어려운 작업을 완료하는 더 비싼 답변은 더 나은 경제성을 만들 수 있습니다.
기업은 배포 후 시스템이 얼마나 자주 사람의 개입을 필요로 하는지도 추적해야 합니다. 이 수치에는 눈에 보이는 에스컬레이션과 보이지 않는 유지관리 작업이 모두 포함됩니다. 지식 업데이트, 프롬프트 변경, 사고 검토, 규정 준수 점검은 모두 인력을 소비합니다.
조달 팀은 세 가지 비용 범주를 분리해 의사결정을 개선할 수 있습니다. 인프라는 모델 호출, 스토리지, 네트워킹, 예약 용량을 포함합니다. 구현은 통합, 데이터 준비, 테스트, 워크플로 설계를 포함합니다.
운영은 모니터링, 평가, 콘텐츠 소유권, 보안 검토, 예외 처리를 포함합니다. 이 범주들을 결합하는 공급업체 제안서는 향후 증가가 어디에서 나타날지 숨길 수 있습니다.
구매자는 실질적 가치가 있는 경우 이식성도 요구해야 합니다. 모델 라우팅과 공통 인터페이스는 한 공급업체에 대한 의존도를 줄일 수 있습니다. 클라우드는 ID, 데이터, 모니터링, 에이전트 도구 측면에서 차이가 있으므로 완전한 이식성은 여전히 어렵습니다.
목표는 이론적 독립성이 되어서는 안 됩니다. 비용, 품질 또는 위험이 바뀔 때 선택한 워크로드를 옮길 수 있을 만큼의 유연성이어야 합니다. 이 위치는 기업이 어디에서나 동일한 시스템을 유지하도록 강제하지 않으면서 협상력을 제공합니다.
팀은 원하는 결과를 관찰할 수 있는 워크플로부터 시작해야 합니다. 주문 상태, 예약 변경, 승인된 문제 해결 경로는 더 명확한 완료 신호를 가집니다. 개방형 조언과 민감한 계정 결정에는 더 큰 주의가 필요합니다.
그런 다음 확대하기 전에 전체 여정을 측정해야 합니다. 성공적인 파일럿은 실제 트래픽과 정책 변경을 견뎌낸 뒤에야 의미를 가집니다. 확장은 더 새로운 모델의 उपलब्ध 여부가 아니라 증거를 따라야 합니다.
Amazon과 Google의 경쟁은 더 빠른 모델과 더 많은 클라우드 용량을 계속 만들어낼 것입니다. 그러나 각 기업의 데이터 품질, 책임성, 워크플로 설계를 해결하지는 못할 것입니다. 이는 여전히 현지의 운영 문제로 남습니다.
고객 경험 리더는 이제 직접적인 선택에 직면합니다. AI를 저렴한 지능이 늘어나는 풀로 취급할 수도 있고, 비용이 큰 운영 시스템으로 관리할 수도 있습니다. 두 번째 관점은 품질, 소유권, 수익에 관한 더 나은 질문을 만듭니다.
다음 AI 확대를 승인하기 전에, 개선되어야 하는 비즈니스 결과와 이를 달성하는 데 필요한 모든 비용을 식별하십시오. 그다음 에스컬레이션, 반복 문의, 사람의 감독을 포함한 뒤 성과를 측정하십시오. 시스템이 여전히 가치를 만든다면 자신 있게 확장하십시오. 비즈니스 사례가 이러한 비용을 무시하는 데 의존한다면, 더 큰 모델이나 클라우드 약정으로는 이를 해결할 수 없습니다. Amazon과 Google의 지출 경쟁은 더 많은 역량을 제공하지만, 기업은 그 역량이 어디에서 제 자리를 얻는지 결정해야 합니다.