Amy Webb, AI 생산성 붐이 기업을 파일럿 연옥에 가두고 있다고 경고

Amy Webb는 Google News에 소개된 Fortune 보도를 통해 날카로운 경고를 내놨다. AI는 콘텐츠 제작 비용을 낮추는 반면, 기업 운영은 더 어렵고 비용이 많이 들게 만든다는 것이다.

이 경고는 더 빠른 생산이 자동으로 경제적 가치를 만든다는 통념에 이의를 제기한다. 이제 기업은 몇 시간 만에 프레젠테이션, 분석, 코드, 제안서를 만들 수 있다. 하지만 많은 기업은 그 산출물을 의사결정, 업무 흐름, 또는 측정 가능한 수익으로 연결하지 못하고 있다.

Future Today Strategy Group의 CEO인 Webb는 이 시장을 좋지 않은 데이팅 앱에 비유한다. 사용자가 지속적인 관계를 맺는 대신 계속 상대를 찾을 때 플랫폼은 이익을 얻는다. 기업용 AI 공급업체 역시 고객이 지속 가능한 배포를 완성하지 못한 채 계속 파일럿을 시작하고, 토큰을 구매하며, 모델을 시험할 때 이익을 얻는다.

이런 역학은 현재의 붐을 닷컴 시대와 닮게 만든다. 다만 추가적인 복잡성이 있다. 인터넷 거품은 실제로 작동하는 사업이 없는 기업들에 자금을 댔다. AI 경제에는 이미 유용한 제품, 상당한 매출, 실질적인 생산성 향상이 존재한다.

취약점은 다른 곳에 있다. AI는 조직이 평가하고, 관리하며, 흡수할 수 있는 것보다 더 많은 작업을 만들어낼 수 있다. 이 기술은 산출물을 생성하는 데는 성공하지만, 이를 둘러싼 비즈니스는 그 산출물을 결과로 전환하는 데 실패한다.

Amy Webb의 경고가 Google News의 AI 거품 논쟁을 바꾸다

가장 중요한 변화는 AI가 갑자기 작동을 멈췄다는 점이 아니다. 성공적인 생산이 기업이 이를 인식하는 속도보다 더 빠르게 새로운 조직 비용을 만들 수 있다는 점이다.

Webb는 8월 30일 Fortune의 AI 경제 분석에서 이 주장을 제시했다. 그는 해당 매체에 AI가 생산을 저렴하게 만드는 반면, 기업 내부의 거의 모든 다른 요소를 더 비싸게 만든다고 말했다.

그의 주장은 생성형 AI가 단지 과대광고일 뿐이라는 익숙한 주장과는 다르다. 모델은 신뢰할 만한 문서를 작성하고, 정보를 분석하며, 소프트웨어를 생성하고, 프레젠테이션을 만들 수 있다. 바로 이러한 역량이 새로운 문제를 만들어낸다.

프레젠테이션을 만드는 데 일주일이 걸렸다면, 팀은 신중하게 준비된 자료 하나를 받을 수 있었다. AI가 이 작업을 하루로 줄이면 관리자는 서로 겹치는 질문을 다룬 자료 다섯 개를 받을 수 있다.

문서 하나를 만드는 비용은 낮아진다. 반면 이를 검토하고, 비교하고, 검증하고, 그중에서 결정하는 비용은 높아진다.

Webb는 이를 “덱에 빠져드는 것”이라고 부른다. 한 임원은 부하 직원들이 분석이 너무 적어서가 아니라 너무 많아서 의사결정 마비를 겪고 있다고 그에게 말했다. 또 다른 임원은 이전보다 다섯 배 빠른 속도로 도착하는 “insta-decks”를 언급했다.

이는 역량 불일치다. 생성 시스템은 그럴듯한 작업의 공급을 늘리지만, 경영진의 주의력, 법무 검토, 조직의 판단력은 같은 속도로 확장되지 않는다.

AI 경제 경고는 데이팅 앱 비유도 제시한다. Webb는 데이팅 플랫폼이 사용자가 파트너를 찾은 뒤 떠나는 대신 계속 검색할 때 이익을 얻는다고 주장한다.

기업용 AI 시장도 비슷한 유인을 만들 수 있다. 공급업체는 고객이 실험하고, 컴퓨팅 자원을 소비하며, 구독을 추가하는 동안 매출을 얻는다. 이러한 지출이 계속되려면 고객이 수익성 있는 배포를 완료할 필요는 없다.

한편 경영진은 진행 중인 파일럿을 AI에 대응하고 있다는 증거로 제시할 수 있다. 파일럿은 중요한 업무 흐름을 재설계하는 것보다 더 안전해 보인다. 즉각적인 노출을 제한하고 책임성에 관한 어려운 결정을 피할 수 있다.

하지만 그 안전성은 함정이 될 수 있다. 각 파일럿은 또 하나의 데모, 보고서, 또는 전략 자료를 만들어낸다. 기업은 AI가 작업을 수행할 수 있다는 증거는 얻지만, 그 작업이 지속 가능한 운영 프로세스 안에 들어갈 수 있다는 증명은 얻지 못한다.

Webb는 임원들이 이런 상태를 “pilot purgatory”라고 표현한다고 말한다. 팀은 애플리케이션을 계속 시험하지만 이를 법무, 정보기술, 조달, 또는 기존 비즈니스 시스템에 통합하지 못한다.

하나의 파일럿이 끝나면 다른 팀은 다시 처음부터 시작할 수 있다. 기업은 발견 과정에 반복적으로 비용을 지불하면서도 이전 시도에서 얻은 조직적 기억은 거의 유지하지 못한다.

그 결과 특이한 형태의 풍요가 나타난다. 직원들은 더 많은 자료를 만들 수 있지만, 경영진은 무엇이 행동할 가치가 있는지 더 확신하지 못하게 된다. 조직은 더 많은 AI 역량을 확보하면서도 그 경제적 기여를 설명하지 못한다.

이는 생성의 실패가 아니다. 전환의 실패다.

모델은 프롬프트를 산출물로 전환한다. 기업은 산출물을 의사결정, 행동, 매출, 절감, 또는 낮은 위험으로 전환해야 한다. 이는 소유자와 제약 조건이 서로 다른 별개의 과정이다.

이 구분은 거품 논쟁의 틀을 바꾼다. 더 이상 AI가 인상적인 작업을 만들어낼 수 있는지가 질문이 아니다. 기업이 비싼 검토와 혼란의 층위를 만들지 않고 그 작업을 흡수할 수 있는지가 질문이다.

수익이 나타나기 전에 계속 증가하는 기업 AI 지출

기업 구매자는 양쪽에서 압박을 받는다. 이사회는 눈에 보이는 AI 진전을 기대하는 반면, 운영팀은 파일럿이 재무 성과를 개선한다는 점을 입증하기 어려워한다.

Fortune이 인용한 Bain 설문조사는 전 세계 951개 기업을 대상으로 했다. AI 비용 절감을 측정한 응답자 가운데 거의 40%는 11~20%의 수익을 목표로 했음에도 10% 미만을 달성했다.

이 부족분은 투자를 멈추게 하지 못했다. 조사 대상 기업의 90%는 AI 예산을 늘릴 계획이라고 답했다.

이 조합은 어느 한 수치보다 더 중요하다. 측정된 절감 효과가 약하다면 보통 지출은 줄어들 수 있다. 그러나 AI 분야에서는 경쟁에 대한 불안감이 기존 배포가 기대에 미치지 못한 이유를 이해하기 전에 기업의 추가 지출을 부추긴다.

누구도 뒤처져 보이고 싶어 하지 않는다. 고위 경영진은 소비자 채택이 가속화되고 모델 역량이 향상되는 모습을 지켜봤다. 또한 소규모 AI 네이티브 팀이 더 큰 기존 기업을 능가할 수 있다는 주장도 듣는다.

따라서 많은 기업 내부에서 정치적으로 더 안전한 선택은 또 하나의 파일럿이다. AI 작업을 취소하는 것은 소극적으로 보일 수 있다. 조직에 데모에서 운영 환경으로 이어지는 경로가 없더라도 실험을 승인하는 것은 대응하는 모습으로 보인다.

더 광범위한 도입 데이터도 같은 격차를 보여준다. McKinsey의 AI 도입 설문조사는 응답자의 88%가 적어도 하나의 비즈니스 기능에서 AI를 정기적으로 사용한다고 답한 것으로 나타났다.

기업 전체에서 AI 프로그램을 확장하기 시작했다고 답한 비율은 약 3분의 1에 불과했다. 대다수는 여전히 실험 또는 파일럿 단계에 머물렀다.

재무적 영향은 더 제한적이었다. 39%는 AI가 기업 수익에 어느 정도 영향을 미쳤다고 답했다. 이 집단의 대다수는 AI가 이자 및 세전이익의 5% 미만을 차지한다고 말했다.

이 결과가 기술에 가치가 없다는 뜻은 아니다. 사용량, 규모, 재무적 가치는 서로 다른 세 가지 측정 기준임을 보여준다.

직원이 챗봇을 정기적으로 사용한다고 해서 기업의 경제성이 바뀌는 것은 아니다. 부서는 에이전트를 배포하면서도 그에 맞춰 업무 흐름을 재설계하지 않을 수 있다. 기업은 직원 시간을 절약하면서도 그 시간을 비용 절감이나 더 높은 산출량으로 포착하지 못할 수 있다.

기업은 활동을 측정하기 쉬우므로 활동을 집계하는 경우가 많다. 라이선스, 프롬프트, 사용자, 생성된 코드, 완성된 문서를 추적한다. 이런 수치는 소비를 보여줄 뿐, 반드시 가치를 보여주지는 않는다.

유용한 측정은 시스템을 비즈니스 결과와 연결해야 한다. 여기에는 더 빠른 사례 해결, 낮은 지원 비용, 판매 전환율 증가, 더 짧은 개발 주기, 또는 더 적은 규정 준수 오류가 포함될 수 있다.

그렇다고 해도 인과관계를 귀속시키기는 어렵다. 팀은 AI를 도입한 후 리더십을 교체하고, 데이터를 정비하거나, 프로세스를 단순화했기 때문에 성과가 좋아질 수 있다. 모델은 모든 공로도, 모든 책임도 가져서는 안 된다.

비용은 또 다른 압박 요인이다. Fortune은 전 세계 AI 지출이 2026년 2조 5,000억 달러에 이를 것으로 예상됐으며, 이는 전년 대비 44% 증가한 수치라고 보도했다.

일부 최고정보책임자는 이미 사용량을 더 엄격히 관리하고 있다. 예를 들어 Samsara는 AI 비용을 매일 모니터링하고 직원 업무에 따라 서로 다른 사용 한도를 적용한다.

Docusign은 코딩 에이전트가 맥락을 파악하기 위해 코드 베이스의 지나치게 많은 부분을 스캔하고 있다는 사실을 발견한 뒤 이를 조정했다. 이 회사는 검색되는 자료의 범위를 좁히자 토큰 사용량이 거의 50% 줄었다고 밝혔다.

이 사례들은 정교한 데모가 감출 수 있는 비용이 실제 운영에서 드러난다는 점을 보여준다. 데모는 모델이 작업을 완료할 수 있음을 증명한다. 하지만 수천 명의 직원이 반복적으로 사용할 때의 비용은 보여주지 못한다.

실제 운영은 보안 검토, 신원 제어, 데이터 권한, 감사 요건, 교육, 지원도 요구한다. 각 요소는 모델의 눈에 보이는 산출물 이상의 작업을 더한다.

실질적인 압박의 대상은 기업 구매자다. 공급업체는 사용량 증가를 보고할 수 있지만, 고객은 통합과 조직 변화의 비용을 떠안는다.

이사회는 결국 더 명확한 답을 요구할 것이다. 어떤 AI 시스템이 측정 가능한 결과를 바꿨는지, 어떤 시스템이 단지 작업을 이동시켰는지, 또 어떤 시스템이 누구에게도 필요하지 않은 자료를 더 많이 만들었는지 물을 것이다.

잘 관리된 AI 워크플로는 정보를 명확히 정의된 의사결정에 연결해 분절된 노력을 줄일 수 있다. 핵심은 산출물의 양이 아니라 정의된 의사결정이다.

이런 기준점이 없으면 AI 접근성을 확대하는 일은 기존의 혼란을 증폭시킬 수 있다. 팀은 더 빠르게 만들고, 관리자는 더 오래 검토하며, 책임성은 분산된 채 예산은 계속 늘어난다.

핵심적 역전: 생산성 향상이 오히려 진전 감소를 뜻할 수 있다

AI의 핵심적인 경제적 역전은 간단하다. 더 저렴한 산출물은 작업량을 늘리지만, 조직이 이를 판단하고 활용할 수 있는 역량은 여전히 제한적이다.

전통적인 생산성 측정은 시간당 산출물이 늘어나는 것을 개선으로 본다. 추가 단위에 명확한 수요가 있고 품질이 일관될 때 이 논리는 작동한다.

하지만 지식 노동은 항상 그런 방식으로 움직이지 않는다. 리더가 자금을 지원할 수 있는 전략적 권고안이 하나뿐이라면, 기업은 다섯 개의 권고안을 받는 것으로 좀처럼 이익을 얻지 못한다. 더 많은 대안은 결정을 개선하기보다 약속을 늦출 수 있다.

AI는 평범한 작업을 만드는 비용도 낮춘다. 제안서는 더 이상 며칠간의 노력을 정당화할 만큼의 확신을 요구하지 않는다. 누구나 근본적인 아이디어가 중요한지 검증하기 전에 정교한 문서를 생성할 수 있다.

프레젠테이션의 품질은 취약한 추론을 가릴 수 있다. 자료에는 그럴듯한 언어, 체계적으로 정리된 차트, 상세한 권고안이 담길 수 있다. 전문적인 외형이 정확한 가정이나 유용한 판단을 보장하지는 않는다.

이는 검토 부담을 만든다. 관리자는 어떤 부분이 신뢰할 수 있는 증거에서 나왔는지, 어떤 부분이 추론된 것인지, 어떤 부분이 충분한 맥락 없이 생성된 것인지 판단해야 한다.

검토 부담은 부서 전반으로 퍼진다. 법무팀은 책임 문제를 검토한다. 보안팀은 데이터 노출을 평가한다. 재무팀은 절감 추정치에 의문을 제기한다. 운영 리더는 직원들이 실제로 행동을 바꿀지 결정한다.

파일럿은 통제된 환경에서 운영되므로 이런 마찰의 상당 부분을 피할 수 있다. 실제 운영은 그렇지 않다.

실제 운영에는 안정적인 책임자, 승인된 데이터, 모니터링, 에스컬레이션 경로, 오류 대응 계획이 필요하다. 또한 AI가 행동해서는 안 되는 시점을 결정할 사람도 필요하다.

이러한 요건은 기술적으로 성공한 파일럿이 여전히 멈추는 이유를 설명한다. 조직은 모델이 작업을 수행할 수 있음을 증명했지만, 그 성과를 신뢰하는 데 필요한 주변 시스템을 구축하지는 못했다.

McKinsey의 연구는 워크플로 재설계를 중요한 분기점으로 지목한다. 가치를 얻는 조직은 기존 프로세스 옆에 AI 인터페이스를 하나 더 놓는 데 그치지 않는다.

이들은 역할, 인센티브, 인터페이스, 측정 방식을 바꾼다. 피드백 체계를 마련하고 도입에 대한 명확한 책임도 설정한다.

이 작업이 더딘 이유는 파일럿으로는 감출 수 있는 이견을 드러내기 때문이다. 팀은 누가 데이터를 소유하는지, 누가 위험을 감수하는지, 누가 지속 사용 비용을 부담할지를 결정해야 한다.

‘자료 더미에 파묻히는’ 문제는 더 작은 규모에서 작동하는 같은 메커니즘이다. AI가 생산 병목을 제거한 뒤, 의사결정 병목을 드러낸다.

마케팅 팀은 하룻밤 사이에 30개의 캠페인 콘셉트를 만들 수 있다. 그렇다고 브랜드가 30개의 캠페인을 모두 진행해야 한다는 뜻은 아니다. 사람들은 여전히 타깃 고객을 선택하고, 메시지의 주장을 승인하고, 예산을 배분하며, 결과를 해석해야 한다.

소프트웨어 팀은 더 많은 코드를 생성할 수 있다. 엔지니어들은 여전히 아키텍처를 검토하고, 엣지 케이스를 테스트하며, 의존성을 유지하고, 배포된 서비스를 지원해야 한다.

연구 팀은 수백 건의 문서를 요약할 수 있다. 그러나 누군가는 여전히 출처 집합이 완전한지, 상충하는 증거가 결론을 바꾸는지를 판단해야 한다.

이러한 작업에는 맥락, 책임성, 판단력이 필요하다. 정답이 보편적인 답변이 아니라 조직의 우선순위에 따라 달라지기 때문에 자동화하기가 더 어렵다.

따라서 생산성 약속에는 숨은 가정이 있다. 조직이 모델이 만들어내는 모든 것을 흡수할 수 있다는 가정이다.

이 가정은 자주 무너진다. 관리자는 이미 넘쳐나는 받은편지함, 경쟁하는 대시보드, 반복되는 회의에 직면해 있다. 기업이 기존 채널을 없애지 않는 한 AI는 또 하나의 대량 정보 채널을 추가할 뿐이다.

해법이 자동으로 또 다른 모델이 되는 것은 아니다. 더 뛰어난 추론 능력을 갖춘 모델은 개인의 결과물을 개선할 수 있지만, 더 길고 설득력 있는 문서를 만들어낼 수도 있다.

시스템의 역량이 높아질수록 진지한 검토가 필요한 분석을 만들기는 더 쉬워진다. 이는 희소한 전문가에게 가해지는 부담을 키울 수 있다.

Webb가 일반적인 아이디어에 대해 한 관찰은 또 다른 우려를 더한다. 많은 팀이 유사한 모델에 의존하면, 비슷한 전략과 언어, 권고안을 만들어낼 수 있다.

이는 진정한 다양성 없이 폭넓은 분석이 이뤄진 것처럼 보이게 한다. 생성된 다섯 개의 슬라이드 자료는 하나의 통계적 중심 경향이 다섯 가지 방식으로 표현된 것일 수 있다.

그 결과 기업은 양을 독립적인 확인과 혼동할 위험이 있다. 모든 문서가 정교해 보일 때 반복은 특히 설득력을 갖는다.

최선의 대응은 생성된 작업을 거부하는 것이 아니다. 그것을 만들기 전에 해당 작업이 무엇을 바꿔야 하는지 정의하는 것이다.

유용한 프로젝트는 운영상 의사결정, 측정 가능한 기준선, 책임 있는 담당자, 지속 여부를 판단할 임계값에서 출발한다. AI 구성 요소는 그 구조를 지원하는 역할을 한다.

파일럿 연옥은 반대 방향에서 시작된다. 기업은 도구부터 도입하고, 적용처를 찾으며, 기술적 실현 가능성을 반복해서 축하한다.

모델은 계속 개선되기 때문에 이 과정은 끝없이 이어질 수 있다. 새 릴리스가 나올 때마다 같은 워크플로를 다시 테스트할 이유가 생긴다.

이 지점에서 데이팅 앱의 비유가 더 분명해진다. 검색 자체가 제품이 된다. 다음 모델이나 에이전트가 마침내 약속한 매칭을 만들어줄지도 모른다는 이유로 기업은 계속 활동적인 고객으로 남는다.

닷컴 비교가 들어맞는 지점과 그렇지 않은 지점

닷컴 시대와의 유사점은 검증된 수익보다 앞서 자본이 역량에 투자되고 있다는 데 있다. 다만 오늘날의 AI 제품은 이미 실질적인 효용과 상당한 수요를 제공하고 있다.

인터넷 붐 당시 투자자들은 네트워킹과 디지털 상거래가 경제를 재편할 것이라는 점을 정확히 파악했다. 그러나 어떤 기업이 그 가치를 확보할지, 수익이 얼마나 빨리 나타날지에 대해서는 종종 틀렸다.

AI도 기술적 중요성과 투자 규율 사이에 같은 분리를 보여준다. 기술은 사회를 변화시킬 수 있지만, 그 기술을 중심으로 만들어진 많은 기업은 실패할 수 있다.

Webb는 현재 상황이 더 나쁠 수 있다고 주장한다. AI는 투기 자본을 끌어들이는 데 그치지 않고, 제대로 작동하는 조직에도 저렴한 산출물을 대량으로 쏟아내기 때문이다.

실패한 닷컴 소매업체는 투자자 자금을 잃고 문을 닫을 수 있다. 제대로 관리되지 않은 AI 도입은 그 밖에는 건전한 기업 내부의 의사결정, 인력 배치, 정보 흐름, 운영비를 바꿔놓을 수 있다.

인프라 지출은 위험의 규모를 키운다. Goldman Sachs Global Institute 공동 책임자 George Lee는 AI 인프라 총투자가 궁극적으로 7조~8조 달러에 이를 수 있다고 추정했다.

Lee는 기존 이익 풀을 대체하는 것만으로는 충분한 회수를 만들어낼 수 없다고 주장했다. 투자는 순증 경제 활동을 필요로 한다.

이는 까다로운 기준이다. 비용 절감은 가치를 새로 만들기보다 이전하는 경우가 많다. 모든 기업이 AI로 비슷한 인건비를 줄인다면, 경쟁은 혜택의 상당 부분을 고객에게 넘길 수 있다.

새로운 제품, 시장, 수요는 더 강한 토대를 제공할 수 있다. 하지만 그러한 기회는 생산성 시연보다 입증하는 데 더 오래 걸린다.

Goldman의 Jim Covello는 시점 문제를 강조해 왔다. 그는 소비자 도입과 기술 발전이 자신의 예상치를 뛰어넘었다는 점은 인정하지만, 인프라 지출의 궁극적인 수익에 대해서는 회의적이다.

그의 기준은 실용적이다. 2년이 더 지난 뒤에도 업계가 이 기술을 여전히 ‘초기 단계’라고 부른다면, 수익성 지연은 변명하기 더 어려워진다.

낙관론도 동등한 비중으로 다뤄야 한다. AI 기업들은 실제 매출을 내고 있으며, 코딩 도구는 일부 환경에서 측정 가능한 개선을 보여왔다.

Atlantic의 분석은 2025년과 2026년 동안 유료 비즈니스 도입이 크게 확대됐다고 보도했다. 또한 Anthropic, OpenAI, Anysphere의 코딩 에이전트에 대한 수요가 증가하고 있다고 설명했다.

해당 AI 생산성 분석에서 인용한 최근 연구에 따르면, 최신 도구를 사용한 개발자들은 대조군보다 할당된 작업을 거의 20% 더 빠르게 완료했다.

이 결과는 AI를 사용한 개발자들이 20% 더 오래 걸렸던 이전 실험의 결과를 뒤집었다. 도구의 품질과 사용자 경험이 측정된 결과를 바꿀 만큼 개선된 것이다.

이 때문에 단순히 ‘AI는 또 하나의 닷컴 버블’이라고 결론내리는 것은 오해를 부를 수 있다. 역량은 개선되고 있고, 고객은 비용을 지불하며, 일부 적용 사례는 직접적인 혜택을 만들어낸다.

코딩은 AI에 특히 유리한 분야일 수도 있다. 소프트웨어에는 대규모 학습 데이터, 구조화된 피드백, 팀이 테스트할 수 있는 산출물이 존재한다.

다른 형태의 지식 노동에는 이런 이점이 없다. 전략 권고안은 자동화된 테스트로 항상 평가할 수 있는 것이 아니다. 경영 의사결정은 그 품질이 드러나기까지 수개월이 걸릴 수 있다.

따라서 현재의 붐에는 지속 가능한 승자와 심각한 과잉투자가 함께 존재할 수 있다. 이 두 조건은 모순되지 않는다.

클라우드 제공업체, 칩 제조업체, 모델 개발사, 애플리케이션 공급업체, 컨설턴트, 기업 팀은 모두 서로 다른 위치를 차지한다. 한 계층의 매출은 다른 계층에는 비생산적인 비용이 될 수 있다.

모델 제공업체는 고객이 계속 실험하기 때문에 성장할 수 있다. 클라우드 기업은 모델 제공업체에 컴퓨팅 용량이 필요하기 때문에 성장할 수 있다. 어느 쪽도 기업 구매자가 충분한 수익을 확보한다는 증거는 아니다.

최종 사용자가 결국 상위 단계의 지출을 뒷받침할 만큼 충분한 경제적 가치를 만들어낼 때에만 이 사슬은 건강하게 유지된다.

이 지점에서 Webb의 ‘풍요의 비용’ 경고는 버블이라는 꼬리표보다 더 유용해진다. 버블 논쟁은 종종 시장 붕괴에 대한 예측으로 축소된다.

그녀의 주장은 운영 경제성에 초점을 맞춘다. 상장 시장의 밸류에이션이 높게 유지되더라도 기업은 중복 파일럿, 과도한 산출물, 취약한 통합을 통해 여전히 돈을 낭비할 수 있다.

회의론의 가장 강력한 증거는 극적인 실패가 아니다. 광범위한 도입과 제한적인 전사 규모의 수익 영향 사이에 지속되는 격차다.

낙관론의 가장 강력한 증거도 벤치마크가 아니다. 실제 업무에서 측정 가능한 개선과 연결된 유료 수요다.

전환기에는 두 가지가 모두 사실일 수 있다. 해결되지 않은 쟁점은 오늘날의 강력한 적용 사례가 인프라 및 운영비가 수익을 앞지르기 전에 충분히 많은 산업으로 확산될 수 있는지다.

파일럿 연옥은 단순한 모델 문제가 아니라 통합 문제다

기업은 AI를 독립형 제품으로 다루는 것을 멈추고, 도입을 운영체제 변화로 다루기 시작할 때 파일럿 연옥에서 벗어난다.

파일럿은 대개 모델이 특정 작업을 수행할 수 있는지를 묻는다. 운영 프로그램은 실제 제약 조건 아래에서 기업이 그 성능에 의존할 수 있는지를 묻는다.

이러한 제약에는 개인정보 보호, 권한, 지연 시간, 비용, 정확성, 직원 행동이 포함된다. 예산과 소유권에 관한 일상적인 질문도 포함된다.

많은 파일럿은 법무 및 정보기술 팀과 분리된 상태로 남아 있다. 이는 빠른 실험을 가능하게 하지만, 도입에 필요한 작업을 뒤로 미룬다.

해당 기능 조직이 마침내 프로젝트를 검토할 때, 원래 설계는 더 이상 실행 가능하지 않을 수 있다. 그러면 팀은 파일럿을 수정하거나, 공급업체를 교체하거나, 다시 시작한다.

레거시 시스템은 문제를 심화한다. 기업 데이터는 종종 정의와 접근 규칙이 일관되지 않은 호환 불가 애플리케이션에 흩어져 있다.

관련 정보가 단편화되어 있거나 관리가 부실하면 에이전트는 워크플로를 안정적으로 완료할 수 없다. 더 나은 추론 능력도 누락된 권한이나 상충하는 기록을 보완할 수는 없다.

이 때문에 엔터프라이즈 AI는 신뢰할 수 있는 자동화를 만들어내기 전에 설득력 있는 시연을 만들어내는 경우가 많다. 시연은 깔끔한 예시를 사용한다. 운영 환경은 기업이 실제로 존재하는 모습과 마주한다.

직원들은 비공식적인 우회 방식도 만든다. 이들은 도구 간에 정보를 복사하고, 개인 스프레드시트를 유지하며, 문서화되지 않은 지식에 의존한다.

공식 프로세스를 기반으로 학습한 AI 시스템은 업무가 실제로 완료되는 방식을 놓칠 수 있다. 광범위한 접근 권한을 받은 시스템은 민감한 정보를 노출하거나 승인되지 않은 변경을 할 수 있다.

사람의 검토는 여전히 필수적이지만, 워크플로에 맞춰 설계돼야 한다. 모든 산출물을 확인하라고 직원들에게 단순히 지시하면 약속된 시간 절감 효과가 사라질 수 있다.

검토는 중대한 위험에 집중해야 한다. 고객 대상 주장은 내부 브레인스토밍 목록보다 더 엄격한 검토가 필요하다. 결제 결정에는 회의 요약보다 더 강력한 통제가 필요하다.

기업에는 중단 기준도 필요하다. 파일럿은 어떤 성능, 도입 수준, 경제적 결과가 운영 전환을 정당화하는지 정의해야 한다.

그런 임계값이 없으면 성공은 주관적인 것이 된다. 후원자는 사용량 부진이나 비용 상승을 무시한 채 인상적인 사례만 부각할 수 있다.

회의적인 관점에서는 조직 개혁이 모든 사례를 해결하지 못할 수 있다. 일부 작업은 지나치게 모호하거나, 빈도가 너무 낮거나, 위험이 너무 커서 AI 도입을 정당화하기 어렵다.

기업은 모델을 올바르게 통합하고도 해당 사용 사례가 거의 가치를 만들지 못한다는 사실을 발견할 수 있다. 이는 반드시 실행 실패를 뜻하는 것이 아니라 유효한 결과다.

AI 공급업체는 지연된 모든 프로젝트를 통합 문제로 설명할 유인이 있다. 이런 설명은 근본 제품을 비판으로부터 보호한다.

구매자는 증거가 다른 방향을 가리킬 때 그러한 프레임을 경계해야 한다. 모델이 해당 작업에 비해 지나치게 신뢰할 수 없거나, 비싸거나, 느리거나, 일반적일 수 있다.

이 구분에는 통제된 측정이 필요하다. 기업은 검토 시간과 오류 수정까지 포함해 AI 지원 업무를 적절한 기준선과 비교해야 한다.

지속적인 사용도 측정해야 한다. 직원들은 출시 기간에는 시스템을 열정적으로 시험해 볼 수 있지만, 새로움이 사라지면 이를 포기할 수 있다.

성공적인 파일럿은 일상적인 조건에서도 살아남아야 한다. 실제 데이터, 일반 사용자, 반복적인 물량, 그리고 운영에 필요한 동일한 통제가 필요하다.

또한 지식의 연속성도 필요하다. 팀은 공급업체나 모델이 출시될 때마다 다시 시작하는 대신, 이전 프롬프트, 평가, 실패 사례, 의사결정을 보존해야 한다.

이러한 조직적 기억은 반복 실험을 막는다. 또한 구매자가 새로운 모델이 경제성을 바꾸는지, 아니면 시연만 개선하는지를 판단하는 데 도움이 된다.

더 깊은 교훈은 기업 혁신이 여전히 기업의 책임이라는 점이다. 공급업체는 모델과 도구를 제공할 수 있다. 그러나 고객사의 프로세스에서 발생하는 모든 충돌을 해결할 수는 없다.

고위 경영진은 어떤 워크플로를 재설계할 가치가 있는지 결정해야 한다. 중복 단계를 제거하고, 책임을 지는 팀에 운영 방식을 바꿀 권한을 부여해야 한다.

그렇지 않으면 AI는 또 하나의 계층이 될 뿐이다. 직원들은 안전을 위해 기존 프로세스를 유지하면서, 가시성을 위해 새로운 AI 지원 프로세스까지 수행하게 된다.

이러한 중복은 비용을 높인다. 또한 팀이 두 시스템을 동시에 유지해야 하기 때문에 전환 기간에는 생산성이 더 나빠 보일 수도 있다.

신뢰할 수 있는 도입 계획은 어떤 기존 업무가 사라지는지 설명해야 한다. 회의, 보고서, 승인 절차, 수작업 단계 중 제거되는 것이 없다면 AI 시스템은 복잡성만 더할 가능성이 크다.

향후 3개월 동안 기업이 주목해야 할 사항

Webb의 경고가 지속적인 경제 패턴으로 자리 잡는지 보여줄 세 가지 신호는 운영 전환, 확보된 재무적 가치, 그리고 AI 사용량에 대한 더 엄격한 통제다.

첫 번째 신호는 파일럿 프로젝트가 반복적으로 운영 환경에 전환되는 비중이다. 새로운 실험 발표보다 중요한 것은 일반 직원들이 기존 워크플로에서 실제로 사용하는 시스템이다.

전환율이 높아진다면 ‘파일럿 연옥’이라는 주장은 약화될 것이다. 이는 기업들이 거버넌스, 데이터, 통합 장벽을 해결하고 있음을 보여준다.

운영 환경 확대 없이 파일럿만 계속 늘어난다면 Webb의 주장은 더 설득력을 얻는다. 실험이 도입으로 가는 다리가 아니라 지속적인 구매 카테고리가 되었음을 시사하기 때문이다.

기업들이 이러한 프로그램을 어떻게 설명하는지 살펴볼 필요가 있다. “직원에게 제공됨”은 일상적으로 사용된다는 뜻이 아니다. “배포됨”은 경제적 가치가 있다는 뜻도 아니다.

두 번째 신호는 기업 차원의 재무적 영향이다. McKinsey는 수익 기여가 있다고 보고한 조직 대부분이 여전히 EBIT의 5% 미만을 AI에 기여한 것으로 평가했다고 밝혔다.

향후 설문조사와 실적 발표에서는 이러한 기여가 확대되는지 드러나야 한다. 기업들은 측정 가능한 비용 절감, 매출, 처리 시간 개선 또는 위험 감소를 보고해야 한다.

모호한 생산성 주장은 신중하게 봐야 한다. 절약된 시간은 조직이 이를 추가 산출, 더 나은 서비스 또는 비용 절감에 활용할 때에만 가치가 있다.

기업들이 AI를 지속적인 수익 개선과 연결하기 시작한다면 버블과의 비교는 약해진다. 인프라 지출에는 더 명확한 회수 재원이 생길 것이다.

지출은 늘어나는데 측정된 수익은 제자리라면 경고는 더 강해진다. 시장이 확보된 가치의 상응하는 증가 없이 더 큰 활동에 자금을 대고 있다는 의미가 된다.

세 번째 신호는 사용량 제한과 모델 라우팅 시스템의 확산이다. 이러한 통제 장치는 비용, 속도, 필요한 역량에 따라 작업을 모델에 배정한다.

Samsara의 사용량 상한과 Docusign의 더 제한적인 컨텍스트 검색은 기업들이 숨은 운영 비용을 발견한 뒤 어떻게 대응하고 있는지를 보여준다.

통제가 늘어난다고 해서 AI 경제가 붕괴하고 있다는 증거는 아니다. 이는 시장이 실험 단계를 벗어나 단위 경제성을 마주하고 있음을 보여준다.

이러한 전환은 건전할 수 있다. 클라우드 컴퓨팅 역시 비용 관리, 거버넌스, 워크로드 최적화에 수년이 필요했다.

다만 예산 초과 이후 공격적인 제한이 도입된다면 Webb의 우려를 뒷받침하게 된다. 조직이 비용을 이해하기 전에 과잉 용량을 구매했다는 의미가 되기 때문이다.

독자들은 산업 부문 간 차이도 구분해야 한다. 코딩, 고객 서비스, 지식 관리, 문서 처리는 각각 구조화 수준과 측정 가능한 피드백의 정도가 다르다.

소프트웨어 엔지니어링에서의 성공이 전략이나 경영에서도 유사한 결과를 보장하지는 않는다. 규제된 워크플로에서의 실패가 모든 내부 어시스턴트의 가치를 부정하는 것도 아니다.

Google News는 증거가 실제로 엇갈리고 있기 때문에 양측의 이야기를 계속 보여줄 것이다. 도입과 매출은 늘어날 수 있지만, 기업의 수익은 여전히 고르지 않을 수 있다.

유용한 질문은 AI가 실재하는지 여부가 아니다. AI는 분명 가치 있는 업무를 수행한다. 유용한 질문은 각 도입이 전체 비용을 정당화할 만큼 운영 성과를 변화시키는지다.

그 비용에는 토큰, 구독, 인프라, 통합, 검토, 교육, 그리고 조직의 관심이 포함된다. 파일럿 단계를 벗어나지 못한 프로젝트의 기회비용도 포함된다.

Webb의 데이팅 앱 비유는 끝없는 탐색의 위험을 잘 포착한다. 기업들은 안정적인 운영 관계를 구축하지 못한 채 도구와 사용 사례를 계속 매칭할 수 있다.

출구는 더 적은 실험과 더 엄격한 기준에서 시작된다. 각 프로젝트에는 책임자, 경제적 기준선, 운영 전환 경로, 명시적인 중단 기준이 필요하다.

경영진은 또 하나의 파일럿을 승인하기 전에 마지막 질문 하나를 던져야 한다. 이것이 성공한다면 어떤 의사결정, 워크플로 또는 비용이 사라지는가?

아무도 답하지 못한다면, 그 기업에 필요한 것은 또 하나의 자료가 아닐 가능성이 크다. 업무 자체에 대한 명확성이다.