AI 지출의 정산: 「토큰만 늘리면 된다」는 공식이 더 이상 통하지 않을 때

허니문 기간의 끝

지난 2년간 테크 업계는 단순한 믿음 아래 움직였습니다. AI에 더 많이 쓰면 그만큼 더 많은 성과가 나온다는 것이죠. 토큰을 쏟아부으면 생산성이 생깁니다. 그 계산은 분명해 보였습니다 — 통하지 않게 될 때까지는.

2026년 5월, Uber 최고운영책임자(COO) 앤드류 맥도널드는 잡음을 가르는 발언을 했습니다. 회사의 AI 지출을 정당화하기가 점점 더 어려워지고 있다는 것입니다. 도구가 고장 난 것은 아닙니다. 하지만 투입한 돈과 창출된 가치 사이에 직선을 그을 수 있는 사람이 아무도 없습니다.^[1]

Uber의 「머리가 터질 것 같은 순간」

이야기는 몇 주 전부터 시작됩니다. Uber 최고기술책임자(CTO) 프라빈 네팔리 나가가 The Information에 Uber가 이미 2026년 Claude Code 예산을 단 4개월 만에 소진했다고 밝히면서 화제가 됐습니다. 3월까지 Uber 약 5,000명의 엔지니어 조직 전체에서 Claude Code 이용률은 32%에서 84%로 급등했습니다. 개별 엔지니어는 토큰 비용만으로 월 500~2,000달러를 소비했습니다. Uber에서 커밋되는 코드의 약 70%는 이제 AI가 생성합니다.^[3]

맥도널드는 이를 「머리가 터질 것 같은 순간」이라고 표현했습니다 — 토큰 소비, 인력 배치와의 트레이드오프, 그리고 그것이 실제로 성과로 이어지고 있는지에 대한 긴급한 내부 논의가 벌어졌다는 뜻입니다.

「그 연결고리는 아직 보이지 않습니다. 암묵적으로는 더 많은 것이 출시되고 있을 수도 있지만, 그 통계 중 하나와 『좋아, 지금 실제로 소비자용 편의 기능이 25% 늘었다』는 결과를 연결하는 것은 매우 어렵습니다.」

— 앤드류 맥도널드, Uber COO ^[1]

Uber 최고경영자(CEO) 다라 코스로샤히는 AI 투자 비용 급증을 상쇄하기 위해 이미 5월 초 채용 속도 둔화를 발표하며 그 압박을 시사했습니다.^[1]

Microsoft의 조용한 철수

Uber만의 문제가 아닙니다. 이 국면을 가장 잘 보여주는 사건 중 하나로, 세계 최대 소프트웨어 기업이자 OpenAI의 대규모 투자자인 Microsoft가 Experiences and Devices 사업부(Windows, Microsoft 365, Teams, Surface를 담당) 내에서 사내 Claude Code 라이선스 대부분을 조용히 해지하기 시작했습니다.

대상 엔지니어들에게는 Microsoft 회계연도 말인 6월 30일까지 GitHub Copilot CLI로 이전하라는 지시가 내려졌습니다. 공식적인 이유는 툴체인 통합이었지만, The Next Web이 직설적으로 지적한 비공식적인 이유는 비용이었습니다.^[3]

경제성은 가혹합니다. 토큰 단위 가격 모델은 재무팀이 모델링에 익숙한 좌석 단위 소프트웨어 라이선스와 전혀 다르게 작동합니다. 에이전트형 코딩 세션은 몇 시간씩 이어지고, 병렬 스레드를 만들며, 막대한 양의 컨텍스트를 생성합니다. 비용은 모델이 얼마나 생각하는지에 따라 확장됩니다 — 그리고 현대 AI 에이전트는 매우 잘 생각합니다. 이 자리에서 가장 협상력 있는 기업조차 엔지니어들이 선호하는 제품의 벤더에서 멀어지고 있다 — 그 의미는 분명합니다.^[3]

업계 전반의 가격 재설정

이것은 Uber나 Microsoft만의 문제가 아닙니다. 업계 전반에 퍼진 구조적 상황입니다.

• Duolingo는 AI 이용을 직원 성과 평가에 포함하기로 한 결정을 철회했습니다. 직원들로부터 성과가 아니라 AI 사용 자체를 위해 쓰이고 있지 않느냐는 의문이 제기됐기 때문입니다. CEO 루이스 폰 안은 그것이 활동에 대한 책임이었지 결과에 대한 것이 아니었다고 인정했습니다.^[1]
• Target은 AI 에이전트 이용량 기반 과금 모델에 대한 우려를 표명하며, 계약 전 비용을 신중히 검토하고 있습니다.^[2]
• Starbucks는 AI 재고 관리 실험을, 해당 시스템이 단순히 신뢰할 수 없다고 결론 내리며 중단했습니다.^[2]
• Nvidia 부사장 Bryan Catanzaro는 Axios에 자신의 팀에게 컴퓨팅 비용이 이제 그것을 쓰는 직원의 인건비를 넘어섰다고 말했습니다 — 칩을 팔고 있는 기업의 놀라운 고백입니다.^[3]

한편 Gartner는 생성 AI를 바로 환멸기에 위치시키며, 개념 증명(PoC)이 조달을 통과하지 못한 채 2026년 계획 AI 예산의 25%가 2027년으로 밀릴 것이라고 예측합니다. 또 다른 Gartner 조사에 따르면 AI 기반 프로젝트 중 비즈니스 케이스를 완전히 달성한 것은 단 28%에 불과했습니다.^[3]

「토큰맥싱」의 함정

빅테크는 「토큰맥싱(tokenmaxxing)」이라는 말을 만들었습니다 — 가능한 한 적극적으로 AI를 쓰는 철학으로, 직원을 AI 이용량으로 평가하고 토큰 소비를 혁신의 대리 지표로 취급합니다. 한동안 그것은 경쟁 우위처럼 느껴졌습니다.^[4]

하지만 균열이 드러나고 있습니다. 문제는 AI 도구가 작동하지 않는 것이 아닙니다. 많은 도구는 놀랍도록 잘 작동합니다 — 엔지니어가 끊임없이 쓸수록 더 잘 작동하며, 그 끊임없는 이용이 재무 모델을 무너뜨리고 있습니다. 금융 업계에서 널리 공유되는 2024년 MIT 분석에 따르면, 현재 가격 체계에서는 AI 자동화가 인력보다 저렴한 것은 사람들이 대체될 것으로 가정했던 일의 약 4분의 1에 그칩니다.^[3]

더 깊은 문제는 에이전트형 AI의 각 새 세대가 설계상 작업 단위당 토큰 소비를 늘리고 있다는 점입니다 — 더 오래 추론하고, 더 꼼꼼히 계획하고, 더 많은 병렬 프로세스를 실행하기 때문입니다. 토큰 단가는 확실히 하락하고 있습니다 — 약 18개월마다 10분의 1로. 하지만 작업당 토큰 소비는 그보다 더 빠르게 늘고 있습니다. 계산식은 개선되지 않고 있습니다.^[3]

앞으로 무엇을 의미하는가

AI 지출의 정산은 AI가 실패하고 있다는 신호가 아닙니다. 업계가 성숙해지고 있다는 신호이며, AI 투자의 「일단 믿고 해보자」는 편한 단계가 끝나가고 있음을 뜻합니다. 다음 단계에서는 더 엄격한 것 — 지출이 성과를 내고 있다는 실제 증명이 요구될 것입니다.

이 가격 재설정을 헤쳐 나갈 기업은 토큰맥싱을 가장 격렬하게 한 기업이 아닙니다. 오히려 먼저 어려운 질문을 던지는 기업일 것입니다. 「AI를 쓰고 있는가?」가 아니라, 「그 AI가 실제로 작동하는가?」라고.

후자의 질문이 훨씬 건강합니다. 솔직히 말해, 누군가 그렇게 묻기 시작하는 것은 시간문제였습니다.

출처

• [1] Business Insider — Uber COO Andrew Macdonald on AI token spending
• [2] Reddit / r/ArtificialIntelligence — Uber COO not seeing proportional productivity gains
• [3] The Next Web — Microsoft's quiet Claude Code retreat and the real cost of enterprise AI
• [4] Times of India — Uber COO says AI 'tokenmaxxing' is becoming harder to justify