<div id="readability-page-1" class="page"><div><div tabindex="-1"><a rel="noopener follow" href="/?source=post_page---byline--4f12376b6742---------------------------------------" data-discover="true"><div><img alt="한정(Han Jung)" src="https://miro.medium.com/v2/resize:fill:64:64/1*tQfG8hfW5vM4hbRVZucMrg.png" width="32" height="32" loading="lazy" data-testid="authorPhoto"></div></a></div><figure><div role="button" tabindex="0">Press enter or click to view image in full size</div></figure><blockquote>원문: <a href="https://blog.pragmaticengineer.com/the-pulse-tokenmaxxing-as-a-weird-new-trend" rel="noopener ugc nofollow" target="_blank">https://blog.pragmaticengineer.com/the-pulse-tokenmaxxing-as-a-weird-new-trend</a></blockquote>메타 내부에서 한 엔지니어가 직원들의 토큰 사용량 순위를 매기는 “토큰 리더보드”를 만들었습니다. 지난주 The Information이 <a href="https://www.theinformation.com/articles/meta-employees-vie-ai-token-legend-status?ref=blog.pragmaticengineer.com" rel="noopener ugc nofollow" target="_blank">보도</a>한 내용입니다.<blockquote>“메타 플랫폼에서 자신의 AI 슈퍼유저 실력을 자랑하고 싶은 직원들이 ‘Session Immortal’, 더 나아가 ‘Token Legend’ 자리를 두고 사내 리더보드에서 경쟁하고 있다.이 순위는 메타의 한 직원이 회사 데이터를 활용해 인트라넷에 만들었으며, 직원들이 토큰(AI 모델이 처리하는 데이터 단위)을 얼마나 많이 소비하는지를 측정한다. AI 스타트업 앤트로픽의 대표 제품 이름을 따 ‘Claudeonomics’라 불리는 이 리더보드는 메타 임직원 8만 5,000명 이상의 AI 사용량을 집계해 상위 250명의 파워 유저를 보여준다.이 관행은 실리콘밸리의 새로운 과시적 소비 형태인 ‘토큰맥싱(tokenmaxxing)’을 잘 보여준다. 토큰 사용량은 이제 생산성의 잣대이자, 누가 가장 ‘AI 네이티브’인지를 가리는 경쟁 지표가 되었다. 직원들은 메타를 비롯한 여러 회사에서 사내 순위를 끌어올리려고 프롬프트 횟수, 코딩 세션, 동시에 돌리는 에이전트 수를 최대로 늘리고 있으며, 코딩 같은 업무를 AI가 자동화하는 와중에도 자신의 가치를 증명하려 한다.”</blockquote>저는 메타 엔지니어 몇 명에게 무슨 일이 벌어지고 있는지 들어보았습니다. 답변은 이러했습니다.<ul><li id="eec2">엄청난 낭비. 많은 개발자가 OpenClaw 같은 사내 에이전트를 돌리는데, 어마어마한 양의 토큰을 태우면서도 결과는 거의 없다고 합니다.</li><li id="f903">AI 남용으로 인한 장애. 어느 개발자는 일부 SEV(장애)가 부주의한 AI 코드 생성에서 비롯된 것으로 보인다고 말했습니다. SEV를 일으킨 개발자가 제품 품질보다 AI로 코드를 대량으로 찍어내는 데 더 신경 쓰는 모습이었다고 합니다.</li><li id="d1fb">게임화된 리더보드. 리더보드 상위권이 만들어내는 결과물은 일회용에 가깝고 낭비적입니다. Trajectories(AI 프롬프트 기록)를 들여다본 사람이라면 누구나 분명히 알 수 있는 사실입니다.</li></ul>The Information에 따르면 메타 직원들은 30일 동안 총 60.2조 개(!!)의 AI 토큰을 사용했습니다. 앤트로픽의 API 가격으로 계산하면 9억 달러에 이르는 비용입니다. 물론 메타는 할인된 가격으로 토큰을 구매할 가능성이 큽니다. 그래도 1억 달러 이상은 나올 만한 금액이고, 그중 상당 부분은 의미 없는 “토큰맥싱”에서 나온 것입니다.소셜 미디어에서 거센 비판이 쏟아지자, 메타는 지난주 사내 리더보드를 폐지했습니다. The Information이 놀라운 토큰맥싱 수치를 공개한 다음 날, 저는 메타가 리더보드를 내렸음을 확인했습니다. 그 인센티브가 막대하고 불필요한 낭비를 만들어냈다는 사실을 메타도 깨달은 듯합니다. 이 소셜 미디어 거인이 그런 결론에 이르는 데 언론 보도가 필요했다는 점은 다소 의외이긴 합니다.메타의 한 엔지니어는 회사가 토큰 리더보드로 노린 진짜 목적이 따로 있었다고 봅니다. 오랜 경력을 쌓은 한 엔지니어는 AI 사용량을 늘리는 일 자체가 진짜 목표였다고 추측합니다. 이렇게 말했습니다.<blockquote>“리더보드를 도입한다는 건 어차피 AI 사용량을 훨씬 더 늘리도록 부추기는 일이었다. AI 사용량이 늘어난다는 건 곧 실제 사용 흔적(traces)이 훨씬 더 많이 쌓인다는 것이다. 이 흔적은 다시 메타의 차세대 코딩 모델을 더 잘 학습시키는 데 쓸 수 있다.아무도 입 밖으로 꺼내지는 않았지만, 나는 이게 진짜 목표였다고 생각한다.학습 데이터를 만드는 방법치고는 비싼 방식이지만, 그럴 만한 자금력을 가진 회사가 있다면 그건 메타다.”</blockquote><h2 id="d3ba">마이크로소프트: 전면적인 토큰맥싱</h2>마이크로소프트도 메타와 비슷하게 1월부터 사내 토큰 리더보드를 운영해왔고, 처음에는 꽤 잘 굴러갔습니다. 당시 제가 보도했듯, 사내 토큰 대시보드가 토큰을 가장 많이 쓰는 사람들을 보여주는 식으로 토큰 사용과 LLM 실험을 장려했습니다. 이 윈도우 제조사의 리더보드는 흥미롭습니다.<ul><li id="4677">매우 시니어인 엔지니어, 즉 distinguished 등급에 있는 사람들이 회사 전체에서 상위 5위 안에 들어 있습니다. 과거에는 코드를 거의 쓰지 않던 그룹인데도 말입니다.</li><li id="3ebb">VP급 인사들이 상위 10위와 20위 안에 들어 있습니다. 하루 대부분을 회의로 보내고 코드를 거의 쓰지 않는 사람들인데도 그렇습니다.</li></ul>하지만 처음에는 인사 평가나 승진 지표로 시작된 것이 곧 개발자들의 표적이 되곤 합니다. 저는 이 윈도우 제조사의 한 소프트웨어 엔지니어와 이야기를 나눴는데, 그는 자신이 본격적으로 “토큰맥싱”을 하고 있다고 인정했습니다. 리더보드에 오르려는 게 아니라, 토큰을 너무 적게 쓰는 사람으로 보이고 싶지 않아서라고 했습니다.<blockquote>“우리 회사에는 AI 사용량, 토큰 사용량, AI가 쓴 코드 대 사람이 직접 쓴 코드의 비율을 추적하는 사내 대시보드와 지표가 있다.나는 ‘AI를 너무 적게 쓰는 사람’으로 보이고 싶지 않다는 생각이 강하고, 그래서 토큰맥싱을 한다는 사실을 부끄럼 없이 인정한다. 토큰 사용량 지표를 부풀리려고 내가 하는 일들은 다음과 같다. 이미 문서화되어 있는 코드를 두고 AI에게 질문을 던진다. AI는 그 문서를 끌어와 처리한 뒤 결과를 내준다. 속도는 10배 더 느린 대신 토큰은 잔뜩 태운다. ‘readthedocs’(사내 도구)를 쓸 수도 있지만, 그러면 내 토큰 수치가 낮아진다. 작업할 생각이 전혀 없는 기능을 AI에게 프로토타이핑해달라고 요청한다. 몇 번 더 프롬프트를 던진 다음 그대로 다 버린다. 손으로 직접 하면 훨씬 빠른 줄 알면서도, 기본적으로 항상 에이전트를 쓴다. 그러고는 그게 실패하는 모습을 지켜본다.”</blockquote>이 엔지니어는 회사에 들어온 지 얼마 되지 않아 고용 안정성이 걱정된다고 합니다. 그래서 필요 이상으로 많은 토큰을 태우며 ‘AI 네이티브’가 부족한 사람으로 찍히지 않으려 이 게임을 합니다.<h2 id="cce5">세일즈포스: “최소”와 “이상” 목표를 채우려고 토큰을 태우다</h2>다른 곳에서는 세일즈포스가 비슷하게 “토큰맥싱”을 부추기는 인센티브를 만들어 두었습니다. 그곳의 한 엔지니어와 이야기를 나누며 알게 된 사실은, 회사가 사실상 과도한 토큰 지출을 부추기는 도구 두 가지를 만들었다는 점입니다.<ol><li id="e8d2">추적 도구를 활용한 “최소” 인센티브. 본인의 지출액을 보여주는 Mac 위젯이 있고 15분마다 갱신됩니다. 위젯은 예상 최소 지출액도 함께 표시합니다. 지난주 기준 목표는 Claude Code에서 100달러, Cursor에서 70달러였습니다.</li><li id="ffd1">모든 사람의 지출액 공개. 어느 동료의 토큰 지출이든 확인할 수 있는 웹 도구가 있습니다. 팀원들의 사용량이 어느 수준인지 살펴보는 데 씁니다.</li><li id="c7c5">초과 가능한 “최대” 지출 한도. 일주일 전까지만 해도 Claude Code에는 월 250달러, Cursor에는 월 170달러의 최대 한도가 있었습니다. 그러나 한도에 도달해도 버튼만 한 번 누르면 초과할 수 있습니다. 들은 바로는, 지난주 세일즈포스의 일부 엔지니어링 조직에서는 “개발 과정의 모든 마찰을 제거하기 위해” “최대” 한도가 사라졌다고 합니다.</li></ol>세일즈포스가 직원들에게 보내는 메시지는 분명합니다. “월 최소 170달러어치 토큰은 쓰라. 그러지 않으면 표시된다.” 토큰을 너무 적게 써서 찍히고 싶은 사람이 있을까요? 그 결과는 다소 낭비적인 토큰 지출로 이어집니다.<ul><li id="4f55">목적 없이 토큰 태우기. 개발자들이 Claude나 Cursor에게 “X를 만들어줘”라고 요청하는데, 여기서 X는 자기 업무와 아무 상관이 없고 절대 출시할 일도 없는 프로젝트나 제품입니다. 그저 토큰을 태우려는 방편일 뿐입니다.</li><li id="53a5">평균보다 약간 위로 토큰 지출 맞추기. 많은 개발자가 동료들의 토큰 지출을 둘러본 다음 평균보다 살짝 높은 지점을 가늠하고는, 그 수치를 맞출 만큼만 토큰을 씁니다.</li></ul><h2 id="5fc9">쇼피파이: 토큰맥싱을 피하는 좋은 사례</h2>제가 아는 한 최초의 토큰 리더보드는 2025년 쇼피파이가 만든 것입니다. 그리고 잘 작동했습니다! 지난해 6월, 쇼피파이의 엔지니어링 책임자 Farhan Thawar가 <a href="https://newsletter.pragmaticengineer.com/p/how-ai-is-changing-software-engineering?ref=blog.pragmaticengineer.com" rel="noopener ugc nofollow" target="_blank">The Pragmatic Engineer Podcast</a>에서 제게 들려준 이야기입니다.<blockquote>“우리는 토큰을 가장 많이 쓰는 사람들을 적극적으로 축하하는 리더보드를 운영한다. AI로 훌륭한 작업을 하고 있다면 그 사람들이 [축하받기를] 원하기 때문이다.그리고 리더보드 상위권 사람들은, 가령 매달 Cursor 크레딧으로 1,000달러를 썼다면 왜 그랬는지 알고 싶다. 어쩌면 멋진 무언가를 만들고 있고, 휘하에 에이전트 인력을 거느리고 있어서일 수도 있다!”</blockquote>저는 Farhan에게 그 뒤로 어떻게 진행되었는지 자세히 물어봤습니다. 그가 들려준 이야기입니다.<blockquote>“그 이후 우리는 토큰 리더보드를 사용량 대시보드로 이름을 바꿨다. 분명한 이유가 있다. 이 보드 상위권에 오르려고 ‘경쟁하는’ 분위기를 부추기고 싶지 않았다. 토큰 지출은 사내 위키 프로필과 사용량 대시보드 양쪽에 표시한다.‘폭주하는 에이전트(runaway agents)’를 잡아내는 서킷 브레이커도 두고 있다. 그래서 하루 안에 개인의 지출이 급격히 치솟으면 즉시 접근을 차단할 수 있다. 또 사용량 급증이 의도된 것이거나 폭주하는 에이전트 때문이었다면 다시 풀어줄 수도 있다. 서킷 브레이커는 우리에게 잘 작동했다. 폭주하는 에이전트를 잡아냈을 뿐 아니라, 이 방식으로 인프라의 버그까지 발견했다!”</blockquote>쇼피파이의 접근이 잘 통한 데에는 몇 가지 이유가 있어 보입니다.<ul><li id="b7be">사용량 대시보드가 초기에는 개발자들이 AI 도구를 쓰도록 “밀어주는” 역할을 했다. 작년만 해도 AI 도구는 지금만큼 성능이 좋지 않았기 때문에 개발자 대부분이 실험해보는 단계였습니다. 사용량 대시보드는 새로운 도구를 시도해보도록 격려하고 파워 유저를 부각해주었습니다.</li><li id="8182">서킷 브레이커가 도움이 되었다. 사용량이 급증할 때 지출을 끊어주는 방식이 “폭주하는 에이전트”를 잡아내는 데 도움이 되었습니다.</li><li id="111a">사용량이 많은 사람은 들여다본다. Farhan은 지출이 가장 많은 개인들과 직접 대화하며 어떤 용도로 쓰는지 파악합니다. 토큰맥싱이 있었다면 이 단계에서 들통났을 가능성이 큽니다. 당사자에게는 다소 민망한 일이 되겠지요!</li></ul>Farhan이 들려준 또 하나 흥미로운 통찰이 있습니다. “전체 토큰 비용을 가장 많이 쓴 사람이 누구인가?”가 아니라 “누구의 토큰이 가장 비싼가?”를 보는 편이 훨씬 흥미롭다는 것입니다. 비싼 토큰을 만들어내는 개발자들은 알고 보니 깊이 있는 작업을 하고 있어서 배울 점이 많은 사람들로 드러났습니다!<h2 id="ab17">토큰맥싱: AI 벤더에게는 좋고, 그 외 모두에게는 나쁘다</h2>저는 토큰맥싱을 부추기는 일이 회사에 합리적으로 말이 되는 이유를 거의 찾지 못합니다. 그 결과는 AI 지출 증가입니다. 그것도 큰 폭으로요! 그러면서 돌아오는 가치는 거의 없습니다. 어떤 경우에는 작업 속도를 오히려 더 느리게 만들기도 합니다. 문서가 바로 옆에 있는데도 개발자들이 AI에게 질문하는 모습이 그 예입니다. 게다가 출시할 생각도 없는 프로젝트에 프롬프트를 던지는 ‘바쁜 척하는 일(busywork)’을 부추기기도 합니다. 토큰맥싱은 비즈니스에 아무 차이도 만들지 못하는 일에 개발자들이 매달리도록 떠미는 것 같습니다.업계 상당수가 토큰 수치를 다루는 방식이 몇 년 전 ‘작성한 코드 라인 수’ 지표를 쓰던 방식과 닮았습니다. 한때는 일별·월별 작성 라인 수가 프로그래머 생산성의 중요한 지표였습니다. 그러다 결국 그것이 끔찍하게 잘못된 초점이라는 게 분명해졌습니다. 코드 라인 수 지표는 보일러플레이트나 일회용 코드를 작성하는 식으로 손쉽게 게임할 수 있습니다. 또 가장 뛰어난 개발자가 반드시 코드를 가장 많이 쓰는 사람도 아닙니다. 코드를 쓰든 안 쓰든, 비즈니스의 어려운 문제를 빠르고 안정적으로 해결하는 사람들이지요!마찬가지로 개발자가 만들어내는 토큰 수도 손쉽게 게임할 수 있습니다. 이 지표를 측정하면 개발자들은 실제로 게임할 것입니다. 그러나 그렇게 하면 어마어마한 AI 비용 청구서가 따라옵니다!</div></div>

Stories by Jung Han on Medium

한정

원문: https://blog.pragmaticengineer.com/the-pulse-tokenmaxxing-as-a-weird-new-trend
메타 내부에서 한 엔지니어가 직원들의 토큰 사용량 순위를 매기는 “토큰 리더보드”를 만들었습니다. 지난주 The Information이 보도한 내용입니다.
“메타 플랫폼에서 자신의 AI 슈퍼유저 실력을 자랑하고 싶은 직원들이 ‘Session Immortal’, 더 나아가 ‘Token Legend’ 자리를 두고 사내 리더보드에서 경쟁하고 있다.
이 순위는 메타의 한 직원이 회사 데이터를 활용해 인트라넷에 만들었으며, 직원들이 토큰(AI 모델이 처리하는 데이터 단위)을 얼마나 많이 소비하는지를 측정한다. AI 스타트업 앤트로픽의 대표 제품 이름을 따 ‘Claudeonomics’라 불리는 이 리더보드는 메타 임직원 8만 5,000명 이상의 AI 사용량을 집계해 상위 250명의 파워 유저를 보여준다.
이 관행은 실리콘밸리의 새로운 과시적 소비 형태인 ‘토큰맥싱(tokenmaxxing)’을 잘 보여준다. 토큰 사용량은 이제 생산성의 잣대이자, 누가 가장 ‘AI 네이티브’인지를 가리는 경쟁 지표가 되었다. 직원들은 메타를 비롯한 여러 회사에서 사내 순위를 끌어올리려고 프롬프트 횟수, 코딩 세션, 동시에 돌리는 에이전트 수를 최대로 늘리고 있으며, 코딩 같은 업무를 AI가 자동화하는 와중에도 자신의 가치를 증명하려 한다.”
저는 메타 엔지니어 몇 명에게 무슨 일이 벌어지고 있는지 들어보았습니다. 답변은 이러했습니다.
엄청난 낭비. 많은 개발자가 OpenClaw 같은 사내 에이전트를 돌리는데, 어마어마한 양의 토큰을 태우면서도 결과는 거의 없다고 합니다.
AI 남용으로 인한 장애. 어느 개발자는 일부 SEV(장애)가 부주의한 AI 코드 생성에서 비롯된 것으로 보인다고 말했습니다. SEV를 일으킨 개발자가 제품 품질보다 AI로 코드를 대량으로 찍어내는 데 더 신경 쓰는 모습이었다고 합니다.
게임화된 리더보드. 리더보드 상위권이 만들어내는 결과물은 일회용에 가깝고 낭비적입니다. Trajectories(AI 프롬프트 기록)를 들여다본 사람이라면 누구나 분명히 알 수 있는 사실입니다.
The Information에 따르면 메타 직원들은 30일 동안 총 60.2조 개(!!)의 AI 토큰을 사용했습니다. 앤트로픽의 API 가격으로 계산하면 9억 달러에 이르는 비용입니다. 물론 메타는 할인된 가격으로 토큰을 구매할 가능성이 큽니다. 그래도 1억 달러 이상은 나올 만한 금액이고, 그중 상당 부분은 의미 없는 “토큰맥싱”에서 나온 것입니다.
소셜 미디어에서 거센 비판이 쏟아지자, 메타는 지난주 사내 리더보드를 폐지했습니다. The Information이 놀라운 토큰맥싱 수치를 공개한 다음 날, 저는 메타가 리더보드를 내렸음을 확인했습니다. 그 인센티브가 막대하고 불필요한 낭비를 만들어냈다는 사실을 메타도 깨달은 듯합니다. 이 소셜 미디어 거인이 그런 결론에 이르는 데 언론 보도가 필요했다는 점은 다소 의외이긴 합니다.
메타의 한 엔지니어는 회사가 토큰 리더보드로 노린 진짜 목적이 따로 있었다고 봅니다. 오랜 경력을 쌓은 한 엔지니어는 AI 사용량을 늘리는 일 자체가 진짜 목표였다고 추측합니다. 이렇게 말했습니다.
“리더보드를 도입한다는 건 어차피 AI 사용량을 훨씬 더 늘리도록 부추기는 일이었다. AI 사용량이 늘어난다는 건 곧 실제 사용 흔적(traces)이 훨씬 더 많이 쌓인다는 것이다. 이 흔적은 다시 메타의 차세대 코딩 모델을 더 잘 학습시키는 데 쓸 수 있다.
아무도 입 밖으로 꺼내지는 않았지만, 나는 이게 진짜 목표였다고 생각한다.
학습 데이터를 만드는 방법치고는 비싼 방식이지만, 그럴 만한 자금력을 가진 회사가 있다면 그건 메타다.”
마이크로소프트: 전면적인 토큰맥싱
마이크로소프트도 메타와 비슷하게 1월부터 사내 토큰 리더보드를 운영해왔고, 처음에는 꽤 잘 굴러갔습니다. 당시 제가 보도했듯, 사내 토큰 대시보드가 토큰을 가장 많이 쓰는 사람들을 보여주는 식으로 토큰 사용과 LLM 실험을 장려했습니다. 이 윈도우 제조사의 리더보드는 흥미롭습니다.
매우 시니어인 엔지니어, 즉 distinguished 등급에 있는 사람들이 회사 전체에서 상위 5위 안에 들어 있습니다. 과거에는 코드를 거의 쓰지 않던 그룹인데도 말입니다.
VP급 인사들이 상위 10위와 20위 안에 들어 있습니다. 하루 대부분을 회의로 보내고 코드를 거의 쓰지 않는 사람들인데도 그렇습니다.
하지만 처음에는 인사 평가나 승진 지표로 시작된 것이 곧 개발자들의 표적이 되곤 합니다. 저는 이 윈도우 제조사의 한 소프트웨어 엔지니어와 이야기를 나눴는데, 그는 자신이 본격적으로 “토큰맥싱”을 하고 있다고 인정했습니다. 리더보드에 오르려는 게 아니라, 토큰을 너무 적게 쓰는 사람으로 보이고 싶지 않아서라고 했습니다.
“우리 회사에는 AI 사용량, 토큰 사용량, AI가 쓴 코드 대 사람이 직접 쓴 코드의 비율을 추적하는 사내 대시보드와 지표가 있다.
나는 ‘AI를 너무 적게 쓰는 사람’으로 보이고 싶지 않다는 생각이 강하고, 그래서 토큰맥싱을 한다는 사실을 부끄럼 없이 인정한다. 토큰 사용량 지표를 부풀리려고 내가 하는 일들은 다음과 같다. 이미 문서화되어 있는 코드를 두고 AI에게 질문을 던진다. AI는 그 문서를 끌어와 처리한 뒤 결과를 내준다. 속도는 10배 더 느린 대신 토큰은 잔뜩 태운다. ‘readthedocs’(사내 도구)를 쓸 수도 있지만, 그러면 내 토큰 수치가 낮아진다. 작업할 생각이 전혀 없는 기능을 AI에게 프로토타이핑해달라고 요청한다. 몇 번 더 프롬프트를 던진 다음 그대로 다 버린다. 손으로 직접 하면 훨씬 빠른 줄 알면서도, 기본적으로 항상 에이전트를 쓴다. 그러고는 그게 실패하는 모습을 지켜본다.”
이 엔지니어는 회사에 들어온 지 얼마 되지 않아 고용 안정성이 걱정된다고 합니다. 그래서 필요 이상으로 많은 토큰을 태우며 ‘AI 네이티브’가 부족한 사람으로 찍히지 않으려 이 게임을 합니다.
세일즈포스: “최소”와 “이상” 목표를 채우려고 토큰을 태우다
다른 곳에서는 세일즈포스가 비슷하게 “토큰맥싱”을 부추기는 인센티브를 만들어 두었습니다. 그곳의 한 엔지니어와 이야기를 나누며 알게 된 사실은, 회사가 사실상 과도한 토큰 지출을 부추기는 도구 두 가지를 만들었다는 점입니다.
추적 도구를 활용한 “최소” 인센티브. 본인의 지출액을 보여주는 Mac 위젯이 있고 15분마다 갱신됩니다. 위젯은 예상 최소 지출액도 함께 표시합니다. 지난주 기준 목표는 Claude Code에서 100달러, Cursor에서 70달러였습니다.
모든 사람의 지출액 공개. 어느 동료의 토큰 지출이든 확인할 수 있는 웹 도구가 있습니다. 팀원들의 사용량이 어느 수준인지 살펴보는 데 씁니다.
초과 가능한 “최대” 지출 한도. 일주일 전까지만 해도 Claude Code에는 월 250달러, Cursor에는 월 170달러의 최대 한도가 있었습니다. 그러나 한도에 도달해도 버튼만 한 번 누르면 초과할 수 있습니다. 들은 바로는, 지난주 세일즈포스의 일부 엔지니어링 조직에서는 “개발 과정의 모든 마찰을 제거하기 위해” “최대” 한도가 사라졌다고 합니다.
세일즈포스가 직원들에게 보내는 메시지는 분명합니다. “월 최소 170달러어치 토큰은 쓰라. 그러지 않으면 표시된다.” 토큰을 너무 적게 써서 찍히고 싶은 사람이 있을까요? 그 결과는 다소 낭비적인 토큰 지출로 이어집니다.
목적 없이 토큰 태우기. 개발자들이 Claude나 Cursor에게 “X를 만들어줘”라고 요청하는데, 여기서 X는 자기 업무와 아무 상관이 없고 절대 출시할 일도 없는 프로젝트나 제품입니다. 그저 토큰을 태우려는 방편일 뿐입니다.
평균보다 약간 위로 토큰 지출 맞추기. 많은 개발자가 동료들의 토큰 지출을 둘러본 다음 평균보다 살짝 높은 지점을 가늠하고는, 그 수치를 맞출 만큼만 토큰을 씁니다.
쇼피파이: 토큰맥싱을 피하는 좋은 사례
제가 아는 한 최초의 토큰 리더보드는 2025년 쇼피파이가 만든 것입니다. 그리고 잘 작동했습니다! 지난해 6월, 쇼피파이의 엔지니어링 책임자 Farhan Thawar가 The Pragmatic Engineer Podcast에서 제게 들려준 이야기입니다.
“우리는 토큰을 가장 많이 쓰는 사람들을 적극적으로 축하하는 리더보드를 운영한다. AI로 훌륭한 작업을 하고 있다면 그 사람들이 [축하받기를] 원하기 때문이다.
그리고 리더보드 상위권 사람들은, 가령 매달 Cursor 크레딧으로 1,000달러를 썼다면 왜 그랬는지 알고 싶다. 어쩌면 멋진 무언가를 만들고 있고, 휘하에 에이전트 인력을 거느리고 있어서일 수도 있다!”
저는 Farhan에게 그 뒤로 어떻게 진행되었는지 자세히 물어봤습니다. 그가 들려준 이야기입니다.
“그 이후 우리는 토큰 리더보드를 사용량 대시보드로 이름을 바꿨다. 분명한 이유가 있다. 이 보드 상위권에 오르려고 ‘경쟁하는’ 분위기를 부추기고 싶지 않았다. 토큰 지출은 사내 위키 프로필과 사용량 대시보드 양쪽에 표시한다.
‘폭주하는 에이전트(runaway agents)’를 잡아내는 서킷 브레이커도 두고 있다. 그래서 하루 안에 개인의 지출이 급격히 치솟으면 즉시 접근을 차단할 수 있다. 또 사용량 급증이 의도된 것이거나 폭주하는 에이전트 때문이었다면 다시 풀어줄 수도 있다. 서킷 브레이커는 우리에게 잘 작동했다. 폭주하는 에이전트를 잡아냈을 뿐 아니라, 이 방식으로 인프라의 버그까지 발견했다!”
쇼피파이의 접근이 잘 통한 데에는 몇 가지 이유가 있어 보입니다.
사용량 대시보드가 초기에는 개발자들이 AI 도구를 쓰도록 “밀어주는” 역할을 했다. 작년만 해도 AI 도구는 지금만큼 성능이 좋지 않았기 때문에 개발자 대부분이 실험해보는 단계였습니다. 사용량 대시보드는 새로운 도구를 시도해보도록 격려하고 파워 유저를 부각해주었습니다.
서킷 브레이커가 도움이 되었다. 사용량이 급증할 때 지출을 끊어주는 방식이 “폭주하는 에이전트”를 잡아내는 데 도움이 되었습니다.
사용량이 많은 사람은 들여다본다. Farhan은 지출이 가장 많은 개인들과 직접 대화하며 어떤 용도로 쓰는지 파악합니다. 토큰맥싱이 있었다면 이 단계에서 들통났을 가능성이 큽니다. 당사자에게는 다소 민망한 일이 되겠지요!
Farhan이 들려준 또 하나 흥미로운 통찰이 있습니다. “전체 토큰 비용을 가장 많이 쓴 사람이 누구인가?”가 아니라 “누구의 토큰이 가장 비싼가?”를 보는 편이 훨씬 흥미롭다는 것입니다. 비싼 토큰을 만들어내는 개발자들은 알고 보니 깊이 있는 작업을 하고 있어서 배울 점이 많은 사람들로 드러났습니다!
토큰맥싱: AI 벤더에게는 좋고, 그 외 모두에게는 나쁘다
저는 토큰맥싱을 부추기는 일이 회사에 합리적으로 말이 되는 이유를 거의 찾지 못합니다. 그 결과는 AI 지출 증가입니다. 그것도 큰 폭으로요! 그러면서 돌아오는 가치는 거의 없습니다. 어떤 경우에는 작업 속도를 오히려 더 느리게 만들기도 합니다. 문서가 바로 옆에 있는데도 개발자들이 AI에게 질문하는 모습이 그 예입니다. 게다가 출시할 생각도 없는 프로젝트에 프롬프트를 던지는 ‘바쁜 척하는 일(busywork)’을 부추기기도 합니다. 토큰맥싱은 비즈니스에 아무 차이도 만들지 못하는 일에 개발자들이 매달리도록 떠미는 것 같습니다.
업계 상당수가 토큰 수치를 다루는 방식이 몇 년 전 ‘작성한 코드 라인 수’ 지표를 쓰던 방식과 닮았습니다. 한때는 일별·월별 작성 라인 수가 프로그래머 생산성의 중요한 지표였습니다. 그러다 결국 그것이 끔찍하게 잘못된 초점이라는 게 분명해졌습니다. 코드 라인 수 지표는 보일러플레이트나 일회용 코드를 작성하는 식으로 손쉽게 게임할 수 있습니다. 또 가장 뛰어난 개발자가 반드시 코드를 가장 많이 쓰는 사람도 아닙니다. 코드를 쓰든 안 쓰든, 비즈니스의 어려운 문제를 빠르고 안정적으로 해결하는 사람들이지요!
마찬가지로 개발자가 만들어내는 토큰 수도 손쉽게 게임할 수 있습니다. 이 지표를 측정하면 개발자들은 실제로 게임할 것입니다. 그러나 그렇게 하면 어마어마한 AI 비용 청구서가 따라옵니다!
지난주 The Pulse 전체 호를 읽어보거나 이번 주 The Pulse를 확인해보세요. 이번 주 호에서 다루는 내용입니다.
신종 트렌드: 토큰 지출이 예산을 무너뜨린다 — 다음은? 지난 2~3개월간 많은 테크 회사에서 AI 에이전트 지출이 폭발적으로 늘었고, 그 여파가 엔지니어링 리더들에게 막 와닿기 시작했습니다. 우리는 15개 회사에서 정보를 입수해, 이 회사들이 이 사실을 받아들이며 대처하는 다양한 방식을 정리했습니다.
신종 트렌드: 더 많은 AI 벤더가 수요를 감당하지 못하고 있다. 폭증한 지출과 맞물려 GitHub Copilot과 앤트로픽은 수익성이 낮은 개인 사용자를 제한하기 시작했습니다. 최근 몇 달 사이 지출이 가뿐히 10배 이상 늘어난 비즈니스 사용자들에게 서비스를 제공하기 위해서입니다. 예외는 OpenAI와 Codex입니다.
메타의 사기가 사상 최저로? 사업은 호황이지만, 메타의 개발자들은 임박한 정리해고와 미국 직원 전원에게 도입된 침습적인 추적 프로그램 때문에 분노하고 불안해합니다.

(번역)The Pulse: ‘토큰맥싱(tokenmaxxing)’이라는 기이한 신종 트렌드

댓글