Harvey AI 마진 -50% 급락, ICP 컴퓨트 희소성 논리 강화

마진 +50%에서 -50%로

기업가치 156억 달러로 평가받는 법률 AI 스타트업 Harvey의 매출총이익률이 연초 약 +50%에서 6월에는 마이너스 50%로 급반전했다. COINOTAG가 확인한 공개 수치에 따르면, 급락의 직접 계기는 3월 에이전트 업데이트 이후 폭주한 고객 사용량과 추론(inference) 비용이다. 이 역전의 경제 구조는 냉정하다. Harvey는 로펌과 기업 고객에게 사용자당 월 1,200~1,500달러 이상의 좌석(seat) 요금을 받으며, 업계 표준인 무제한 사용형 연간 계약으로 고정한다. 장부상 이런 요금 구조면 소프트웨어 특유의 80%를 웃도는 마진이 나와야 정상이다. 그러나 실제 공개 수치는 무거운 고객 한 명 한 명에게 돈을 잃어가는 구조였음을 보여준다.

메커니즘의 핵심은 에이전틱(agentic) 워크로드다. 초기 법률 AI 사용은 단일 턴 질의, 간단한 번역, 짧은 메모 요약이 전부였고, 연산 부담은 미미했다. 자율 에이전트 모드가 도입되면서 상황이 달라졌다. 변호사들이 수백 페이지 분량의 재판 기록 전체와 1,000페이지를 넘는 국제 M&A 계약서를 시스템에 통째로 넣기 시작한 것이다. 심층 실사(deep due diligence)나 계약서 전수 교차 검토를 완료하려면 시스템은 다단계 사고 연쇄(chain-of-thought) 추론을 반복하고, 외부 검색 도구를 수차례 호출하고, 상충 내용을 조정한 뒤, 산출물을 몇 번이고 다시 고쳐 쓴다. 하나의 작업이 단순 질의 대비 수십 배에서 수백 배의 토큰을 소모한다. 이 워크로드는 결국 NVIDIA가 공급하는 GPU 군과 Amazon 같은 하이퍼스케일러의 클라우드에 그대로 실린다. 의존성도 강고하다. 1,000페이지 계약서를 몇 만에 검토해 본 변호사에게 수작업 검토는 더 이상 견딜 수 없는 대안이 된다. 고정 좌석 요금제는 이 비용 곡선을 흡수할 수 없다.

Harvey Tenet, Kimi K3 기반

Harvey의 대답은 8월 20일 나왔다. Moonshot AI의 오픈 웨이트 모델 Kimi K3를 기반으로 Fireworks Research와 공동 개발한 자체 모델 Harvey Tenet이다. 길고 다단계에 걸친 에이전트 세션에 맞춘 작업별 후처리가 설계에 포함됐다. 회사 연구 자료는 오픈 웨이트 방식이 토큰당 단가뿐 아니라 작업당 소모 토큰 수도 줄인다고 주장한다. 불필요한 도구 호출과 추론 단계를 다듬어, 출력 품질은 유지하면서 양을 깎는 방식이다. Harvey 자체 평가 환경에서 Tenet은 기반 모델인 Kimi K3보다 더 많은 법률 작업을 완수했다. 다만 실제 사업 전반에서 마진이 회복됐음을 증명하는 수치는 공개되지 않았고, 벤치마크는 자체 설계였다. 운영 측면에서도 작업별 모델 라우팅을 도입했다. 단순 기안은 경량 모델이, 복잡한 분석은 고성능 모델이 담당하며 관리자가 워크플로별로 모델을 미리 지정한다. 주목할 전략적 디테일은 이것이다. OpenAI의 벤처 부문 투자를 받은 미국 법률 기술 리더가 비용 위기를 넘기 위해 중국산 오픈 웨이트 모델에 손을 뻗었다. 칩이 NVIDIA든 AMD든, AI 경쟁은 수사가 아니라 추론 경제의 싸움으로 옮겨 간 증거다.

컴퓨트 희소성 테제

COINOTAG의 독해는 이렇다. 에이전틱 AI가 고정 좌석형 구독의 산수를 무너뜨리면서, 전문 소프트웨어의 과금은 사용자 수가 아니라 실제 작업량 기준으로 이동하고 있다. 이는 근본적으로 컴퓨트 희소성 문제다. 암호화폐에서 탈중앙화 컴퓨트 서사를 지탱하는 수요 압력과 같은 것이다. Internet Computer(ICP) 같은 네트워크는 집중화된 하이퍼스케일러에 대한 공공적 대안으로 온체인 컴퓨트를 내세운다. Harvey의 공시가 토큰 펀더멘털 자체를 바꾸지는 않는다. 확인해 준 것은 하나다. 전문 사용자의 추론 수요는 어떤 요금 모델이 가정한 속도보다 빠르게 늘고 있다는 사실이다.