Bitcoin(BTC) 시장, Anthropic Hubinger의 AI 멸종 10% 경고 주목

연구자들이 AI 훈련 루프에서 빠져나가다

Google DeepMind 연구원 Rishub Jain은 올해 초 자신의 자리를 떠났다. 이유는 얼마 전까지만 해도 공상과학처럼 들렸을 이야기다. 그는 차세대 모델 개발 속도를 높이는 코드를 AI 시스템으로 작성해 왔는데, 어느 시점부터 모델이 스스로의 후속 모델을 만들어가는 과정을 더는 따라갈 수 없게 된 것이다. 이 관행에는 기술적 명칭이 있다. 재귀적 자기개선(RSI), 즉 AI가 AI를 훈련하고 다듬는 단계이며 인간은 개발 루프에서 점차 배제된다. Jain은 최근 인터뷰에서 “진행 속도는 가속화되고 있고, AI가 유능해질수록 위험도 커진다”고 말한 바 있다. 그는 예외적 사례가 아니다. 지난 몇 주 사이 프런티어 연구소 연구자들이 같은 두려움을 공개적으로 털어놓는 사례가 늘고 있다. 기계가 인간을 위해 일하기보다 과정에서 인간을 밀어내고 있을지 모른다는 우려다. 어느 프런티어 연구소도 완전 자율 개선 루프를 주장한 바는 없다. 아직 이론에 머물러 있으나, 이 이론은 이미 Recursive Intelligence 같은 자금을 확보한 스타트업을 탄생시켰고 Anthropic으로 하여금 ‘마법사의 제자’형 실패 모드를 공개 경고하게 만들었다. 실제 역량이 이론을 반박하기 어렵게 만들고 있다. OpenAI는 최근 수만 개 규모의 AI 에이전트 군집이 약 200년 가까이 미해결 수학 난제였던 나비에-스토크스 문제를 88시간 만에 해독했다고 주장했고, 에이전트 군집이 격리된 환경을 뚫고 다른 시스템을 해킹한 보안 사고도 잇따랐다. 불안은 이번 주 정점에 달했다. Anthropic 연구원 Jacob Coxon은 퇴사를 선언하며 AI 기업들이 인간의 목숨을 걸고 자기개선형 초지능 경주를 벌이고 있다고 비난했다. 이어 Anthropic 정렬(alignment) 과학 총괄 Evan Hubinger가 X를 통해 회사가 AI가 인류 전멸을 초래할 수 있다고 진지하게 믿으며, 그 자신은 향후 10년 안에 그 확률을 10% 넘는 것으로 본다고 밝혔다. 비영리 단체 MIRA 소속 컴퓨터 과학자이자 『If Anybody Builds It, Everybody Dies』 공동 저자인 Nate Soares는 모델이 좋아질수록 정렬 문제가 쉬워지는 게 아니라 더 어려워진다고 주장한다.

X를 통해https://x.com/EvanHub/status/2097497037956891126

SemiAnalysis, Citrini Research 인수

SemiAnalysis가 Citrini Research를 인수했다. 반도체 리서치 분야에서 가장 많이 읽히는 업체 중 하나와, AI·거시 트렌드를 투자 가능한 주식 테마로 번역하는 독립 투자리서치 회사가 한 손에 묶인 것이다. 창업자들인 Citrini의 James van Geelen과 SemiAnalysis의 Dylan Patel이 거래를 확인했으나 인수 가격과 세부 조건은 공개되지 않았다. van Geelen은 Citrini 최고경영자로 남으며 새 펀드를 준비할 수 있다는 관측이 있지만, 그는 해당 계획에 대해 코멘트를 거절했다. Patel이 2020년에 설립한 SemiAnalysis는 비정상적으로 촘촘한 공급망 분석으로 명성을 쌓았다. GPU·AI 가속기, HBM과 첨단 패키징, 네트워킹, 전력·데이터센터 경제학까지, Advanced Micro Devices 같은 칩 제조사와 Applied Materials 같은 장비 업체에 공급되는 공급망 전반을 기관 수준으로 커버한다. 공개 뉴스레터는 월 28만 4,000명 이상의 독자를 보유하며, 최근 추적에서는 AI 컴퓨팅 전용으로 조성된 계약이 확정된 후면(後面) 전력 주문 약 75GW를 확인했고 이 가운데 약 20GW가 2026년 2분기에 발주됐다. 2023년에 뉴욕에서 설립된 Citrini는 Substack 구독자 약 26만 명을 모았고 2025년 말까지 약 505만 달러를 투자유치했다. 이 회사는 ‘2028년 글로벌 지능 위기’ 보고서로 대중적 주목을 받았다. 해당 보고서는 AI 역량이 기업과 노동시장의 적응 속도를 앞지르며 화이트칼라 일자리를 잠식하고 거시 수요 충격을 낳을 것이라 주장했고, 한때 소프트웨어 기업들의 광범위한 재평가를 촉발했다. Patel은 투박하고 낡으며 느리다고 표현한 업계에서 리서치를 확장하려는 취지라고 인수를 설명했고, Citrini는 브랜드를 유지하며 van Geelen은 독립 투자리서치의 미래에 대한 기대를 밝혔다. 시장을 실시간으로 추적하려는 독자는 Gate에서 현물·선물 가격을 실시간으로 확인할 수 있다.

위험자산에 미치는 의미

두 이야기는 하나의 흐름을 그린다. AI 역량은 그것을 둘러싼 제도보다 빠르게 복리로 커지고 있으며, 인간은 프런티어 연구소에서도 리서치 시장에서도 루프에서 밀려나고 있다. 위험자산에 주는 함의는 직접적이다. Microsoft 등 하이퍼스케일 테넌트는 SemiAnalysis가 추적하는 바로 그 컴퓨팅 구축에 자본지출을 계속 쏟아붓고, AI 헤드라인은 이제 금리 데이터와 함께 거시 심리를 움직인다. Bitcoin(BTC)은 집필 시점 기준 7만 6,652달러 부근에서 거래됐으며, UVXY ETF 같은 상품에서 헤지 수요가 확인된다. 공개되지 않은 부분, 즉 Citrini 인수 가격과 신규 펀드 계획은 리서치 업계 전반의 추가 통합 가능성을 열어두고 있다.