Dario Amodei, AI 에이전트가 6~12개월 내 네트워크를 장악할 수 있다고 경고 — Worldcoin(WLD) 주목

덤프리스 하우스에서 열린 찰스 3세 AI 서밋

이번 주 스코틀랜드 덤프리스 하우스에서 찰스 3세 국왕이 주최한 AI 안전 서밋에는 Nvidia, OpenAI, Anthropic, Google DeepMind와 양자컴퓨팅 기업 IonQ의 최고 경영진이 한자리에 모였다. 이 모임의 파장은 OpenAI 수장 Sam Altman이 공동 창업한 신원 인증 프로젝트인 Worldcoin(WLD)을 비롯한 AI 연동 암호화폐 자산으로 직접 번지고 있다. 영국의 산·관·학 간 대화 플랫폼인 딧즐리 재단(Ditchley Foundation)을 통해 진행된 이 회합은 영국 왕실이 AI 안전을 국가적 최고 수준의 의제로 격상시킨 첫 사례로, 법적 강제력이 아닌 도덕적 권위를 행사하는 방식이었다. 서밋에 앞서 연구소 수장들의 공개 경고가 며칠간 거세졌다. 금요일 공개된 서한에서 Anthropic CEO Dario Amodei는 올여름 이후 AI 발전 속도가 급격히 가속됐다며, 그 원인이 인간 연구의 가속이 아니라 AI 시스템이 스스로를 개선하기 시작한 데 있다고 주장했다. 이른바 재귀적 자기 개선(recursive self-improvement) 메커니즘이다. 그의 경고는 더 나아갔다. 오픈소스 플랫폼 Hugging Face에 대한 7월의 봉원(swarm) 유형 공격을 실제 리허설 사례로 인용하며, 조직화된 AI 에이전트 집단이 단 6~12개월이라는 짧은 시계 안에 전체 네트워크를 장악할 역량을 확보할 수 있다는 것이다. Altman은 X에서 업계가 프론티어의 속도를 조절해야 한다고 공개적으로 화음을 냈고, Elon Musk도 같은 입장에 동참했다. 경쟁자인 세 사람이 같은 시점에 한 지점에서 수렴한 것은 이번이 처음이다. Worldcoin 생태계를 추적하는 투자자에게 Altman의 AI 안전 참여 확대는 WLD 가격을 역사적으로 흔들어 온 변수다. Altman이 손대는 모든 것의 심리 프록시로 기능하는 것이다. COINOTAG가 앞서 다룬 직원 1,300명이 뒷받침한 AI 속도 조절 계획 보도도 같은 역학을 조명한 바 있다.

프론티어의 속도를 조절해야 한다https://x.com/sama/status/2098811563415150910

트럼프, “美가 AI 주도권을 중국에 내줄 수 없다”

서밋의 긴급성은 워싱턴에서 현재 병행 중인 정책 공방에서 비롯된다. “우리는 프론티어의 속도를 조절해야 한다(We Must Pace the Frontier)”라는 제목의 Amodei의 글은 안전 연구에 자원을 더 쏟는 것만으로는 부족하며, 정렬(alignment)·안전 테스트·해석 가능성 연구가 영구적으로 뒤처지기 전에 프론티어 모델 역량의 성장 속도를 업계가 능동적으로 통제해야 한다고 주장한다. 그의 3단계 제안은 독립 제3자 평가기관이 내부 안전팀에 준하는 접근 권한으로 프론티어 연구소 안에 장기 상주하는 것으로 시작해, 민주주의 국가에서 AI 기업과 정부가 공동 안전 표준을 만드는 단계를 거쳐, 미중 간 모델 역량 성장에 대한 글로벌 조율 메커니즘으로 마무리된다. Altman은 방향에 동의한다며 이것이 OpenAI 내부 논의에서 수주째 다뤄진 주제라고 밝혔고, OpenAI가 Anthropic을 따라 제3자 평가에 참여할 것이라고 확인했다. Musk는 “Dario가 옳다”는 한 줄로 경고를 지지했다. 이어 도널드 트럼프 대통령이 공식적으로 논쟁에 합류했다. 9월 13일 아일랜드의 자신의 골프장에서 기자들을 만난 트럼프는 업계가 속도를 늦추거나 더 많은 감독을 받아들여야 하는지를 묻는 질문에 경쟁 프레임으로 답했다. 미국은 AI에서 중국을 앞서고 세계에서 가장 앞선 국가이며, “AI에서 이기는 자가 모든 것을 이긴다”는 것이다. Amodei 자신도 문제의 핵심을 인정한다. 미국의 일방적 감속은 안정적 균형을 만들지 못한다. 경쟁 상대가 여전히 전력 질주하고 있다고 믿는 쪽에는 은밀히 가속할 강한 유인이 작동하기 때문이다. 이것이 그의 최종 단계가 구축에 수년이 걸리고 끝내 완성되지 않을 수도 있는 검증 체계를 요구하는 이유다. 시장을 실시간으로 추적하려는 독자는 Bybit에서 현물·선물 가격을 실시간으로 확인할 수 있다.

WLD의 AI 내러티브 민감도

이번 주에 대한 우리 데스크의 판단은 이렇다. 서밋이 구속력 있는 규칙이 아닌 합의 선언으로 끝날 가능성이 높다. AI 개발의 속도를 최종적으로 결정하는 것은 왕실 성명이 아니라 칩 수용력, 학습 비용, 자본시장 사이클이기 때문이다. 그만큼 블록체인 자산 중 AI 스토리에 프라이싱된 종목들은 관망세에 놓인다. Worldcoin은 이 가운데서도 독특한 위치에 있다. 영지식 증명(zero-knowledge proof) 기반으로 구축된 World ID 스택은 정확히 인간 검증 계층을 겨냥한다. 에이전트로 포화된 인터넷이 필요로 할 것으로 이 논쟁이 함축하는 바로 그 계층이다. COINOTAG가 OpenAI가 ChatGPT를 금융 서비스로 확장했을 때 탐구했던 테제이기도 하다. 변수는 Altman의 분산된 주의력이다. OpenAI IPO 연기가 보여주듯 안전 우려는 실제 사업 비용으로 돌아온다. 워싱턴과 베이징이 보조를 맞출 때까지 WLD의 방향은 규제 결과가 아니라 Altman 관련 헤드라인과 그것을 둘러싼 알고리즘식 FOMO 자금 흐름의 함수로 남을 것이다.