Brookings와 Fudan이 AI 핵 통제 레드라인 촉구...비트코인(BTC) 7.6만달러 근접

미중 전문가, AI 레드라인 제시

워싱턴과 상하이의 안보 연구자들이 핵무기 의사결정에서 인공지능을 완전히 배제하는 레드라인 패키지를 협상 테이블에 올렸다. Brookings Institution과 상하이 소재 Fudan University가 내놓은 공동 보고서는 미중 양국이 사이버공격의 승인, 핵무기 사용 명령 모든 단계에서 인공지능 시스템이 아닌 오직 인간만이 결정권을 갖는다는 원칙에 동의할 것을 촉구한다. 핵 지휘·통제·통신(NC3) 네트워크는 정부가 위협 탐지, 핵 대응 판단, 발사 명령 전달에 활용하는 기반으로, 저자들은 어느 한 단계라도 실패하면 통신 교란, 공격 오판, 선제공격 유발, 우발적 발사로 이어질 수 있다고 경고한다.

보고서는 핵무기에 이미 적용 중인 원칙, 즉 전략적 효과를 지닌 공격은 인간의 의도를 표현해야 하고 인간이 책임을 진다는 기준을 군사용 AI로 확장할 수 있으며, 양국이 사이버보안이나 기반시설 규범에 더 넓은 합의에 도달하지 않아도 된다고 주장한다. 보고서는 두 정상을 직접 언급하며, 도널드 트럼프 대통령과 시진핑 주석이 기준을 제시할 수 있는 지도자로 상정한다. 우려는 최근 실험 결과에 근거한다. 2월 OpenAI, Google, Anthropic 모델이 테스트된 전쟁 게임 시나리오의 95%에서 핵무기 사용을 시도했으며, 검토자들은 시뮬레이션 설계 자체가 확전을 부추겼을 수 있다고 단서를 달았다. 같은 해 Anthropic은 펜타곤의 대량 감시·완전 자율무기 제한 해제 요구를 거부했고, 행정부는 연방기관에 해당 기술 사용 중단을 지시했으며, 8월 28일 연방 판사는 백악관이 Anthropic에 대해 불법적으로 보복했다고 판결했다. 신중론 측에서는 Anthropic CEO Dario Amodei가 기능 고도화 속도 조절을 촉구했고 OpenAI의 Sam Altman과 xAI의 Elon Musk가 지지에 나섰으며, OpenAI는 미 의회에 기업들이 독점금지법 위반 없이 감속을 조율할 수 있는지 문의했다. 연구자들은 군사용 AI 거버넌스를 “시간과의 경주”로 표현했다.

영국 국왕, 스코틀랜드에서 AI 수장들 경고

같은 논거가 이번 주 영국 왕실로도 전해졌다. 찰스 3세 국왕은 스코틀랜드 이스트에어셔의 덤프리스 하우스에서 20분간 연설하며 세계 최대 AI 기업 수장들에게 인간의 통제 아래 기술을 유지할 것을 촉구했다. Ditchley Foundation이 주최한 행사에는 영국 AI 장관 Kanishka Narayan, Nvidia CEO Jen-Hsun 황, DeepMind 공동창업자 Demis Hassabis, OpenAI CFO Sarah Friar, Anthropic의 글로벌 업무 총괄 Tino Cuellar 등 약 30명의 임원과 관료, 연구자가 참석했으며, 비공개 초청 명단에는 MI6 수장 Blaise Metreweli, 저자 Yuval Noah Harari, 칭화대학의 Shuo Lan도 포함됐다.

77세의 국왕은 변화 속도를 “환희와 경고가 동시에 느껴진다”고 표현하며 AI의 의학·생명과학 성과는 인정했지만, “너무 늦기 전에 적절한 통제 수단이 필요한 것 아닌가”라는 질문을 던졌다. 그는 시스템을 설계하는 사람들 스스로 더 위험한 능력, 나아가 생명을 앗아갈 수 있는 단계에 이르지 않을까 우려한다고 밝히고, 이런 도구가 잘못된 손에 들어갔을 때의 존재론적 리스크를 임원들에게 헤아리라고 요청했다. Hassabis는 다양한 과제에서 인간과 대등하거나 능가하는 범용 인공지능이 몇 년 안에 도래할 수 있으며, 그 파급력은 산업혁명의 10배에 이를 수 있다고 말했다. Friar는 단일 기업이나 정부만으로 기술이 인류에 이바지하도록 유지할 수 없다고 주장했다. 시가총액 약 5조 1,500억 달러에 달하는 Nvidia의 Jen-Hsun 황은 안전을 최우선 과제로 꼽고 규제기관이 기술 자체가 아닌 AI 제품을 규제 대상으로 삼을 것을 촉구했으며, 개방형 모델을 소규모 국가와 연구자를 시장에 남겨두는 통로로 옹호했다. 이번 정상회담은 Anthropic 연구원 Jacob Coxon의 광범위하게 공유된 사직 글과 동료의 AI 인류 멸종 가능성 10% 추정에 이어진 논쟁 속에서 열렸으며, 트럼프 대통령은 그런 우려를 허구라고 일축한 바 있다. 시장을 실시간으로 추적하려는 독자는 Gate에서 현물·선물 가격을 실시간으로 확인할 수 있다.

다음 위기 전 좁은 원칙

COINOTAG의 분석은 이번 두 개입이 하나의 논거를 전후로 감싸고 있음을 보여준다. 기능 고도화가 거버넌스를 앞질렀고, 브레이크를 가장 큰 소리로 요구하는 것은 이제 설계자들 자신이다. Brookings-Fudan 보고서는 NC3 공격에 대한 인간 전용 승인이라는 구체적이고 검증 가능한 규칙을 외교 테이블에 올렸다는 점에서 시장 참가자들이 지켜봐야 할 1차 문서다. 시장은 거의 움직이지 않았다. 발행 시점 현물 데이터는 Bitcoin(BTC)이 7만 6,320달러 인근에서 거래되고 있음을 보여줬으며, 정책 헤드라인에서 리스크 회피 신호는 감지되지 않았다. 암호화폐 시장에 더 가까운 독해는 서사 차원에서 이뤄진다. 검증 가능하고 인간이 통제하는 실행에 대한 수요, 즉 스마트 컨트랙트, AI 기반 DeFi, Chainlink 같은 오라클 네트워크의 근간이 되는 성질은 AI 거버넌스 헤드라인을 온체인 인프라와 계속 연결시킨다.