앤스로픽, 중국 AI에 클로드 증류 고발

Anthropic은 DeepSeek, Moonshot, MiniMax라는 인공지능 회사들을 Claude 대형 언어 모델을 “증류” 공격으로 불법적으로 사용하여 자체 모델을 개발한 혐의로 고발했습니다. 일요일에 게시된 블로그 포스트에서 이 회사들이 Claude의 출력을 덜 유능한 모델을 훈련시키기 위해 사용했으며, 총 1,600만 건 이상의 상호작용과 약 24,000개의 가짜 계정을 통해 공격을 수행했다고 밝혔습니다.

Source: Anthropic

증류는 합법적인 방법이지만, 경쟁자들이 이를 빠르고 저비용으로 능력을 획득하기 위해 불법적으로 사용했다고 강조되었습니다. 공격은 에이전트적 추론, 코딩, 데이터 분석, 루브릭 기반 평가, 컴퓨터 비전 등 Claude의 구별되는 능력에 초점을 맞췄습니다. 중국 중심의 수십억 달러 가치 회사들로, IP 침해와 지정학적 위험을 안고 있으며; 능력이 군사 및 정보 시스템으로 이전될 수 있다고 지적되었습니다. Anthropic은 의심스러운 트래픽 탐지를 위해 시스템을 강화하고, 위협 인텔리전스를 공유하며, 액세스 제어를 엄격히 할 것이며; 산업 및 정책 입안자들과의 협력을 촉구했습니다.

증류 공격의 기술적 세부 사항

증류는 큰 모델(teacher)의 출력을 작은 모델(student)의 훈련에 사용하는 기술입니다. Anthropic에 따르면, 고발된 회사들은 Claude의 API를 24,000개의 가짜 계정으로 악용하여 1,600만 쿼리를 보냈습니다. 이는 모델의 softmax 확률을 복사하여 student 모델의 빠른 확장을 가능하게 했습니다. 기술적으로 teacher-student 손실 함수(KL divergence)를 최소화하여 능력 이전이 이루어졌으나, 무단 액세스는 IP 침해를 초래했습니다.

고발된 중국 AI 회사 프로필

회사	중심지	추정 가치	초점 영역
DeepSeek	중국	수십억 $	코딩, 분석
Moonshot	중국	수십억 $	일반 AI
MiniMax	중국	수십억 $	멀티모달 모델

이 회사들은 Claude의 에이전트적 능력을 타겟으로 하여 자체 모델을 강화했습니다.

Claude의 타겟이 된 능력

• 에이전트적 추론: 복잡한 작업 체인.
• 코딩: 디버깅 및 알고리즘 생성.
• 데이터 분석: 대규모 데이터셋에서 통찰 추출.
• 루브릭 평가: 자동 평가.
• 컴퓨터 비전: 이미지 처리 통합.

이 능력들은 증류를 통해 복사되어 경쟁자들에게 저비용 우위를 제공했습니다.

지정학적 위험과 IP 침해

중국 중심 회사들의 액세스는 능력이 군사/정보 용도로 이어질 수 있습니다. Anthropic은 국가 안보 위험을 강조하며 미국-중국 AI 긴장감을 부각시켰습니다. 산업에서 유사한 증류 사례가 증가하는 가운데, API 속도 제한과 워터마킹 같은 방어 메커니즘이 중요해지고 있습니다.

BTC 시장에서의 AI 증류 위협

Claude와 유사한 모델들은 BTC 상세 분석과 트레이딩 봇에서 사용되고 있습니다. 이 공격은 크립토 AI 통합을 위험에 빠뜨리며; 예를 들어, 증류로 복사된 코딩 능력이 BTC 선물 거래를 조작할 수 있습니다. 투자자들은 BTC 선물 거래 전략에서 안전한 API로 전환해야 합니다. 지정학적 긴장은 BTC 변동성을 증가시킬 수 있습니다.

Anthropic의 미래 조치

Anthropic은 머신러닝 기반 트래픽 분석, 공유 인텔리전스 네트워크, 엄격한 액세스 제어를 적용할 것입니다. 산업 협력을 통해 표준을 개발할 것이며; 정책 입안자들에게 AI 보안을 규제할 필요성을 촉구합니다.