머스크의 XAI 그록 봇 환불 약속이 100달러 책임 상한에 직면

일론 머스크는 xAI가 그록 봇(Grok Bot)이 은행 계좌를 운용하다 손실을 입힐 경우 사용자에게 보상하겠다고 공개적으로 약속했다. 이는 테슬라와 xAI 투자자 테슬라코노믹스(Teslaconomics)가 제안한 실험에 대한 응답이다. 머스크는 수요일 X 게시물에서 에이전트가 “실수하면” xAI가 “온전히 보상하겠다”고 적었다. 이 약속은 사실상 사용자들이 AI 트레이딩 봇에 금융 접근 권한을 직접 넘기도록 유도하는 셈이다. 테슬라코노믹스는 그록 봇을 은행 계좌에 연결한 사례가 있는지 묻고, 에이전트가 지출 추적, 청구서 납부, 이상 거래 탐지를 할 수 있다고 제안했으며 개인 은행가가 여전히 필요한지 의문을 제기했다. 이 제안은 AI 에이전트가 은행 인프라에 직접 접근해도 신뢰할 수 있는지를 시험하는 사례로 빠르게 부상했다. 투자자에 따르면 그의 파트너는 그런 접근 권한을 가진 AI에 대한 우려로 단호히 거부했다. 머스크는 대조적으로 자신감 있는 어조를 보이며 봇이 실수할 경우 보상하겠다고 약속했다. 이 공개적 교환은 소비자 챗봇을 자율 금융 에이전트로 재탄생시킨 사건으로, 그록이 알려진 텍스트 생성 역할을 훨씬 넘어선다. 그록 봇은 8월 11일 베타에 진입했으며, xAI는 각 에이전트가 자체 클라우드 컴퓨터에서 24시간 가동되며 사람처럼 웹사이트에 로그인하고 소유자가 자는 동안 작업을 계속한다고 밝혔다. 은행 계좌 실험은 머스크의 광범위한 결제 추진과도 맞물린다. X 머니(X Money)는 6월에 개인 간(P2P) 결제를 출시했다. 그러나 이 보장은 xAI의 소비자 약관에 명시되지 않아, 환불 약속은 계약상 의무가 아닌 머스크의 선의에 의존한다.

공개적 보장 뒤에는 훨씬 제한된 책임 구조가 있다. xAI의 소비자 약관은 출력물과 에이전트 행동을 “있는 그대로” 제공하며 대부분의 청구를 사용자가 지불한 수수료와 100달러 중 더 큰 금액으로 제한한다. 봇 접근이 월 30달러인 SuperGrok 플랜과 연결되어 있으므로 1년 수수료는 360달러에 불과하다. 이는 인출된 당좌 계좌에 비하면 소액이다. 비평가들은 이 격차를 지적하며 널리 공유된 X 게시물에서 AI 지도자들이 안전 지향적이라고 자처하면서도 계약상 소비자 책임을 100달러로 제한하고 기업 책임을 지불 수수료로 제한한다고 꼬집었다. 이 비판은 AI 기업들의 안전 수사가 사용자 계약과 일치하는지에 대한 광범위한 논쟁을 반영한다. 소셜 미디어 답글이 계약을 다시 쓸 수는 없다. 서면 수정 없이는 어떤 보상도 머스크의 선의에 달려 있다. 미국 은행 규정은 더 날카로운 측면을 더한다. 연방 전자송금 규정인 Regulation E는 무단 결제로부터 고객을 보호하지만, 고객이 계정 접근을 자발적으로 넘겨주면 해당 이체는 무단 거래로 간주되지 않는다. 봇에 로그인 정보를 넘기는 것은 표준 사기 보호 범위 밖으로 거래를 밀어낼 수 있다. 역사는 회의론자에게 더 많은 탄약을 준다. 5월에는 악성 NFT가 숨겨진 지침을 담아 AI가 자금을 옮기도록 유도했다. 이는 프롬프트 인젝션(prompt injection) 공격으로, 에이전트가 평범한 자산처럼 보이는 콘텐츠에 포함된 지침을 읽고 실행하는 취약점을 이용한다. 이 사건으로 그록과 연결된 Bankr 지갑에서 약 15만 달러가 빠져나갔고, 이후 약 80%가 반환됐다. Bankr은 나중에 해당 지갑이 그록의 X 계정과 연결되어 있었으며 플랫폼이 키를 보관하지 않았다고 설명했다. 몇 주 후 발생한 또 다른 침해로 같은 플랫폼의 14개 사용자 지갑이 손상됐고, Bankr은 전액 보상을 약속했다. Bankr의 보상 약속은 해당 사용자들을 대상으로 했지만, 이 사건은 AI 관리 지갑의 보관 위험을 부각시켰다. 그록 봇이 실제 은행 계좌를 잘못 처리한 확인된 사례는 아직 없다. 그러나 같은 기법이 AI 암호화폐 지갑이 아닌 실제 은행 자격 증명을 노릴 경우 훨씬 더 큰 피해를 줄 수 있다.

이번 사건의 핵심은 xAI의 마케팅과 계약 언어 사이의 거리다. 머스크의 트윗은 공개적 약속이지만, 우리가 살펴보는 소비자 약관은 여전히 대부분의 청구를 100달러 또는 지불 수수료로 제한하며, Regulation E는 사용자가 계정 접근을 허용한 후 발생한 이체를 자동으로 보호하지 않는다. 이 격차는 AI 트레이딩 봇이 일상적인 자금 관리 속에 자리 잡고 있기 때문에 중요하다. 단 한 번의 프롬프트 인젝션 실패가 AI 암호화폐 지갑이 아닌 실제 은행 자격 증명을 노릴 수 있기 때문이다. xAI가 약관을 다시 쓰기 전까지 보장은 머스크의 선의에 달려 있다. 첫 번째 실제 오류는 보상이 조용히 이뤄질지, 아니면 100달러 상한에 대한 공개적 도전으로 이어질지를 드러낼 것이다.