앤트로픽이 6월 24일 중국 알리바바를 저격했다. 회사는 미국 상원 은행위원회 소속 팀 스콧·엘리자베스 워런 의원에게 보낸 서한에서, 알리바바의 AI 연구조직 '큐원(Qwen)' 랩과 연계된 운영자들이 약 2만 5,000개의 가짜 계정을 동원해 지난 4월부터 6월까지 자사 대형언어모델 클로드(Claude)와 약 2,880만 회에 달하는 대화를 주고받으며 핵심 역량을 빼내려 했다고 주장했다. 이 서한은 블룸버그가 처음 보도했고, CNBC·로이터 등 주요 외신이 일제히 받아 썼다.

앤트로픽은 이를 '증류(distillation) 공격'으로 규정했다. 증류란 성능이 뛰어난 기존 모델의 출력을 대량으로 수집해, 더 작고 값싼 모델을 학습시키는 기법이다. 정상적인 연구 목적의 증류도 있지만, 약관을 위반해 상대 모델의 핵심 능력을 조직적으로 복제하면 명백한 무임승차가 된다. 앤트로픽은 알리바바가 노린 표적이 클로드의 가장 상업적 가치가 높은 능력, 즉 소프트웨어 엔지니어링과 에이전트형 추론(agentic reasoning)이었다고 설명했다. 그러면서 "앤트로픽을 대상으로 한 사상 최대 규모의 증류 공격"이자 "중국 기업이 미국 최상위 연구소의 성과에 무임승차하려 한 가장 큰 시도"라고 못 박았다.

알리바바 측은 CNBC의 논평 요청에 즉시 응하지 않았다. 다만 의혹이 알려진 직후 알리바바 주가는 한때 3%가량 하락하며 시장이 민감하게 반응했다. 앤트로픽은 그동안 보안·규제 우려를 이유로 클로드를 중국 시장에 공식 공급하지 않아 왔다. 이번 사안은 제품을 닫아둔다고 해서 역량 유출까지 막을 수 있는 것은 아니라는 점을 드러냈다. 가짜 계정과 우회 접근만으로도 모델의 '행동 패턴'은 빠져나갈 수 있기 때문이다.

이번 사안은 단순한 기업 간 분쟁에 그치지 않는다. 미·중 AI 패권 경쟁과 지식재산권(IP) 갈등이 이제 모델 자체를 둘러싸고 번지고 있다. 폐쇄형 프런티어 모델을 보유한 미국 진영은 '모델 가중치는 못 빼가도 행동 데이터는 빼갈 수 있다'는 새로운 위협에 직면했다.

앤트로픽이 사안을 의회에 직접 알린 것은 이를 입법·통상 규제 의제로 끌어올리려는 의도로 보인다. 향후 미국의 대중 AI 수출통제와 API 접근 규제 논의에도 영향을 줄 수 있다. AI 경쟁력이 '얼마나 잘 만드느냐'를 넘어 '얼마나 잘 지키느냐'의 문제로 넓어지고 있다.

자세한 내용은 블룸버그에서 확인할 수 있다.

이미지 출처: AI 생성

관련기사

■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)