Anthropic 포착, 1억5,100만 건 이상 AI 증류 공격
Anthropic이 포착한 1억5,100만 건 이상의 Alibaba 관련 Claude 교환은 AI 모델의 ‘증류’가 개인, 기업의 연구기법을 넘어 대규모 산업 경쟁 수단으로 확대되고 있음을 보여줍니다.
AI 모델의 핵심 경쟁력인 추론, 코딩, 에이전트 능력을 대규모로 추출할 수 있다면 AI 기술 격차가 빠르게 좁혀질 수 있어, 모델, 데이터, API, 컴퓨팅 인프라에 대한 보안이 국가 AI 경쟁력의 핵심 요소가 됩니다.
한국도 해외 AI 모델에만 의존하기보다 국산 NPU, AI 모델, 데이터, 컴퓨팅, 소프트웨어를 함께 실증할 수 있는 독립적인 AI 컴퓨팅 생태계를 구축하는 것이 중요하다는 시사점을 줍니다.
· 앤스로픽, Claude 악용 사례 공개
o 중국계 AI 기업들이 Claude에 대규모 질의를 보내 자체 AI 모델 개발에 활용했다고 Anthropic이 발표.
o 핵심 대상: Alibaba·DeepSeek·Moonshot AI 등.
· 알리바바 규모가 가장 큼
o 2026년 5~7월 1억5100만 건 이상의 Claude 교환(exchange)을 Anthropic이 탐지.
o 약 3,500개 계정을 활용했으며 하루 최대 약 300만 건에 달했다고 Anthropic은 설명.
· 무엇을 빼내려 했나?
o 단순 답변뿐 아니라 추론능력·코딩·에이전트 기능·데이터 분석 능력 등을 대규모로 확보하려 한 것으로 Anthropic은 주장.
o 이를 자체 모델 학습 데이터로 활용하는 것이 핵심.
· 이른바 ‘AI 증류’
o 강력한 AI의 답변을 대량 수집해 더 작은 모델을 학습시키는 기술.
o 정상적인 AI 개발에도 사용되는 합법적·일반적인 기술이지만, 타사 모델의 능력을 무단으로 추출하는 경우 문제가 될 수 있음.
· DeepSeek도 유사한 방식
o Anthropic은 DeepSeek가 2026년 7월 약 1,210만 건의 교환을 통해 Claude의 추론 흔적 등을 추출했다고 주장.
· Moonshot AI
o 2026년 5~7월 2,300만 건 이상의 교환이 발생했다고 Anthropic은 주장.
o 일부 요청에는 감시 영상·기업 내부 코드·인증정보 등 민감한 데이터가 포함됐다고 설명.
· 러시아 관련 사례도 확인
o Anthropic은 러시아 연계 행위자가 Claude를 사이버 첩보활동과 군·민수 겸용 물품 조달 등에 활용했다고 보고.
· 미국 정부기관도 문제 제기
o CISA·NSA·FBI는 9월 8일 공동 권고를 발표하고 중국계 6개 AI 기업의 산업 규모 증류 캠페인을 경고.
o 명시된 기업은 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI.
· ‘Transfer Station’ 활용
o 미국 AI 기업의 지역·접근 제한을 우회하기 위해 제3자 API 중개망을 활용했다는 것이 미국 기관들의 주장.
o 가짜 계정·프록시·API 중계 등을 이용해 출처를 숨기는 방식이 거론됨.
· 중국 측 반론
o 중국 정부는 미국의 관련 주장을 근거 없고 미국의 AI 독점을 위한 주장이라고 반박.
따라서 기업들의 구체적인 행위와 정부 관여 여부에 대해서는 미국 측 주장과 중국 측 입장이 대립하고 있음.
[1]: https://www.anthropic.com/threat-intelligence-report-september-2026 "Countering misuse of AI: September 2026 / Anthropic \ Anthropic"
[2]: https://techcrunch.com/2026/09/10/anthropic-details-distillation-campaigns-from-alibaba-moonshot-ai-and-deepseek/?trk=article-ssr-frontend-pulse_little-text-block "Anthropic details distillation campaigns from Alibaba, Moonshot AI, and DeepSeek | TechCrunch"
[3]: https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks "Detecting and preventing distillation attacks \ Anthropic"
[4]: https://www.dejavu.org/cgi-bin/get.cgi?url=https%3A%2F%2Fwww.cisa.gov%2F%2Fnews-events%2Fnews%2Fcisa-nsa-and-fbi-warn-china-based-ai-companies-targeting-us-ai-models-industrial-scale-knowledge&ver=93 "CISA, NSA and FBI Warn of China-Based AI Companies Targeting US AI Models with Industrial-Scale Knowledge Distillation Campaigns to Shortcut AI Development | CISA"
[5]: https://www.dejavu.org/cgi-bin/get.cgi?url=https%3A%2F%2Fwww.cisa.gov%2F%2Fnews-events%2Fcybersecurity-advisories%2Faa26-251a&ver=93 "China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies | CISA"
[6]: https://apnews.com/article/0f6ca61301630134607551b1dab0d632 "China hits back at US claims of 'malicious' AI distillation ahead of planned Trump-Xi talks"
[7]: https://techcrunch.com/2026/07/22/treasury-threatens-sanctions-after-white-house-claims-moonshot-distilled-anthropics-fable/ "Treasury threatens sanctions after White House claims Moonshot distilled Anthropic's Fable | TechCrunch"
[8]: https://www.reuters.com/commentary/breakingviews/chinas-brutal-ai-economics-hold-lessons-us-2026-09-16/ "China's brutal AI economics hold lessons for US"