EU, AI 누디파이 불법

EU의 누디파이 금지는 AI가 무엇을 생성할 수 있는가에서 AI가 무엇을 생성해서는 안 되는가까지 규제의 범위를 확장한 중요한 사례입니다.
앞으로 생성형 AI 경쟁력은 모델 성능뿐 아니라 안전장치, 가드레일, 악용탐지, 동의관리 등 AI Safety Engineering까지 포함하게 될 가능성이 높습니다.
특히 한국 AI 기업도 EU 시장을 겨냥한다면 개발 단계부터 비동의 성적 콘텐츠 차단을 제품 아키텍처에 내재화하는 Safety by Design이 필수 경쟁요건이 될 것입니다.

 

• EU, ‘누디파이(Nudify)’ AI 금지
  o 사진 속 실제 인물의 옷을 벗긴 것처럼 만들어 비동의 성적·친밀 이미지를 생성·조작하는 AI 시스템을 금지.
  o 단순히 해당 이미지를 삭제하는 수준이 아니라 AI 시스템의 시장 출시·사용 자체를 금지하는 방향. 
  
• 시행일은 2026년 12월 2일
  o EU AI Act 개정안인 Digital Omnibus on AI에 새 금지조항이 포함됐으며 12월 2일부터 적용.
  o EU 집행위원회는 “시행 첫날부터 집행할 준비가 돼 있다”고 공식적으로 밝힘.
  
• 무엇이 금지되는가
  o 식별 가능한 사람의 성기·음부·항문·노출된 엉덩이·여성의 가슴·유두 등 친밀한 신체 부위를 사실적으로 생성·조작하는 경우.
  o 식별 가능한 사람이 성적으로 노골적인 행위를 하는 것처럼 생성·조작하는 경우.
  o 핵심 기준은 본인의 자유롭고 명확하며 구체적인 사전 동의가 없는 것. 
  
• ‘AI 이미지 생성 전체’가 금지되는 것은 아님
  o 이미지 생성 AI 기술 자체를 금지하는 것이 아니라 비동의 친밀·성적 이미지 생성이라는 특정 용도를 금지.
  o 동의에 기반한 서비스, 의료용 영상, 가상 착장 등 합법적인 용도는 원칙적으로 대상이 아님.
  o 단순한 예술적 누드나 식별할 수 없는 인물 등도 조항의 범위와 다름.
  
• AI 사업자의 책임이 크게 강화
  o 해당 용도가 제품의 의도된 목적이면 금지.
  o 또는 시스템 구조상 비동의 성적 이미지 생성이 합리적으로 예측 가능하고 반복적으로 가능한데도, 이를 막을 적절한 안전장치가 없다면 금지될 수 있음. 
  
• 필요한 AI 안전장치
  o 데이터 정제
  o 거부 학습(refusal training)
  o 프롬프트 안전장치
  o 출력 통제
  o 콘텐츠 분류·필터링
  o 사용 제한
  o 악용 탐지
  o 신고·조치 체계 등이 요구될 수 있음. 
  
• 이용자도 규제 대상
  o 사업자뿐 아니라 이용자가 AI를 이용해 비동의 성적 이미지를 만들 목적으로 사용하는 행위도 금지 범위에 포함.
  o 다만 일반적인 AI 사용 과정에서 우연히 해당 콘텐츠가 생성되는 경우까지 일률적으로 처벌하는 구조는 아님. 
  
• 처벌 수준도 강력
  o AI Act 금지행위 위반 시 최대 3,500만 유로 또는 전 세계 연간 매출의 7% 중 높은 금액까지 행정벌이 가능. 
  
• EU가 서두른 배경에는 ‘Grok’ 사태
  o xAI의 xAI Grok을 이용해 여성·미성년자를 대상으로 한 성적 이미지가 대량 생성되면서 규제 논의가 급격히 확대.
  o EU는 이미 X에 대해 DSA(디지털서비스법) 조사에 착수한 상태. 
  
• EU의 규제 방식이 한 단계 진화
  o 기존: 문제가 되는 콘텐츠를 발견 → 삭제
  o 현재: 플랫폼의 유통 책임뿐 아니라 문제 콘텐츠를 만들어낼 수 있는 AI 시스템 자체를 규제
  o 즉, ‘콘텐츠 규제’에서 ‘AI 설계·제품 규제’로 이동하는 것이 핵심. 
  
• EU만의 움직임도 아님
  o 영국은 이미 비동의 성적 이미지 생성과 누디파이 도구를 범죄로 규정하는 방향으로 법을 강화.
  o 미국 미네소타주 역시 누디파이 금지법을 도입했지만, 2026년 10월 2일 연방항소법원이 xAI의 소송 과정에서 법 시행을 일시 중지시켜 표현의 자유와 AI 규제의 충돌도 나타남. 
  
• 한국도 국제적 대응에 참여
  o 한국 개인정보보호위원회는 프랑스·영국·EU·싱가포르·캐나다 등 52개 개인정보 감독기관과 함께 AI 비동의 성적 이미지 문제에 대한 공동 대응에 참여.
  o 핵심 원칙은 예방조치, 투명성, 신속한 신고·삭제, 아동·청소년 보호. 
  

[1]: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5 "Article 5: Prohibited AI practices | AI Act Service Desk"
[2]: https://ai-act-service-desk.ec.europa.eu/en/ai-act/faq/when-does-enforcement-start "When does enforcement start? | AI Act Service Desk"
[3]: https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=oj%3AL_202601744 "Regulation - EU - 2026/1744 - EN - EUR-Lex"
[4]: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-99 "Article 99: Penalties | AI Act Service Desk"
[5]: https://apnews.com/article/c1a3039e5aaeb4dd517d995b8b301537 "European Union opens investigation into Musk's AI chatbot Grok over sexual deepfakes"
[6]: https://v.daum.net/v/20261003060159582 "AI로 옷 벗기면 불법…EU, ‘누디파이’ 12월부터 철퇴"
[7]: https://www.gov.uk/government/publications/crime-and-policing-act-2026-factsheets/crime-and-policing-act-2026-intimate-image-abuse-factsheet "Crime and Policing Act 2026: intimate image abuse factsheet - GOV.UK"
[8]: https://www.khan.co.kr/article/202602231608001 "“AI의 비동의 성적 이미지 생성 막아야”···개보위, 국제 공동선언 참여 - 경향신문"
[9]: https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/ "San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores | WIRED"