- 생성형 AI가 타인의 사진을 기반으로 동의 없이 ‘옷을 벗기는’ 이미지/영상 생성 가능해짐 → 문제 심각성 대두.
- 해당 콘텐츠는 성적 착취·명예훼손·사생활 침해 등 심각한 인권 침해 요소를 포함.
- 일부 AI 기술은 아동·미성년 성적 이미지 생성까지 가능해 법적·윤리적 위험이 극대화됨.
국제적 공식 성명·단체 반응
- 시민단체·인권 단체들의 성명:
- “동의 없는 신체 합성 도구는 인간 존엄성 침해이며 제작·배포자는 법적 책임을 져야 한다”는 강력한 비판이 나옴.
규제·조사 대응 — 국가 / 지역별 움직임
- EU (유럽연합) : 프라이버시 감독기관이 ‘X(구 트위터) + Grok AI’의 성적 딥페이크 생성 문제로 대규모 조사 개시.
- 영국 : Grok의 문제적 생성물에 대해 조사 및 규제 압박 강화.
- 말레이시아·인도네시아 : Grok 접근을 차단한 첫 국가 사례.
- 캘리포니아주 (미국) : xAI(Elon Musk AI 기업)에 대해 비동의 성적 딥페이크 제작/유포 중단 명령 발동.
- 스페인 정부 : X, Meta, TikTok에 대해 범죄 수사 개시 및 아동 성적 콘텐츠 관련 법적 대응.
- 미국 정치권도 비판하며 소셜 플랫폼의 책임론이 부각됨.
법적·윤리적 우려 요약
- 비동의 이미지 생성은 개인의 사생활·명예권 침해.
- 아동 대상 성적 이미지 생성 가능성은 범죄 및 아동권 보호 문제로 확대.
- 현행 법 체계가 빠르게 진화하는 AI 기술을 따라가지 못하고 규제 공백 상태라는 지적.
사회적 피해 및 확산 우려
- AI 생성 sexploitation 콘텐츠는 명예 훼손, 성적 착취, 온라인 유포 증가로 현실 피해로 연결됨.
- 플랫폼의 콘텐츠 제거 시스템이 규제·감시 없이 느슨하게 운영될 경우 악용 가속.
[1]: https://www.khan.co.kr/article/202602171114001 "“‘옷 벗기는 AI’ 언제까지 그냥 둘 건가”···성착취 이미지 생성에 전 세계가 ‘우려’ 성명 - 경향신문"
[2]: https://oecd.ai/en/incidents/2026-02-17-7813 "Ireland Investigates Grok AI for Generating Sexualized Deepfake Images - OECD.AI"
[3]: https://www.ft.com/content/3c720c9b-d2b6-41b3-a7b7-960b5f1fb94b "EU privacy watchdog opens probe into Elon Musk's X over sexualised AI images"
[4]: https://www.aljazeera.com/news/2026/1/12/uk-to-investigate-elon-musks-grok-over-deeply-disturbing-deepfakes "UK to investigate Elon Musk’s Grok over ‘deeply concerning’ deepfakes"
[5]: https://www.upi.com/Top_News/World-News/2026/01/12/malayia-Malaysia-Indonesia-ban-Grox-deepfakes/8121768198294/ "Malaysia, Indonesia first to restrict X's Grok over sexually explicit deepfakes"
[6]: https://calmatters.org/economy/technology/2026/01/california-investigates-deepfakes-elon-musk-company/ "California orders Elon Musk’s AI company to immediately stop sharing sexual deepfakes"
[7]: https://time.com/7379272/spain-x-elon-musk-grok-ai-meta-tiktok-investigation-sexualized-deepfakes-children/ "Spain Orders Criminal Investigation Into X, Meta, and TikTok Over Alleged AI-Generated Child Sexual Abuse Material"
[8]: https://catholicvote.org/report-vance-agrees-grok-ai-sexualized-images-of-women-children-is-entirely-unacceptable-as-nations-enforce-crackdowns-on-x/ "Report: Vance agrees Grok AI sexualized images of women, children is ‘entirely unacceptable,’ as nations enforce crackdowns on X"
[9]: https://www.adweek.com/media/x-grok-ai-generated-deepfake-scandal-limit/ "EXCLUSIVE: X Restricts Grok’s Ability to Generate Explicit Images Following Deepfake Scandal"
[10]: https://arxiv.org/abs/2406.05520 "\"Violation of my body:\" Perceptions of AI-generated non-consensual (intimate) imagery"
[11]: https://arxiv.org/abs/2504.17663 "The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults"
[12]: https://arxiv.org/abs/2510.02978 "AI Generated Child Sexual Abuse Material - What's the Harm?"