인공지능 관련 뉴스@기사

딥페이크, 범죄 악용 유형 및 국가별 동향, 우리의 대응방안...

인공지능 비즈니스 매칭센터(AX Planable) 2025. 11. 6. 13:55

딥페이크 범죄 유형(대표사례)

  • 성적 딥페이크(비동의 음란물·Sextortion) : 타인의 얼굴을 합성한 음란물 제작·유포, 합성물로 협박(돈·추가 영상 요구). 한국·미국·일본 등에서 급증., 한국 사례와 수사 강화, 처벌 강화 보도. (KBS World)
  • 보이스/영상 합성 사기(BEC·영상회의·임퍼소네이션) : 경영진/동료를 실시간으로 ‘화상회의’에서 위장해 송금 지시., 홍콩·영국 Arup 사건(약 2,560만 달러). (가디언)
  • 음성 합성 ‘보이스 피싱/비싱’ : 가족·상사 목소리로 급전 요구, 콜센터·컨택센터 사기., 2025년 사기 급증 전망. (Keepnet Labs)
  • 신원확인(KYC)·바이오메트릭 우회 : 신분증+얼굴 합성으로 본인확인/계정개설을 속임. (Sensity)
  • 투자·정책 허위발언 영상 : 중앙은행·고위인사 위장 영상으로 투자 유도(인도 RBI 경고). (India Today)
  • 정치·여론조작(디스인포메이션) : 선거·사회 이슈 왜곡 콘텐츠 유통(유럽 수사기관 경고). (AP News)
  • 증거조작·명예훼손 : 조작 영상으로 개인·기업 평판 훼손(수사·사법 절차 혼란). (Europol)

국가별 동향

  • 한국
    • 유형 : 성적 딥페이크 대량 유포·청소년 가해/피해 비중 높음, 텔레그램 등에서 확산. KBS World+2가디언+2
    • 동향/대응 : 2024–25년 법 개정으로 ‘시청·소지’도 범죄화(최대 징역 3년·벌금), 제작·유포 가중처벌. Reuters+2Business Insider+2
  • 홍콩/영국
    • 유형 : 화상회의 ‘멀티 인원’ 합성으로 대형 송금 사기(Arup 2,000만 파운드대 피해). 가디언+2가디언+2
    • 영국은 비동의 성적 딥페이크 ‘제작 자체’ 범죄화(무제한 벌금·징역 가능) 입법. KPMG Assets
  • 미국
    • 유형 : 성착취(sextortion), 합성 음성/영상 사기, 투자사기 등 IC3 통계상 급증 항목과 연동. ic3.gov+1
    • 대응 : 2025년 TAKE IT DOWN Act 제정, 비동의 딥페이크 음란물의 게시·협박 형사처벌, 플랫폼 48시간 내 삭제 의무. AP News+1
  • 인도
    • 유형 : 고위 공직자·중앙은행장 ‘위장’ 투자사기 영상, 보이스피싱·피싱 결합 다수. India Today+1
    • 피해 : 2024,'25 회계연도 AI연계 금융사기 대규모 손실 보고(연구서 요약). saferinternetlab.org
  • EU(역내 전반)
  • 중국 : 2023년부터 ‘딥 합성(Deep Synthesis) 규정’ 시행, 서비스 제공자 책임·표시·동의·안전조치 요구. 2024, '25 개정안 논의., 대응 중심 China Briefing+1
  • 일본 : 성적 딥페이크 처벌·피해구제 논의 심화(최근 사설들에서 입법 미비 지적). 

*  글로벌 비즈니스 관점에서 “딥페이크 사기 평균 손실이 2024년 기업당 ~US$50만” 등 손실지표가 보고됨(조사·벤더 리포트 집계). eftsure+1

우리의 대응방안

A. 법·정책(거버넌스)

  1. 표시·고지 의무 : AI 합성·변조 콘텐츠는 라벨링/고지(EU AI Act 투명성). (유럽 의회)
  2. 비동의 성적 딥페이크 전면 금지·신속 삭제 : 미국 TAKE IT DOWN Act처럼 게시·협박 형사처벌+플랫폼 48시간 내 삭제 의무. (AP News)
  3. 소지·시청까지 포섭 : 한국형 모델, 소지 · 시청도 처벌해 수요 차단. (Reuters)
  4. 플랫폼 책임 강화 : 재업로드 방지(Hash 매칭, C2PA 원본추적) 의무화 가이드.

B. 조직(기업) 보안 통제

  1. 고위임원 결재·송금 ‘콜백 규정’ : 영상회의 지시라도 별도 채널(유선/대면) 재확인 및 2인 승인. (Arup 사건 교훈) (World Economic Forum)
  2. 보이스·영상 위장 대응 : 음성코드워드(패스프레이즈), 합성 의심 신호(무표정·깜빡임 패턴·지연) 체크리스트 교육. (Europol/업계 리포트 권고) (Europol)
  3. KYC·출입통제 강화 : 라이브니스 다중챌린지(무작위 동작/문장 읽기)·장치지문(Device binding)·IP 평판 결합. (Sensity)
  4. 탐지·원본성(프로비넌스) 도입 : C2PA/Content Credentials, 워터마킹·메타데이터 유지, 합성탐지 모델 주기적 업데이트.

C. 개인·가정용 수칙(특히 청소년 보호)

  1. Sextortion 대응 4단계: (i) 요구에 응하지 말 것, (ii) 증거 확보(캡처)·신고(IC3/경찰·지원단체), (iii) 플랫폼 신고·차단, (iv) 유포 방지 요청(권리침해 삭제요청). (ic3.gov)
  2. 보이스피싱 예방 : ‘영상·음성으로 급한 송금’ 요구는 항상 다른 채널로 재확인., 가족·회사별 암호문구 지정.
  3. 자기 이미지 관리 : SNS 공개범위 최소화·얼굴 고해상도 원본 공개 자제·계정 2단계 인증.

D. 교육·캠페인

  • 학교·직장 단위로 합성 식별 교육(짧은 실습 포함), 신고 루트 명문화., 한국·미국 사례의 최신 입법·삭제절차를 인쇄물·인트라넷으로 안내. (Reuters)

 

[1]: https://world.kbs.co.kr/service/news_view.htm?Seq_Code=188362&lang=e "Cabinet Approves Bill to Criminalize Viewing, Possessing ..."
[2]: https://www.theguardian.com/world/2024/feb/05/hong-kong-company-deepfake-video-conference-call-scam "Company Worker Paid £20m in Deepfake Scam"
[3]: https://keepnetlabs.com/blog/deepfake-statistics-and-trends "Deepfake Statistics & Trends 2025 | Key Data & Insights - Keepnet"
[4]: https://sensity.ai/reports/ "Reports"
[5]: https://www.indiatoday.in/business/story/rbi-warns-public-about-deepfake-videos-of-top-officials-giving-financial-advice-2635922-2024-11-19 "RBI warns public about deepfake videos of top officials ..."
[6]: https://apnews.com/article/846847536f6feb2bbb423943fd96e1f1 "AI is turbocharging organized crime, EU police agency warns"
[7]: https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf "Facing reality? Law enforcement and the challenge ... - Europol"
[8]: https://world.kbs.co.kr/service/news_view.htm?Seq_Code=187639&lang=e "Police: Teens Account for 60% of Deepfake Crime Victims"
[9]: https://www.reuters.com/world/asia-pacific/south-korea-criminalise-watching-or-possessing-sexually-explicit-deepfakes-2024-09-26/ "South Korea to criminalise watching or possessing sexually explicit deepfakes"
[10]: https://assets.kpmg.com/content/dam/kpmgsites/in/pdf/2024/12/deepfake-how-real-is-it.pdf "Deepfake – How real is it? - KPMG agentic corporate services"
[11]: https://www.ic3.gov/AnnualReport/Reports/2024_IC3Report.pdf "1 2024 IC3 ANNUAL REPORT"
[12]: https://apnews.com/article/741a6e525e81e5e3d8843aac20de8615 "President Trump signs Take It Down Act, addressing nonconsensual deepfakes. What is it?"
[13]: https://saferinternetlab.org/wp-content/uploads/2025/06/Research-Report-A4_Fraud-India.pdf "Online Fraud and Scams in India"
[14]: https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence "EU AI Act: first regulation on artificial intelligence | Topics"
[15]: https://www.china-briefing.com/news/china-to-regulate-deep-synthesis-deep-fake-technology-starting-january-2023/ "China to Regulate Deep Synthesis (Deepfake) Technology ..."
[16]: https://eftsure.com/statistics/deepfake-statistics/ "Deepfake statistics (2025): 25 new facts for CFOs - Eftsure"
[17]: https://www.weforum.org/stories/2025/02/deepfake-ai-cybercrime-arup/ "Cybercrime: Lessons learned from a $25m deepfake attack"