AI시에 맞선 인간

AI 감시가 사람과 차량을 더욱 정교하게 식별하는 시대에, 인간이 AI의 인식 오류를 의도적으로 만들어 감시망을 회피하는 ‘적대적 패턴’ 기술이 실제 의류와 차량으로 발전하고 있습니다.
다만 현재의 ‘디지털 투명 망토’는 모든 카메라에서 사람을 완전히 숨기는 기술이 아니라 특정 AI 모델의 탐지를 교란하는 기술로, 실제 환경에서의 재현성과 범용성에는 아직 한계가 있습니다.
결국 앞으로는 ‘더 정확하게 감시하는 AI’와 ‘그 AI를 속이는 AI’가 경쟁하는 새로운 보안 패러다임이 형성될 가능성이 높으며, 개인정보 보호와 범죄 악용을 동시에 고려한 법·기술적 대응이 필요합니다.

 

• ‘디지털 투명 망토’의 정체

• 미국 보안 연구자 빌 스위어링언(Bill Swearingen)의 noRecognition 프로젝트.
• 옷이나 자동차 표면에 AI가 사람·차량으로 인식하기 어려운 특수 패턴을 입히는 방식.
• 카메라 자체를 가리거나 영상을 차단하는 것이 아니라 카메라는 촬영하지만 AI의 객체 탐지를 실패시키는 기술임.

• 어떻게 AI를 속이나?

• AI는 영상에서 윤곽·색상·질감·형태 등의 특징을 추출해 ‘사람’ 또는 ‘차량’인지 확률적으로 판단함.
• 적대적 패턴은 이 특징 추출 과정에 혼란을 일으켜 ‘사람일 확률’을 탐지 기준 이하로 떨어뜨리는 방식임.

• 31.7백만 회의 실험

• noRecognition 측은 약 3,170만 회의 패턴 테스트를 수행했다고 밝힘.
• 여러 컴퓨터 비전 모델을 대상으로 패턴을 반복 생성·평가하면서 AI 탐지를 회피할 가능성이 높은 패턴을 찾아냄. 

• 실제 차량으로 시험

• 2026년 DEF CON에서 특수 패턴을 입힌 2009년형 Toyota Yaris를 Flock 카메라 앞에서 주행시키는 실험을 실시.
• 구자 측은 차량의 자동 탐지가 실패했다고 주장했지만, 바퀴 등 일부 영역에서는 탐지가 이뤄진 것으로 보도됨.

• 중요한 한계

• ‘완벽한 투명인간’이 된 것은 아님.
• 카메라는 여전히 사람이나 차량의 영상을 그대로 촬영할 수 있음.
• 특정 AI 모델·카메라·조명·거리·각도·패턴 크기 등에 따라 효과가 크게 달라짐.

• 현재 기술 수준을 과장해서는 안 됨

• noRecognition이 여러 모델에서 강력한 결과를 보고했지만, 모든 감시 AI를 어떤 환경에서나 동시에 무력화하는 하나의 패턴이 입증된 것은 아님.
• 특히 공개된 자료 상당수는 디지털/시뮬레이션 테스트이며, 독립적인 반복 실험과 대규모 실제 환경 검증이 더 필요함. 

• 기존 연구의 연장선

• 2019년 이미 메릴랜드대 연구진은 ‘Invisibility Cloak’ 연구에서 실제 옷에 적대적 패턴을 적용해 객체 탐지기를 속이는 실험을 수행함.
• ‘Adversarial T-shirt’ 연구에서는 YOLOv2를 대상으로 디지털 환경 74%, 실제 환경 57%의 공격 성공률을 보고함. 

• 얼굴인식 회피 기술도 이미 존재

• Fawkes는 사진에 미세한 변형을 가해 얼굴인식 AI가 사람을 잘못 인식하도록 하는 ‘디지털 클로킹’ 기술.
• 즉 이번 기술은 갑자기 등장한 것이 아니라 AI 적대적 공격 연구가 온라인 이미지 → 의류 → 실제 감시카메라로 발전한 흐름으로 볼 수 있음.

• ‘적대적 의류(Adversarial Clothing)’라는 새로운 분야

• 유럽에서도 얼굴인식 AI를 교란하는 의류가 등장하고 있음.
• 기하학적 무늬, 비대칭 디자인, 얼굴처럼 보이는 패턴, 반사 소재 등을 활용함.

• AI 감시와 AI 회피 기술의 창과 방패 경쟁

• 감시 AI가 사람·차량·행동을 더욱 정교하게 식별할수록 이를 회피하기 위한 적대적 패턴도 발전할 가능성이 높음.
• 반대로 감시업체가 이러한 패턴을 학습 데이터에 포함시키면 다시 탐지할 가능성이 높아짐.

• 프라이버시와 범죄 악용이라는 양면성

• 시민의 생체정보·이동경로를 과도하게 추적하는 감시체계에 대한 대응수단이라는 긍정적 측면이 있음.
• 반면 범죄자가 CCTV·번호판 인식·안면인식을 회피하는 수단으로 사용할 가능성도 있어 법·윤리적 논쟁이 예상됨.

 

1. [조선일보 — AI 감시에 맞선 인간…AI가 인식 못하는 ‘디지털 투명 망토’](https://v.daum.net/v/20260811004737227)
2. [파이낸셜뉴스 — 과속 단속도 피하나? AI 감시카메라 속이는 착시 패턴](https://www.fnnews.com/news/202608110925212754)
3. [동아일보 — AI도 속는다…얼굴인식 교란하는 ‘적대적 의류’](https://www.donga.com/news/amp/all/20260723/134348539/1)
4. [전자신문 — KAIST, 딥러닝에 대한 공격 막는 프레임 개발](https://www.etnews.com/20221115000116)
5. [조선일보 기사 원문 재게시본 — 디지털 투명 망토 상세 내용](https://proxy.stardusted.uk/default/https/n.news.naver.com/article/023/0003992297)
6. [TechCrunch — This ‘adversarial’ pattern can prevent surveillance cameras from detecting you](https://techcrunch.com/2026/08/09/this-adversarial-pattern-can-prevent-surveillance-cameras-from-detecting-you/)
7. [Decrypt — The AI-Generated Pattern Hides You From Surveillance Cameras—Including Flock](https://decrypt.co/375479/ai-generated-pattern-hides-you-surveillance-cameras-flock)
8. [Fast Company — AI security cameras are everywhere. Can these garments scramble them all?](https://www.fastcompany.com/91587781/norecognition-computer-generated-clothing-patterns-are-surveillance-proof)
9. [Euronews — Anti-tracking fashion: Startup designs clothing to foil AI surveillance cameras](https://www.euronews.com/my-europe/2026/07/13/anti-tracking-fashion-startup-designs-clothing-to-foil-ai-surveillance-cameras)
10. [The Guardian — ‘Adversarial clothing’ and facial-recognition systems](https://www.theguardian.com/fashion/2026/jul/17/adversarial-clothing-are-garments-designed-to-confuse-facial-recognition-systems-about-to-go-mainstream)
11. [Vogue — M.I.A.'s anti-surveillance streetwear 실험](https://www.vogue.com/article/testinig-mias-anti-surveillance-streetwear)
12. [TECHi — AI camouflage reportedly passed one camera test, proof is still thin](https://www.techi.com/ai-camouflage-surveillance-camera-test-proof/)
13. [Gadget Review — Researcher used AI camouflage to fool Flock cameras](https://www.gadgetreview.com/a-researcher-used-ai-camouflage-to-fool-flock-cameras)
14. [KuCoin — AI Camouflage Foils Flock Surveillance Cameras](https://www.kucoin.com/news/flash/ai-camouflage-foils-flock-surveillance-cameras)
15. [DEF CON — noRecognition adversarial-pattern 발표 내용](https://defcon.outel.org/dcwp/dc34/activities/dctalkslist/)
16. [noRecognition 공식 연구 프로젝트](https://norecognition.org/)
17. [noRecognition 연구 상세 — 3,170만회 테스트 및 모델 구조](https://sandbox.norecognition.org/about)
18. [noRecognition 제품·연구 페이지](https://sandbox.norecognition.org/)
19. [메릴랜드대 연구 — Making an Invisibility Cloak](https://arxiv.org/abs/1910.14667)
20. [ECCV 논문 — Making an Invisibility Cloak: Real World Adversarial Attacks](https://www.ecva.net/papers/eccv_2020/papers_ECCV/papers/123490001.pdf)
21. [Adversarial T-shirt 연구논문](https://arxiv.org/abs/1910.11099)
22. [Adversarial T-shirt 상세 PDF](https://www.ecva.net/papers/eccv_2020/papers_ECCV/papers/123500647.pdf)
23. [Fawkes — 얼굴인식 방어를 위한 Privacy Cloaking 연구](https://arxiv.org/abs/2002.08327)
24. [USENIX — Fawkes 얼굴인식 방어 연구](https://www.usenix.org/system/files/sec20-shan.pdf)
25. [Nottingham Trent University — AI 카메라를 혼란시키는 의류 연구](https://www.ntu.ac.uk/about-us/news/news-articles/2024/05/clothes-created-to-confuse-ai-cameras-and-help-protect-privacy)
26. [Cap_able 적대적 의류 관련 연구자료](https://openaccess-api.cms-conferences.org/articles/download/978-1-958651-08-7_5)
27. [Project KOVR — Anti-Surveillance Coat](https://projectkovr.com/)
28. [Project KOVR — Digital Invisibility Cloak 디자인](https://projectkovr.com/designs.html)
29. https://techcrunch.com/2026/08/09/this-adversarial-pattern-can-prevent-surveillance-cameras-from-detecting-you/"This 'adversarial' pattern can prevent surveillance cameras from detecting you | TechCrunch"
30. https://v.daum.net/v/20260811004737227 "AI 감시에 맞선 인간… AI가 인식 못하는 ‘디지털 투명 망토’ 등장"
31. https://sandbox.norecognition.org/about "DarkCogswell - About the Research"
32. https://www.techi.com/ai-camouflage-surveillance-camera-test-proof/ "AI camouflage reportedly passed one camera test. Proof is still thin | TECHi"
33. https://arxiv.org/abs/1910.14667 "Making an Invisibility Cloak: Real World Adversarial Attacks on Object Detectors"
34. https://arxiv.org/abs/2002.08327 "Fawkes: Protecting Privacy against Unauthorized Deep Learning Models"
35. https://www.theguardian.com/fashion/2026/jul/17/adversarial-clothing-are-garments-designed-to-confuse-facial-recognition-systems-about-to-go-mainstream "'Adversarial clothing': are garments designed to confuse facial recognition systems about to go mainstream?"