AI 얼굴인식 오인식, 5개월간 수감

이번 사건은 ‘AI가 틀렸다’보다 더 정확히는, ‘AI의 추정 결과를 사람·수사기관이 검증 없이 사실처럼 사용해 무고한 시민을 장기 구금한 사례’입니다. (서울신문)

• 미국 테네시주 여성 앤절라 립스(Angela Lipps)가 AI 얼굴인식 시스템의 오인식 때문에 노스다코타주 은행 사기 사건 용의자로 지목돼 약 5개월간 수감됐습니다. (서울신문)
• 본인은 “노스다코타에 가본 적도 없다”고 주장했고, 이후 실제로 혐의가 기각·철회됐습니다. (서울신문)

• 사건 출발점은 은행 사기 용의자의 이미지를 경찰이 얼굴인식 시스템에 넣으면서 시작됐습니다. (다음)
• 이 과정에서 Clearview AI(클리어뷰 AI) 같은 얼굴인식 도구가 립스를 유사 인물로 지목했고, 그 결과가 사실상 유력 증거처럼 취급됐습니다. (다음)
• 문제는 이후 알리바이, 이동기록, 금융기록, 직접 대면 확인 같은 기본 검증이 충분히 이뤄지지 않았다는 점입니다. (동아일보)

• 경찰의 오인식만으로 끝난 게 아니라, 체포영장 발부, 구금, 타주 이송(송환), 기소 유지가 연쇄적으로 이어졌기 때문입니다. (미래를 보는 창 - 전자신문)
• 즉, AI 1차 오류 + 사람의 2차 검증 실패 + 제도적 관성이 합쳐져 피해가 커졌습니다. (Guardian)

• AI 얼굴인식은 ‘수사 보조도구’일 뿐인데, 사실상 ‘신원 확인 도구’처럼 사용된 것이 가장 큰 문제입니다. (매일경제)
• 특히 저화질 CCTV, 각도 차이, 조명, 얼굴 유사성이 있으면 오인 가능성이 커집니다. (arXiv)
• 기술보다 더 큰 리스크는 “AI가 맞췄겠지”라는 과신(automation bias)입니다. (Tom's Hardware)

• 이 사건은 단순한 해프닝이 아니라, AI가 형사사법 영역에서 사람의 자유를 직접 침해할 수 있음을 보여준 사례입니다. (Guardian)
• 특히 얼굴인식 기술은 잘못 사용될 경우 ‘오탐 한 번’이 바로 체포·구금으로 이어질 수 있는 고위험 AI라는 점이 드러났습니다. (www.ndtv.com)

이번 사건은 AI 얼굴인식의 기술적 한계와 함께, 수사기관의 검증 실패·책임 부재가 결합될 때 어떤 일이 벌어지는지 보여준 대표 사례입니다. (서울신문)

따라서 이 사건의 교훈은 단순합니다.
AI는 참고자료일 수는 있어도, 사람의 자유를 박탈하는 ‘최종 판단자’가 되어선 안 됩니다. (www.ndtv.com)

[1]: https://amp.seoul.co.kr/seoul/20260331500267 "AI 오판으로 5개월간 억울하게 옥살이한 美여성"
[2]: https://v.daum.net/v/20260331163744584 "AI 오판으로 5개월간 억울하게 옥살이한 美여성"
[3]: https://www.donga.com/news/Inter/article/all/20260331/133643317/2 "얼굴인식 AI가 사기범 지목…무고한 시민, 5개월 옥살이"
[4]: https://www.etnews.com/20260330000274 "“AI 안면인식 판독 때문에…” 美 여성, 5개월 간 '억울한 옥살이' - 전자신문"
[5]: https://www.theguardian.com/us-news/2026/mar/12/tennessee-grandmother-ai-fraud "Tennessee grandmother jailed after AI facial recognition error links ..."
[6]: https://www.mk.co.kr/news/it/12003458 "AI 안면인식 믿었는데…5개월간 억울한 옥살이"
[7]: https://arxiv.org/abs/2505.14320 "Accuracy and Fairness of Facial Recognition Technology in Low-Quality Police Images: An Experiment With Synthetic Faces"
[8]: https://www.tomshardware.com/tech-industry/artificial-intelligence/facial-recognition-is-jailing-the-wrong-people-police-keep-using-it-anyway "Tennessee grandmother wrongly jailed for six months, latest victim of AI-driven misidentification - facial recognition is jailing the wrong people, but police keep using it anyway"
[9]: https://www.ndtv.com/world-news/us-woman-wrongly-imprisoned-for-6-months-due-to-faulty-facial-recognition-11209378 "US Woman Wrongly Imprisoned For 6 Months Due To Faulty Facial Recognition"
[10]: https://people.com/grandmother-claims-she-was-wrongfully-jailed-due-to-facial-recognition-software-error-11926460 "Grandma Says AI Falsely Flagged Her For Bank Fraud, Then She Was Jailed for 5 Months in Another State"
[11]: https://nypost.com/2026/03/29/us-news/tennessee-grandma-jailed-for-5-months-after-ai-flagged-her-for-bank-fraud-in-state-she-never-visited/ "Tennessee grandma jailed for 5 months after AI flagged her for bank fraud in state she never visited"
[12]: https://www.munhwa.com/article/11578796 "[이슈]인공지능 '오판'으로 5개월간 억울하게 옥살이한 여성…대체 무슨 ..."
[13]: https://v.daum.net/v/20260331182603839 "[이슈]인공지능 '오판'으로 5개월간 억울하게 옥살이한 여성…대체 무슨 ..."
[14]: https://www.thesun.co.uk/news/38683865/grandmother-falsely-jailed-ai-tech-wrongly-linked-bank-fraud/ "Grandmother falsely jailed for 5 MONTHS after chilling AI tech wrongly linked her to bank fraud case 1,000 miles away"
[15]: https://timesofindia.indiatimes.com/technology/tech-news/tennessee-woman-who-spent-months-in-jail-after-police-used-ai-facial-recognition-to-link-her-to-crimes-in-dakota-says-she-has-never-been-to-the-state/articleshow/129895800.cms "Tennessee woman who spent months in jail after police used AI facial recognition to link her to crimes in Dakota, says she has never been to the State"
[16]: https://komonews.com/news/nation-world/woman-wrongfully-jailed-facial-recognition-software-error-ai-angela-lipps-tennessee-grandmother-fargo-north-dakota-bank-fraud-case "Woman says she was wrongfully jailed due to facial recognition software error"
[17]: https://www.youtube.com/watch?v=kYwnnKqvzc8 "Woman says AI facial recognition led to wrongful arrest in state she's ..."
[18]: https://apnews.com/article/detroit-facial-recognition-arrest-821d260e932a4582a6a912dd61fde157 "Judge dismisses lawsuit against Detroit police in wrongful arrest case"
[19]: https://apnews.com/article/821d260e932a4582a6a912dd61fde157 "Woman wrongly accused of carjacking loses lawsuit against Detroit police who used facial tech"
[20]: https://arxiv.org/abs/2412.05721 "Impact of Sunglasses on One-to-Many Facial Identification Accuracy"
[21]: https://news.hada.io/topic?id=27993 "AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 ..."
[22]: https://www.facebook.com/NBCNews/posts/a-tennessee-woman-is-demanding-justice-after-an-ai-tool-falsely-linked-her-to-ba/1320376546620874/ "A Tennessee woman is demanding justice after an AI tool ..."
[23]: https://www.youtube.com/watch?v=XJ6u1KxM3WY "Tennessee woman says she was wrongfully jailed in North Dakota ..."