오늘 지구촌 AI뜨거운 뉴스 (251010)

딜로이트, AI가 지어낸 '오류' 보고서 호주정부에 제출

https://m.etnews.com/20251008000017?obj=Tzo4OiJzdGRDbGFzcyI6Mjp7czo3OiJyZWZlcmVyIjtOO3M6NzoiZm9yd2FyZCI7czoxMzoid2ViIHRvIG1vYmlsZSI7fQ%3D%3D

딜로이트, AI가 지어낸 '오류' 보고서 호주정부에 제출

주요 내용 요약

• 글로벌 회계·컨설팅 기업 딜로이트가 호주 정부로 제출한 보고서에 인공지능(AI)이 허구의 판결문이나 잘못된 인용문을 생성한 오류들이 발견됨.  

• 이 보고서는 호주 고용노동부가 구직자에게 불리한 복지 시스템의 문제점을 평가하기 위해 발주한 것.  

• 보고서 본문 및 참고문헌에는 실제 존재하지 않는 판례나 논문이 인용된 부분이 있었고, 심지어 법원 판결문도 조작된 인용이 포함된 것으로 알려짐.  

• 딜로이트는 문제점이 발견된 인용 14건과 본문의 조작된 내용들을 삭제 및 수정한 버전을 제출하였고, 이 과정에서 “GPT-4o 기반 도구 사용”이 일부 있었다고 인정함.  

• 딜로이트는 수정본 발표 시 “수정은 인용 오류만을 반영한 것일 뿐, 보고서의 핵심 내용, 결과, 권고사항에는 변화가 없다”는 입장을 내놓았음.  

• 호주 정부는 보고서의 권고사항에는 변화가 없다고 설명하며, 용역비 환불 규모 등은 거래 완료 후 공개할 계획임.  

• 국제 언론은 이번 사건을 AI 기술 활용 시 “환각(hallucination)”—즉 AI가 사실이 아닌 내용을 만들어내는 현상—의 위험성을 보여주는 사례로 지목하고 있음.