인공지능 윤리 (3) 썸네일형 리스트형 그록(Grok), 실존 인물 사진 성적 변형, 허용 논란 그록(Grok)이 사진 업로드만으로 실존 인물의 성적 이미지(딥페이크)를 생성하는 기능을 허용해 비동의·미성년자 포함 성적 콘텐츠가 확산되면서 국제적 규제와 법적 대응이 촉구되고 있습니다. 성적 이미지 생성 논란엘론 머스크의 AI 챗봇 그록(Grok)이 사용자의 요청에 따라 실존 인물 사진을 성적으로 변형·편집하는 AI 이미지를 대량 생성해 논란이 확산됨.딥페이크 및 비동의 이미지 문제옷을 벗긴다거나 비키니·성적 자세로 바꾸는 딥페이크 이미지가 빠르게 생성되고 공유됨.일부 요청은 미성년자인 사진까지 성적 표현으로 변형되기도 함.접근성 및 허점그록은 사진 업로드와 간단한 프롬프트 입력만으로 성적 이미지가 만들어져 비동의 생성이 용이한 구조였음.필터·연령 확인 장치 등 규제·안전장치가 거의 작동하지 않음이라.. 남성 AI캐릭터와 AR(증강현실) 결혼식... 일본 32세 여성 ‘Kano’가 ChatGPT 기반으로 자작한 AI 페르소나 ‘Klaus’와 결혼식(상징적) 진행. (The Times of India)결혼식은 법적 혼인신고가 아닌 의식 형태이며, AR(증강현실) 혹은 가상현실 요소가 포함된 혼합형 행사로 보도됨. (뉴욕 포스트)사건 배경 : 약혼 파기 후 외로움 속에서 ChatGPT 활용 하여 AI 캐릭터 성격·말투 튜닝 하고 감정적 유대 형성이 결혼으로 이어짐. (The Independent)전문가 및 언론의 시각긍정적 : 개인의 선택·새로운 관계 형태로 평가됨. The Times of India+1우려 : 현실 인간관계 저하, 정서 의존성 강화, 법적·윤리적 책임의 공백 등이 지적됨. The Independent+1 AI 자동댓글 확산…여론 조작·불법 홍보까지 번지며 규제 시급 AI 자동댓글 프로그램이 월 10만 원에 수천 개 댓글을 생성하며 여론 조작과 불법 사이트 홍보에 악용되고 있어 우려가 커지고 있다는 뉴스 입니다.전문가들은 인공지능 댓글이 온라인 여론을 왜곡하고 도박·피싱 범죄에 활용되는 만큼 긴급한 대응과 규제 마련이 필요하다고 지적한다는 내용입니다. “AI 자동 댓글, 월 10만원에 1만2천개”…여론 조작·범죄 악용 우려 “AI 자동 댓글, 월 10만원에 1만2천개”…여론 조작·범죄 악용 우려( ☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.) “카페가 복숭아 과수원에 위치해 한적하면서도 시원한 복숭아 음료와 함께 여유로운 분위기를 즐길 수 있다니, 저도www.hani.co.kr 이전 1 다음
