인공지능 규제 (6) 썸네일형 리스트형 그록(Grok), 실존 인물 사진 성적 변형, 허용 논란 그록(Grok)이 사진 업로드만으로 실존 인물의 성적 이미지(딥페이크)를 생성하는 기능을 허용해 비동의·미성년자 포함 성적 콘텐츠가 확산되면서 국제적 규제와 법적 대응이 촉구되고 있습니다. 성적 이미지 생성 논란엘론 머스크의 AI 챗봇 그록(Grok)이 사용자의 요청에 따라 실존 인물 사진을 성적으로 변형·편집하는 AI 이미지를 대량 생성해 논란이 확산됨.딥페이크 및 비동의 이미지 문제옷을 벗긴다거나 비키니·성적 자세로 바꾸는 딥페이크 이미지가 빠르게 생성되고 공유됨.일부 요청은 미성년자인 사진까지 성적 표현으로 변형되기도 함.접근성 및 허점그록은 사진 업로드와 간단한 프롬프트 입력만으로 성적 이미지가 만들어져 비동의 생성이 용이한 구조였음.필터·연령 확인 장치 등 규제·안전장치가 거의 작동하지 않음이라.. AI 생성물 표시제 도입, 허위 과장광고 사라지나? 최근 AI 기술로 생성된 ‘가짜 의사, 전문가’ 영상, 사진 광고가SNS 등에서 빠르게 확산됨에 따라 소비자 특히 고령층의 판단 혼란·피해 우려가 커지고 있음. (코리아타임스)식·의약품·화장품·건강기능식품 등 건강 관련 광고 분야에서 허위 광고가 빈번해 사회적 문제로 부각됨. (코리아타임스) ‘AI 생성물 표시제’ 도입대상 확대기존 ‘AI 기본법’에서는 AI 생성물 사업자(개발자)에게만 표시 의무가 있었음.대한민국 정부는 이를 콘텐츠 게시자, 온라인 포털, 플랫폼 운영자, 이용자로 대폭 확대 적용 계획하고 AI 생성물을 게시하는 모든 사람/기관이 AI 생성 여부를 표시해야 함. (다음)의무 표시 방식사진, 영상, 음성 등 콘텐츠가 AI로 제작되었음을 명시해야 함.플랫폼 이용자가 이를 임의로 제거, 훼손할.. 트럼프, 행정명령, AI직접통제 ‘One Rule’ 트럼프 대통령은 “미국 전역에 적용되는 단 하나의 AI 규칙(One Rule)”을 만들기 위해 이번 주 중 행정명령 서명을 예고했다. (Reuters)각 주(州)가 제각각 만드는 AI 규제를 무력화하고, 연방정부 차원의 단일 규제 체계를 구축하겠다는 것이다. (Politico) “기업이 무언가 할 때마다 50개 주의 승인을 받게 할 수 없다(You can’t expect a company to get 50 Approvals)” 는 것이 트럼프의 주장. (Reuters)대상은 AI 개발·배포 전반: 모델 개발, AI 서비스 출시, 인프라 구축 등 포함될 가능성. (Al Jazeera)배경에는, 주마다 다른 규제가 AI 산업의 속도와 경쟁력을 해친다는 빅테크 및 일부 투자자들의 요구가 있음. (Financi.. 미국, 유럽 잇따른 규제 감속., 가장 속도 빠른 한국., 인공지능이 우리사회에 미칠 영향은? 유럽에 이어 미국에서 법적 규제 시한을 늦췄습니다.반면 한국은 2026년 1월 AI기본법 시행을 앞두고 있습니다.유럽과 미국이 규제를 늦추고 완화 하는 이유를 살펴보고 우리는 어떻게 대응해야할지 정리해보았습니다. 규제 감속 이유미국주(州)별 다양한 AI 규제가 기업 활동·혁신을 저해할 수 있다는 우려. GovTech+3Reuters+3CT Mirror+3글로벌 AI 기술 경쟁에서 뒤처지지 않기 위해 속도 우선 전략을 선택. Le Monde.fr+2Fisher Phillips+2기술 기업들의 로비 및 규제 부담 완화 요구가 강함. Public Citizen유럽규제 적용 준비 시간이 부족하고 기업 부담이 크다는 현실 인식. → 고위험 AI 규정 적용을 2027년까지 연기. Reuters+2Reuters+2혁.. EU 규제 방향 전환, 디지털 간소화 방안(Digital Omnibus / Digital Simplification Package) 발표 EU 집행위원회가 11월 19일(현지) ‘디지털 간소화 방안(Digital Omnibus / Digital Simplification Package)’을 발표하면서 AI법(AI Act) 중 ‘고위험(high-risk) AI 규정’의 적용 시점을 2026년 8월 → 2027년 12월로 16개월 연기하고, GDPR·e프라이버시 지침·데이터법 등 데이터·프라이버시 규제도 완화·정비하는 안을 제시했습니다. 다음 뉴스+3Reuters+3Le Monde.fr+3이 패키지는 제안 단계로, 앞으로 회원국(EU 이사회)과 유럽의회 심의·표결을 거쳐야 발효됩니다. (Reuters) 주요 내용고위험 AI 적용 시점 연기원래 2026년 8월부터 적용될 예정이던 Artificial Intelligence Act(AI 법)의 고.. AI 기본법 시행령 입법예고, “AI가 개입된 서비스”와 “AI가 만든 결과물” 사람 눈에 보이게 표시해야... 1. AI 기본법·시행령 입법예고 개요법 정식 명칭: 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(약칭 AI기본법)제정·시행일2024.12.26 국회 통과 → 2025.1.21 공포 Cela+12026.1.22부터 시행 국가법령정보센터+1시행령 제정안2025.11.12 과기정통부가 시행령 제정안 입법예고 (의견수렴 11.12~12.22, 40일) 대한민국 정책브리핑+2대한민국 정책브리핑+22. AI 생성물 표시 의무: 핵심 내용1) 무엇이 달라지나?AI가 만든 결과물은 반드시 표시해야 함.사업자(서비스 제공자)가 의무 대상이며, 이용자 개인에게 직접 책임을 묻는 구조는 아님.2) 표시 의무 핵심텍스트·이미지·영상 등 AI 생성 콘텐츠는 → “AI 생성”임을 사람이 볼 수 있게 표시워터마크 등 기.. 이전 1 다음
