인공지능 안전 (2) 썸네일형 리스트형 로마선언, AI와 핵무기의 결합; 인류생존의 위험 초래 '로마 선언'은 AI와 핵무기의 결합이 인류 생존에 중대한 위험을 초래할 수 있다는 점을 경고하며, 핵무기 운용과 같은 생명, 안보에 관한 최종 결정은 반드시 인간이 통제해야 한다는 원칙을 제시했다. 또한 국제사회가 AI 안전성, 자율무기 규제, 핵군축, 국제 거버넌스를 함께 추진해야 한다고 촉구했다. 이번 선언은 AI를 단순한 산업 기술이 아니라 국제 평화와 인류 공동의 안전을 위한 글로벌 규범의 대상으로 격상시킨 중요한 이정표로 평가된다. 바티칸에서 열린 '글로벌 노벨상 수상자 총회(Global Nobel Laureates Assembly)'에서 '로마 선언(Rome Declaration)'이 공식 채택·서명됐다.선언의 핵심은 인공지능(AI)과 핵무기의 결합이 인류 생존에 새로운 실존적 위험을 초래할.. 미국, 인공지능 모델 출시전 사전검증 실시 미국 정부는 초거대 AI 모델을 공개하기 전에 국가안보와 안전성을 검증하는 사전 평가 체계를 본격 추진하고 있으며, OpenAI, Google 등 대부분의 주요 기업은 이에 참여하고 있다. 메타도 참여 압박을 받고 있으며 협약 체결을 검토 중이다. 이는 AI 산업이 성능 중심 경쟁에서 안전성과 신뢰성을 중시하는 규제, 거버넌스 중심 경쟁으로 전환되고 있음을 보여준다 미국 정부가 초거대 AI(Frontier AI) 모델의 출시 전 사전 안전성 검증(Pre-deployment Review) 참여를 주요 AI 기업에 요구.OpenAI, Google, Anthropic, Microsoft, xAI는 자발적 검증 체계에 참여.Meta는 주요 기업 가운데 유일하게 협약 체결이 지연되면서 미국 정부의 참여 압박을 받.. 이전 1 다음
