Dario Amodei, AI 생물학 위험 경고

인공지능 비즈니스 매칭센터(AX Planable) 2026. 6. 13. 15:31

Dario Amodei는 향후 1~2년 내 AI가 생물학 무기 설계, 제조를 지원할 수 있는 수준에 도달할 가능성이 높다며, 핵무기 확산을 막기 위한 국제원자력기구(IAEA)처럼 AI를 감시, 통제하는 국제기구가 필요하다고 경고했다. 이 경고는 단순한 기술윤리 문제가 아니라 AI가 핵무기, 생물무기 수준의 국가안보 이슈로 전환되고 있음을 보여준다. 앞으로 AI 경쟁의 핵심은 성능 향상보다 안전성 검증과 국제 거버넌스 구축으로 이동할 가능성이 높으며, 한국 역시 AI 기본법을 넘어 바이오보안, 국가안보 관점의 AI 안전정책을 준비해야 할 시점이다. 특히 미국, EU, 영국이 추진 중인 AI 안전연구소(AISI) 모델과 국제 공동감시 체계 논의에 적극 참여할 필요가 있다.

① AI가 생물학 위험 증폭 가능

AI가 바이러스·병원체 설계 능력을 크게 향상시킬 수 있다고 경고
비전문가도 위험한 생물학 지식을 획득할 수 있는 시대 도래 전망

② 핵무기급 위협 될 수 있다

AI 기반 생물학 무기 개발 위험을 핵확산 문제와 유사하게 평가
국가안보 차원의 대응 필요 주장

③ AI 발전 속도가 예상보다 빠름

GPT, Claude 등 생성형 AI 성능이 기하급수적으로 발전
규제보다 기술 발전이 앞서고 있다고 진단

④ AI가 연구개발 장벽 제거

신약 개발뿐 아니라 병원체 설계도 가속 가능
위험기술의 민주화 우려

⑤ AI 기업도 위험성 인정

앤스로픽 내부 레드팀 운영
바이오 보안성 평가 실시

⑥ AI 안전성 평가 의무화 주장

고성능 AI 출시 전 안전성 검증 필요
국가별 최소 기준 마련 필요

⑦ 국제 공조 필요

개별 국가 규제로는 한계
글로벌 거버넌스 구축 강조

⑧ AI IAEA 설립 제안

국제원자력기구(IAEA)와 유사한 국제 감독기구 필요
AI 개발 현황 및 위험 감시

⑨ 미국, 중국 협력 강조

AI 패권 경쟁보다 안전 협력 우선
미중 공동 감시 체계 필요

⑩ 향후 2~5년이 골든타임

AI 위험 통제가 가능한 마지막 시기라고 평가
지금 규칙을 만들지 못하면 대응 어려워질 가능성 제기