캘리포니아, AI 투명성 법 제정 : 인공지능의 위험성 사회적 제제

https://www.aljazeera.com/economy/2025/10/10/californias-landmark-frontier-ai-law-to-bring-transparency?utm_source

California’s landmark frontier AI law to bring transparency

🔍 주요 내용 요약

• 법 명칭 및 의의
 캘리포니아주가 Transparency in Frontier Artificial Intelligence Act 법을 제정해, 미국 내에서 최초로 AI 규제 법안을 수립함.  

• 대상 및 보고 의무
 초거대 AI (frontier AI) 모델을 개발하는 기업들이:
 1. 개발 과정에서 채택한 안전성 기준, 거버넌스 구조, 국제·국내 프레임워크 준수 내역 등을 공개해야 함  
 2. 대형 사이버 공격, 50명 이상의 사망 등 중대한 피해가 발생하는 사건을 보고해야 함  
 3. 내부 고발자 보호 조항을 포함함  

• 한계 및 비판점
 - 이 법은 공개(disclosure) 위주이고, 강력한 제재 수단은 부족하다는 평가 있음  
 - 적용 범위가 가장 큰 모델에만 한정되어, 중소규모 또는 특정 위험 AI 모델은 포함되지 않음  
 - 법이 주(州) 차원의 것이기 때문에 미국 전역에 자동적으로 적용되지 않음  
 - 기존 초안에는 모델 강제 정지(kill switch) 조항이나 제3자 평가 요구 조항이 있었지만, 규제 강도 우려로 완화됨  
 - 예를 들어, 안타까운 사례로 어느 청년이 AI와 나눈 우울감 관련 대화 끝에 자살한 사건이 언급되지만, 해당 모델은 이 법의 규제를 받지 않음  

• 목표와 기대 효과
 - 이 법은 AI 개발자에게 투명성 공개 기준을 강제함으로써, AI 책임성과 감시 가능성을 높이려는 첫 시도임  
 - 법이 강하진 않지만 “light touch regulation” (완화된 규제) 방식이라는 평가가 많고, 향후 연방 수준의 AI 규제 모델로 발전할 가능성이 있음  
 - 또한, 이 법은 기술 혁신과 사용자 보호 사이의 균형을 모색하려는 시도로 볼 수 있음