California, AI 산업 발전을 위한 안전법 SB 53 통과
캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 캘리포니아를 안전하고 신뢰할 수 있는 AI 분야의 세계적 리더로 자리매김하는 법안인 ‘SB 53’ 법안에 서명하였다.
* SB 53은 스콧 위너(Scott Wiener) 상원의원이 발의한 첨단 인공지능 투명성 법 (TFAIA : Transparency in Frontier Artificial Intelligence Act)이다.
SB 53 법안 발의 배경
2024년 8월, SB 1047 법안이 개빈 뉴섬 주지사에 의해 거부된 이후, 최근 SB 53 법안이 재발의되었다.
- SB 1047은 스콧 위너 상원의원이 발의한 법안으로, AI 기업이 자사 모델로 발생한 피해에 대해 법적 책임을 져야 한다는 내용을 담고 있었으며, 관련 기업들의 강한 반발로 인해 주지사가 거부권을 행사함.
- SB 53은 이전과 달리 대상이 명확하고 투명성에 집중한 법안으로, 개빈 뉴섬 주지사가 최종 승인함.
SB 53 법안의 적용 대상은 연간 5억 달러(한화 약 7천억 원) 이상 수익을 내는 기업으로 한정되며, 오픈AI(OpenAI), 메타(Meta), 구글 딥마인드(Google DeepMind), 앤트로픽(Anthropic) 등 캘리포니아에 본사를 둔 빅테크 기업들이 주요 대상이다.
캘리포니아는 글로벌 상위 50대 AI 기업 중 32곳이 본사를 둔 지역으로, SB 53은 주(州) 단위 규제임에도 불구하고 전 세계적 영향력을 미치는 법안으로 인식된다.
미국 내 다른 주의 동향
- 뉴욕주는 유사 법안을 통과시켰으며, 현재 캐시 호컬(Kathy Hochul) 주지사의 서명을 기다리고 있는 상황이다.
- 미국의 다른 주(州)들 또한 캘리포니아의 SB 53을 참고하여 AI 규제를 검토 중이다.
SB 53 법안 주요 내용
1. 투명성 강화
- 대규모 프론티어 AI 개발자는 자사 모델이 어떤 안전 기준과 모범 사례를 따랐는지 공개해야 한다.
- 모델 개발·운영 과정에서의 위험 평가·완화 조치를 문서화하고 보고하도록 요구한다.
2. 혁신 지원
캘리포니아 주정부는 공공 컴퓨팅 클러스터 ‘CalCompute’를 구축하여 안전하고 윤리적인 AI 연구와 개발을 촉진한다.
* CalCompute는 캘리포니아 주정부가 AI 연구·혁신 지원을 위해 추진하는 공공 고성능 클라우드 컴퓨팅 컨소시엄으로, 공공-학계-민간이 공동 활용하는 인프라이다.
3. 안전사고 대응
- AI 기업과 시민이 잠재적 위험을 캘리포니아 응급 서비스국에 신고할 수 있는 체계를 마련한다.
- AI 시스템으로 인한 중대한 사고·위험 징후를 조기에 포착하고 대응하기 위한 신고·조사 프로세스를 구축한다.
4. 책임성 확보
- 법 위반 및 심각한 위험을 내부에서 알린 내부 고발자(whistleblower)를 보호하는 조항을 포함한다.
- 기업이 SB 53의 의무를 위반할 경우 민사 처벌을 도입하여 규제 집행력을 강화한다.
5. 법률 개정 및 적시성 확보
- 기술 변화와 국제 규범·기준을 반영하기 위해 캘리포니아 기술부가 매년 SB 53 관련 법 개정 권고를 제안한다.
- 이를 통해 법률이 급변하는 AI 기술 환경에 뒤처지지 않도록 지속적인 업데이트를 추진한다.
출처
- Office of California (’25.9.29), Governor Newsom signs SB 53, advancing California’s world-leading AI industry
