"AI기업에 투명성 보고의무"…美캘리포니아 첫 'AI 규제법' 시행

(서울=뉴스1) 김민석 기자 = 미국 캘리포니아에서 인공지능(AI)·플랫폼 기업에 AI 투명성 보고 의무를 부과하는 규제 법안 'SB53'이 시행된다.

개빈 뉴섬 캘리포니아주 주지사는 29일(현지시간) 일반인의 대형 AI 모델 남용을 금지하는 내용을 담은 SB53 법안에 최종 서명했다.

뉴섬 주지사는 성명을 통해 "캘리포니아는 성장하는 AI 산업의 지속적인 번영을 보장하는 동시에 우리 지역 사회를 보호하기 위한 규제를 제정한다"고 말했다.

법안은 주요 테크 기업에 AI 관련 안전 사고를 보고하도록 하고 투명성을 충족하기 위한 각종 의무를 부과하는 것을 골자로 한다. 또한 대형 AI 모델이 화생방 무기 개발이나 금융시스템 마비 등 대규모 피해로 이어질 수 있는 위험에 악용되지 않도록 차단해야 한다는 내용도 포함한다.

이에 AI 기업들은 자사 최신 모델이 악용되지 않도록 안전 규칙을 마련하고 이를 공개해야 한다.

법안은 AI에 따른 피해를 △최소 10억 달러 규모 경제적 피해 △50명 이상 사상자 발생시킬 수 있는 전력망 사이버 공격 등으로 규정했다.

인명 피해 사건 또는 안전 위협 우려 시 기업은 15일 이내 주정부에 보고해야 하고, 공익 제보자 보호 조항도 포함됐다.

지난해 8월 캘리포니아 의회는 AI 제품에 안전 테스트를 강제하는 법안인 'SB1047'을 통과시켰지만 뉴섬 주지사의 거부권 행사로 법안이 제정되지 못했다.

이후 의회는 피해 금액 및 사상자 기준을 명확하게 정의한 SB53을 재통과시켰고 뉴섬 주지사도 최종 서명했다.

CNBC는 "세계 상위 50대 AI 기업 중 32곳이 캘리포니아에 본사가 있다"며 "이 법은 전 세계에 큰 영향을 미칠 것"이라고 보도했다.

캘리포니아주는 SB53 법안 외에도 미성년자와 취약 계층을 보호하기 위해 AI 챗봇을 규제하는 데 초점을 맞춘 AI 규제 법안 'SB243'도 추진 중이다.

ideaed@news1.kr