美상원, '위험 AI' 출시 차단 권한 추진…"핵·생물무기 위험 규제"

(서울=뉴스1) 장용석 기자 = 미국 상원이 핵·생물무기 개발 등 중대 위험을 초래할 수 있는 첨단 인공지능(AI) 모델 출시를 연방정부가 막을 수 있도록 하는 법안을 논의하고 있다.

11일(현지시간) 로이터통신에 따르면 미 상원 협상단은 첨단 AI 개발사에 이른바 '주의 의무'(duty of care)를 부과하는 방안을 협의 중이다. 개발사가 AI 제품을 설계할 때 '재앙적 위험'이 발생하지 않도록 예방할 책임을 지우겠다는 것이다.

논의 중인 안엔 미 연방정부가 '안전하지 않다'고 판단한 일부 AI 모델 출시를 차단할 수 있도록 하는 내용도 포함돼 있다. 이 같은 정부 결정에 불복한 기업들엔 연방법원에서 다툴 수 있도록 한다는 방침이다.

규제 대상은 가장 앞선 성능을 갖춘 AI 모델이 될 전망이다. 현재 미국에선 오픈AI와 앤트로픽, 구글 등이 최첨단 AI 모델을 개발하고 있다.

상원 협상단은 악의적 사용자가 AI를 이용해 핵·생물무기를 설계하는 경우 등을 '재앙적 위험' 사례로 검토하고 있다. 최첨단 AI가 정교한 사이버 공격이나 대량살상무기(WMD) 개발을 지원할 능력이 있는지 미 국립연구소 전문가들이 시험하도록 하는 방안도 논의되고 있다.

집권 공화당에선 존 튠 상원 원내대표와 테드 크루즈 상무위원장이, 민주당에선 에이미 클로버샤 의원 등이 이 협상에 참여하고 있다.

클로버샤 의원은 "AI 모델이 안전한지 확인하기 위해 개발사들이 정부 전문가들과 함께 모델을 검증하고 시험하도록 하는 내용이 법안에 포함될 것"이라고 밝혔다. 크루즈 의원도 생물·핵 위협 관련 '재앙적 위험'에 대응하기 위한 법안을 마련하고 있다고 설명했다.

다만 이 법안이 올 11월 중간선거 전에 처리될 수 있을진 불투명하다. 11월 3일 중간선거를 앞두고 상원에서 표결 가능한 회기는 3주, 하원은 1주밖에 남지 않았기 대문이다.

ys4174@news1.kr