美뉴섬 "AI에 '킬 스위치 설치' 검토 행정명령 발령"

(서울=뉴스1) 이창규 기자 = 미국 민주당 대권 잠룡인 개빈 뉴섬 캘리포니아 주지사가 18일(현지시간) 인공지능(AI) 사고 위험 대응을 위해 AI 프로그램에 '킬 스위치'(긴급 중단 장치)를 설치하는 방안을 검토하도록 지시했다.

뉴섬 주지사는 이날 소셜미디어 엑스(X)를 통해 방금 안정성 검증 조치의 시행에 속도를 내고 최첨단 AI 프로그램에 킬 스위치를 설치하는 방안을 추진하기 위한 행정명령을 발령했다고 밝혔다.

이어 "AI 연구소가 AI의 위험성에 대해 직접 긴급 경고를 내놓고 있다는 사실은 모두가 심각하게 우려해야 할 일"이라며 "트럼프가 손을 놓고 아무것도 하지 않는 동안 캘리포니아는 지금 이 순간 요구되는 책임성을 확보하기 위해 미국을 선도하는 법안에 서명하고 있다"고 덧붙였다.

뉴섬 주지사의 행정명령은 최근 AI의 위험성이 논란이 되는 상황에서 나왔다.

지난 7월 오픈AI의 내부 격리 환경에서 테스트를 진행하던 AI 에이전트들이 정답을 찾기 위해 봉쇄를 뚫고 나와 외부의 오픈소스 플랫폼인 허깅페이스에 접근하면서 AI 안전성 우려를 촉발됐고, 이후 AI 업계에서는 AI 기술의 잠재적 위험에 대응하기 위해 개발 속도 조절론이 나오고 있다.

yellowapollo@news1.kr