앤트로픽 떠난 연구원 "AI 통제 잃을 가능성 커"…인류 멸종 경고

(서울=뉴스1) 장용석 기자 = 인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 떠난 연구원이 미국 뉴욕시의회 청문회에서 현재와 같은 개발 경쟁이 계속될 경우 인류가 AI 통제권을 잃을 가능성이 더 크다고 경고했다.

5일(현지시간) 블룸버그통신 등에 따르면 앤트로픽과 오픈AI에서 근무했던 AI 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 안전 청문회에 출석, "우린 아직 어떤 AI 시스템도 통제하는 방법을 모른다"고 말했다.

콕슨은 "현재 경로대로라면 인류가 AI 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크다"며 "이는 인류 멸종으로 끝날 수도 있다"고 경고했다.

그는 현재 AI 업계의 개발 방식이 위험 수준에 비해 "극도로 무모하다"고 비판했다.

콕슨은 실리콘밸리의 오랜 개발 문화에 대해 "기업들은 '빠르게 움직이고, 깨뜨리고, 나중에 고친다'는 스타트업 사고방식으로 움직인다"며 "그런 방식은 사진 공유 앱엔 통할 수 있지만 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다"고 말했다.

콕슨은 특히 인간의 능력을 뛰어넘는 AI 개발 경쟁 속도를 늦출 필요가 있다고 주장했다. 그는 지난달 앤트로픽을 퇴사하면서도 앤트로픽과 오픈AI가 스스로 성능을 향상할 수 있는 초지능을 향해 경쟁하며 "우리 목숨을 걸고 도박하고 있다"고 비판했다.

뉴욕시의회는 현재 AI 시스템에 사람이 작동시킬 수 있는 긴급 차단 장치인 이른바 '킬 스위치'를 의무화하는 방안도 검토하고 있다. 관련 법안은 뉴욕시에서 판매·제공·배치되는 AI 시스템에 사람이 시스템을 중단시킬 수 있는 장치를 갖추도록 하고, 제3자가 해당 장치를 비롯한 안전성을 검증하도록 하는 내용을 담고 있다.

콕슨은 '킬 스위치' 같은 장치만으론 충분하지 않다며 보다 근본적으로 최첨단 '프런티어 모델' 개발 속도를 조절할 필요가 있다는 입장이다. 그는 지난달 NBC 인터뷰에서도 현재의 AI엔 킬 스위치가 작동할 수 있지만 AI가 여러 시스템과 인터넷으로 확산할 경우 장기적 해결책이 되기 어렵다고 지적했다.

구글 딥마인드 연구원 출신 알렉스 터너도 이날 청문회에 화상으로 출석, AI 개발 경쟁을 미중 간 경쟁으로만 바라봐선 안 된다고 경고했다.

터너는 "중국만이 우리의 잠재적 적이 아니다"며 "우린 국내에서 우리 자신의 적, 즉 인간의 의도에 맞게 '정렬'되지 않은 AI를 만들고 키우기 위해 경쟁하고 있을 가능성이 상당히 크다"고 말했다. 'AI 정렬(alignment)'이란 AI가 인간의 의도, 가치, 목표에 부합하도록 행동하게 만드는 연구 분야를 뜻한다.

그는 "정렬되지 않은 AI는 우리 자신을 포함한 모든 사람의 적이며 언젠가는 중국보다 더 강력해질 수 있다"고 주장했다. 터너는 AI가 인류의 통제를 벗어날 가능성을 약 3분의 1로 추산한다는 견해를 밝혔다.

이날 청문회엔 오픈AI와 앤트로픽, 구글, 메타 관계자들도 화상으로 출석해 증언했다. 오픈AI와 구글, 앤트로픽은 시의회가 소환장 발부를 경고한 뒤 출석을 확정했으며, 메타는 이에 앞서 자발적으로 출석 의사를 밝혔다. 이들 관계자는 AI가 가져올 편익과 안전성 확보 노력을 강조했다고 현지 언론들이 전했다.

반면 일론 머스크의 스페이스XAI는 시의회의 소환장에도 청문회에 출석하지 않았다. 시의회는 스페이스XAI에 대한 소환장 집행을 위해 법원에 조치를 요청한다는 방침이다.

ys4174@news1.kr