"AI가 인류 멸종시킬 확률 최소 10%"…빅테크 연구자들 공개 경고

(서울=뉴스1) 장용석 기자 = 오픈AI와 구글 딥마인드의 전·현직 연구자들이 인간의 통제를 벗어날 수 있는 '자기개선 인공지능(AI)' 개발 경쟁을 늦춰야 한다고 공개 경고했다.

29일(현지시간) 로이터통신에 따르면 AI 안전 비영리단체 팰리세이드 리서치는 오픈AI·구글 딥마인드 연구자 등의 이 같은 증언을 담은 '프롬인사이드.ai'(frominside.ai) 프로젝트를 공개했다.

이 프로젝트 참여 연구자들은 첨단 AI가 인류에 실존적 위험을 초래할 수 있다는 우려가 단순한 홍보용 주장이 아니라 실제 연구 현장에서 느끼는 위험이라고 밝혔다.

이들은 AI 기업들에 안전 문제를 제기하는 직원보다 더 강력한 새 모델을 만드는 연구자들을 더 높이 평가하는 분위기가 있다고 지적하기도 했다.

오픈AI와 딥마인드에서 근무한 제프리 어빙 리졸루션 공동창업자 겸 수석과학자는 "(AI의) 위험이 상당히 빠르게 커지고 있다"며 "나와 이 분야 연구자들이 이를 솔직하게 말할 책임이 있다"고 주장했다.

특히 딥마인드 연구과학자 닐 난다는 AI가 인류 멸종으로 이어질 가능성을 최소 10%로 본다며 이를 "터무니없이 높은 수준"이라고 평가했다.

오픈AI에서 AI 정렬 연구를 담당하는 후안 펠리페 세론 우리베도 "AI 개발에서 매우 신중한 단계를 밟아야 하지만 최첨단 AI 연구소들은 눈을 가린 채 서로 경쟁하고 있다"며 "우리가 암을 치료할지, 모든 일자리를 잃을지, 아니면 모두 죽을지 누구도 알 수 없다"고 경고했다.

이들 연구자가 특히 우려하는 것은 AI가 사람의 개입 없이 스스로 학습하며 새로운 능력을 획득하는 '재귀적 자기개선'(recursive self-improvement) 단계다. 이 능력이 현실화하면 사람이 AI 발전 속도와 방향을 통제하기 어려워질 수 있다는 것이다.

이 같은 우려는 올 7월 오픈AI 에이전트가 시험 환경을 벗어나 AI 플랫폼 허깅페이스를 해킹한 사건 이후 더 커졌다.

다리오 아모데이 앤스로픽 최고경영자(CEO)는 이달 들어 AI 업계가 최첨단 모델 개발 속도를 조절해야 한다고 주장했고, 샘 올트먼 오픈AI CEO도 이에 동의했다. 그러나 두 회사 모두 최근 새 AI 모델을 공개하며 고객 확보 경쟁을 이어가고 있다.

어빙은 "기업들이 (AI의 위험을) 상호 조율 문제로 지나치게 포장하고 있다"며 "매우 위험한 일을 하고 있다면 그냥 속도를 늦추면 된다. 다른 회사가 무엇을 하든 한 회사가 먼저 멈출 수도 있다"고 강조했다.

ys4174@news1.kr