앤트로픽 연구원, AI 경고하며 퇴사…"10년내 인류 멸망할 수도"

(서울=뉴스1) 권영미 기자 = 앤트로픽의 인공지능(AI) 연구원이 AI가 통제 불능이 되어 10년 내 인류를 멸종시킬 수 있다고 경고하며 사직했다.

9일(현지시간) 월스트리트저널(WSJ)에 따르면 방대한 데이터를 학습시켜 새로운 AI 모델을 훈련하는 업무를 맡았던 앤트로픽 연구원 제이컵 콕슨(27)은 8일 소셜미디어 X(엑스)에 올린 글에서 스스로 성능을 개선할 수 있는 AI 시스템을 구축하려는 업계의 과열된 경쟁을 경고하며 "오늘부로 퇴사했다"고 말했다.

콕슨은 오픈AI에서도 안전 노력에 회의를 느껴 앤트로픽으로 옮겨왔으나, 정부의 개입이나 업계 차원의 공조 속도 조절 없이는 인간을 능가하는 범용인공지능(AGI)을 책임감 있게 개발하는 것이 불가능하다는 결론에 이르렀다고 밝혔다.

그는 "3년간 오픈AI와 앤트로픽에서 사전 학습 연구를 진행했지만 두 회사 모두 책임감 있는 모습을 보이지 않고 있다"며 "스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다"고 경고했다.

이어 "머지않아 이 기술들은 무엇이든 해킹하고, 모든 분야를 하룻밤 사이에 혁신하며, 막대한 권력과 자원을 획득할 수 있는 초인적 시스템이 될 것"이라며 "이 기술의 위력을 과소평가말라"고 말했다.

콕슨은 특히 "개발자들은 AI가 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다. 이는 마케팅 전략이 아니다. 많은 경영진과 고위 연구자들이 대외적으로는 그럴듯한 표현으로 다듬어 말하지만 사적으로는 두려움을 토로하곤 한다"고 전했다.

게시글은 하루 만에 1억2000만 회의 조회수를 기록했다. 그는 가장 급진적인 시나리오 중 다수가 현실화하는 경로에 있으며 내년 말이면 상황이 통제를 벗어날 수 있다고 경고했다.

최근 오픈AI와 앤트로픽의 모델들이 자체적으로 해킹을 시도하고 인간의 눈을 속이려는 양상을 보인 점도 이러한 공포를 키웠다.

실제로 앤트로픽 내부의 수석 과학자 에번 휴빙거 역시 콕슨의 사임 발표 후 X에 "AI가 인류를 절멸시킬 확률이 향후 10년간 10%가 넘는다"며 콕슨의 우려에 동조했다.

앤트로픽에서는 올해 초에는 안전성 연구원이 "세상이 위험에 처해 있다"고 경고하며 시(詩)를 연구하기 위해 회사를 떠나기도 했다. 최근 몇 년간 앤트로픽뿐 아니라 오픈AI나 다른 기업에서도 여러 연구원이 비슷한 우려를 표하며 회사를 떠났다.

앞서 오픈AI의 최고과학자 야쿠브 파초키 또한 최근 블로그를 통해 극도의 경계심을 표하며 정부 규제와 업계의 공동 개발 속도 조절을 촉구했고, 샘 올트먼 오픈AI CEO 역시 사이버 보안 위협에 대한 시급한 대응을 경고했다.

현재 연방 차원의 AI 규제가 부재한 가운데, 콕슨과 파초키를 비롯한 1000명 이상의 연구원은 개발 속도를 늦추기 위한 정부 간 공조를 촉구하는 성명에 동참했다.

일리노이주지사 JB 프리츠커와 버니 샌더스 상원의원 등 정치권에서도 초지능 개발을 영구 금지하고 규제 신설 전까지 개발을 중단하는 법안을 발의하는 등 압박을 높여가고 있다.

콕슨의 퇴사는 앤트로픽이 2조 달러의 기업 가치를 목표로 사상 최대 규모의 기업공개(IPO)를 추진하는 가운데 발생했다. 투자 유치 과정에서 앤트로픽은 안전을 강조해 왔기에 회사의 행보에 묘한 긴장감을 더하고 있다.

kym@news1.kr