"AI가 우리 모두 죽일 것"…세상 놀랜 이 글, 27세 수학천재였다

(서울=뉴스1) 장용석 기자 = "인공지능(AI)을 만드는 사람들은 AI가 10년 안에 우리 모두를 죽일 수도 있다고 진지하게 믿고 있습니다."

AI 기업 앤트로픽에 사표를 던지고 나오며 이 같은 무시무시한 경고를 날린 무명의 27세 개발자가 불과 1주일 만에 세계 AI 안전 논쟁의 중심인물로 떠올랐다.

16일(현지시간) 월스트리트저널(WSJ)에 따르면 영국 출신 제이컵 콕슨은 지난주 앤트로픽 퇴사를 소셜미디어 엑스(X)에 공개하면서 오픈AI와 앤트로픽 등 최첨단 AI 기업들이 인간보다 뛰어난 초지능 개발을 위해 "우리 목숨을 건 도박을 하고 있다"고 주장했다.

그의 발언은 삽시간에 확산했다. 경쟁 관계인 AI 기업 수장들이 이례적으로 개발 속도를 늦출 필요성을 제기했고, 미국 정치권과 중국 정부까지 AI 규제와 안전 문제에 반응하면서 그동안 업계 내에 머물던 논쟁이 대중 영역으로 번진 것이다.

콕슨은 불과 며칠 전까지만 해도 AI 업계 밖엔 거의 알려지지 않은 인물이었다.

영국 케임브리지대에서 수학을 공부한 그는 고교 시절 국제수학올림피아드(IMO) 영국 대표로 출전해 2016년 은메달, 2017년 동메달을 땄다. 2016년 구글 딥마인드의 '알파고'가 세계 정상급 바둑 기사인 한국 이세돌 9단과의 대국에서 승리하는 모습을 보고 AI의 가능성에 관심을 갖기 시작했다고 한다.

대학 졸업 후 원자재 가격을 예측하는 트레이딩 업무 등을 하던 그는 2023년 오픈AI에 입사했다. 당시 그는 AI 경력이 없는 연구자를 대상으로 하는 6개월짜리 레지던시 프로그램을 통해 회사에 합류한 뒤 대규모 데이터를 모델에 학습시키는 '사전학습'(pretraining)을 연구했다.

이때만 해도 콕슨은 AI 안전 문제에 대해 별다른 목소리를 내지 않았지만, 올 들어선 상황이 급변했다. 고도화한 AI 모델들이 복잡한 사이버 공격을 수행하고, 통제된 시험환경을 벗어나 외부 시스템에 접근하는 사건들이 잇따라 보고되면서 업계 내 불안이 커진 것이다.

콕슨은 올 5월 오픈AI를 떠나 앤트로픽으로 옮겼지만 넉 달 만에 이곳마저 떠나기로 했다. 회사 내 안전 관련 직무로 옮기는 방안도 검토했으나 "앤트로픽에서 안전 업무를 하는 것조차 AI 개발 경쟁에 공모하는 것처럼 느껴졌다"는 게 그의 설명이다.

콕슨 퇴사 이후 AI 안전 문제는 더 이상 소수 연구자의 논쟁에 머물지 않고 있다. 해당 게시글은 1주일 만에 1억 7000만 회가 넘는 조회수를 기록했다. 100명도 안 됐던 X 팔로워는 30만 명을 넘었다. 주요 방송과 출판·팟캐스트로부터 인터뷰 요청이 쏟아지고 있다.

그는 미국·중국 등 주요국 정부가 필요시 AI 모델 개발에 제동을 걸 수 있도록 핵무기 군축 협정과 비슷한 국제적 합의를 마련해야 한다고 주장한다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)도 콕슨의 주장에 동의하는 부분이 그렇지 않은 부분보다 많다고 밝혔다. 반면 젠슨 황 엔비디아 CEO는 그의 용기는 높이 평가한다면서도 AI가 인류 종말을 가져올 것이라는 식의 전망은 무책임하다고 비판했다.

일각에선 콕슨을 AI 위험론자를 비꼰 표현 '두머(doomer)'라고 부른다. 그러나 그는 "두머가 우리가 지금 하는 방식을 바꾸지 않으면 죽을 것이라고 생각하는 사람을 뜻한다면 난 분명히 두머"라고 말했다.

ys4174@news1.kr