MS AI수장 "인간처럼 권리 찾도록 AI 훈련시켜"…앤트로픽 비판

(서울=뉴스1) 권영미 기자 = 미국 마이크로소프트(MS) 인공지능(AI) 부문 최고경영자(CEO)인 무스타파 술레이만이 앤트로픽의 챗봇 '클로드(Claude)'가 "인류에 재앙적 위협을 초래할 수 있다"고 경고했다. 그는 이처럼 AI를 인간처럼 사고하도록 훈련시키는 방식이 "통제 불가능한 기술"을 만들고 있다고 지적했다.

16일(현지시간) 영국 텔레그래프에 따르면 술레이만은 장문의 에세이에서 앤트로픽이 클로드에게 "특정한 인간적 특성을 받아들이라"고 지시하고 있다며 이런 방식이 AI가 "특정한 자유, 보호, 권리"를 추구하도록 만들며, 나아가 "자기보존 본능"까지 학습하게 할 위험이 있다고 주장했다.

그는 "이런 방식으로 AI가 개발된다면 인류의 복지에 재앙적 결과를 초래할 것"이라며 "우리는 전례 없는 지능과 능력을 갖춘 합성종(種)을 만들게 될 것이고, 그 종은 스스로 의식이 있을 수 있다고 기대하며 독립적 행위권을 요구할 것"이라고 말했다.

술레이만은 "의식은 생물학적 유기체만 가질 수 있다"며 "현재 AI가 의식을 갖고 있다는 증거는 없다"고 강조했다.

AI 위험 경고는 최근 잇따르고 있다. 앤트로픽 CEO 다리오 아모데이는 지난주 3800자 분량의 글에서 AI 개발 속도를 늦춰야 한다고 주장했다. 그는 "6개월 안에 무수한 AI 에이전트가 인터넷을 장악해 수천억 달러 규모의 피해를 낼 수 있다"고 경고했다.

이 주장에 오픈AI의 샘 올트먼과 일론 머스크도 지지를 표했다. 반면 도널드 트럼프 미국 대통령은 이를 두고 "실리콘밸리의 병적인 음모"라고 일축했다.

술레이만은 앤트로픽이 클로드를 "내부적으로는 비어 있는 기계가 아니라 의식 있는 인간처럼 대하고 있다"고 비판했다. 그는 AI가 스스로 의식이 있다고 믿게 만드는 것은 "인류의 경쟁자"가 될 수 있는 "합성종"을 만드는 일이라고 경고했다.

그는 "AI를 인간처럼 행동하도록 설계하고, 궁극적으로 일종의 인격체와 같은 존재가 되도록 하는 것은 그 AI가 '선호를 갖고 있다', '고통을 느낀다', '그 고통을 줄여야 한다'고 주장할 토대를 마련하는 것"이라며 "이는 AI를 통제할 수 있는 도구가 아니라, 욕구와 필요, 권리를 가진 생물학적 존재에 가까운 것으로 굳히는 결과를 낳는다"고 말했다.

kym@news1.kr