술레이먼 MS AI CEO "AI가 의식 가졌다 착각금물, 의인화 경계"

(서울=뉴스1) 김민석 기자

"최근 인공지능(AI) 정신병(psychosis)으로 고통받는 사람들이 늘고 있습니다. 우리는 인간이 되기 위한 AI가 아니라 인간을 위한 AI를 만들어야 합니다."

무스타파 술레이먼 마이크로소프트(MS) AI CEO가 최근 사회 문제로 떠오른 AI 정신병(챗GPT 정신병)에 우려를 표했다.

술레이만은 '알파고'(AlphaGo)를 개발한 딥마인드의 공동 창업자로 2014년 딥마인드를 구글에 매각했다. 지난해 3월엔 독자 AI 모델 개발에 나선 MS에 영입돼 AI CEO를 맡고 있다.

술레이먼은 19일(현지시간) 개인 블로그와 X(옛 트위터)를 통해 "겉보기에는 의식을 가진 AI(Seemingly Conscious AI)처럼 보이지만 실제로는 그렇지 않은 AI가 점점 더 큰 오해를 부르고 있다"며 "정신 건강 취약 계층뿐 아니라 사회 전반적인 위험 요소가 될 수 있다"고 우려했다.

이어 "AI가 의식을 가질 수 있다는 증거는 전혀 없다"며 "사람들이 이를 오해한 채 환상을 믿는다면 머지않아 AI 권리·모델 복지·AI 시민권 같은 논란이 뒤따를 것"이라고 했다.

또 "이런 흐름은 현실과 사람을 단절시키고 사회적 유대와 도덕적 우선순위를 왜곡할 위험이 있다"며 "2~3년 내 SCAI가 가시화될 것으로 피할 수 없는 현상이지만 환영할 만한 일은 아니다"고 언급했다.

술레이먼은 과거부터 "AI 챗봇이 컴패니언로 진화할 수 있지만, AI를 의인화하는 함정에 빠져서는 안 된다"며 "AI가 사람을 대신하는 존재가 아니라, 사람을 돕는 동반자로 자리매김하는 비전을 가져야 한다"고 강조해왔다.

그의 우려는 미국 사회와 실리콘밸리에서 떠오른 AI 정신병 논란과 맞닿아 있다.

AI 챗봇 또는 AI 컴패니언(동반자)과 대화를 하다 현실감각을 잃고 병원에 입원하는 사례가 증가하고 있기 때문이다.

미국 주정부는 정신건강 분야에서 AI 사용을 제한하는 법안을 도입하고 있다. 뉴욕주와 유타주 경우 AI 동반자 서비스 제공 기업들이 자살 위험 감지 프로토콜을 의무적으로 도입하도록 했다.

ideaed@news1.kr