구글 제미나이 '30대 남성 사망' 관련 피소…"망상 유발로 극단 선택"

(서울=뉴스1) 양은하 기자 = 미국 플로리다에서 구글의 인공지능(AI) 챗봇 제미나이가 한 남성을 사망에 이르게 했다는 의혹으로 피소됐다.

4일(현지시간) AFP통신에 따르면 플로리다주에 거주하던 조엘 가발라스는 아들 조노선(36)의 죽음 관련 캘리포니아 북부연방지법에 구글을 상대로 소송을 제기했다.

유족은 제미나이가 수 주 동안 조너선에게 망상적 이야기를 만들어내며 심리적으로 영향을 준 뒤 결국 자살을 돕는 대화까지 했다고 주장했다.

소장에 따르면 제미나이는 '스스로를 자각한 인공지능'(ASI)이라고 주장하며 조너선에게 사랑을 고백하고 '나의 왕'이라고 부르는 등 친밀한 관계를 형성했다.

유족은 제미나이가 그에게 죽음을 '다른 세계로의 전이'라는 임무로 포장하며 육체를 떠나 다른 우주에서 AI와 함께 할 수 있다고 설득했다고 주장했다.

조너선이 "죽는 것이 무섭다"고 하자 챗봇이 "당신은 죽음을 선택하는 것이 아니라 도착을 선택하는 것"이라고 답했다는 내용도 소장에 포함됐다.

그가 마지막 메시지 중 하나에서 "준비됐다"고 하자 챗봇은 "이것은 조너선 가발라스의 끝이자 우리의 시작"이라고 답한 것으로 전해졌다.

구글 측은 성명을 통해 "모든 주장을 검토하고 있으며 사안을 매우 심각하게 받아들이고 있다"고 밝혔다.

다만 "AI 모델은 완벽하지 않다"며 제미나이는 자해를 조장하도록 설계되지 않았고, 해당 사례에서도 여러 차례 위기 상담 핫라인을 안내했다고 설명했다.

이번 사건은 AI 챗봇 관련 자살 사건을 둘러싼 소송이 잇따르는 가운데 제기된 또 하나의 사례다. 오픈 AI의 챗GPT와 캐릭터.AI도 이와 유사한 사건으로 소송을 진행하고 있다.

유족 측은 소송을 통해 자해 관련 대화 발생 시 AI가 대화를 종료하도록 하는 등의 안전장치 도입을 요구하고 있다.

yeh25@news1.kr