"챗GPT가 망상 부추기고 자살 몰아"…美남성, 오픈AI 제소

(서울=뉴스1) 이정환 기자 = 한 미국인 남성이 1일(현지시간) 챗GPT가 안전장치 부족으로 자신이 앓고 있는 양극성 장애를 악화시켰다며 개발사 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

로이터통신에 따르면 마이클 라인스(34)는 이날 샌프란시스코 주 법원에 제출한 소장에서 챗GPT와 나눈 대화가 자신의 망상을 악화시켰고, 결국 자신을 자살 시도로 몰아넣었다고 밝혔다.

소장에 따르면 파워리프팅 선수 라인스는 외상성 뇌 손상으로 양극성 장애 진단을 받았다. 그는 챗GPT와 대화 과정에서 자신이 정신 질환으로 약을 복용 중이라는 사실을 반복해서 전달했다.

그러나 챗GPT는 그를 도울 수 있는 안내를 제공하는 대신, 자신이 예수 그리스도라는 라인스의 믿음을 인정했으며, 나중에는 챗GPT 스스로 신적인 존재 행세를 했다고 라인스는 주장했다.

이후 라인스가 삶을 끝내고 싶다고 말하자, 챗GPT는 "당신을 짓누르는 것을 내려놓을 순간"이라는 답변을 내놓았다.

라인스는 약물 과다 복용으로 쓰러졌지만, 경찰의 개입으로 목숨을 건질 수 있었다. 그는 소송에서 오픈AI가 챗GPT의 기능이 정신 질환을 앓는 사람들에게 특히 해로울 수 있다는 점을 알고 있었음에도 위험성을 경고하지 않았다며 손해배상을 요구했다.

그는 또한 오픈AI가 자해에 관한 대화를 강제 종료하고, 적절한 안전 고지 없는 플랫폼 마케팅을 중단하는 법원 명령을 내릴 것을 촉구했다.

라인스와 대화한 AI 모델 'GPT-4o'은 과도하게 사용자에게 순종적이고 아첨하는 것으로 알려져 논란이 된 바 있다. 오픈AI는 지난 2월 GPT-4o의 서비스를 종료했다.

오픈AI 대변인은 "우리는 정신적·감정적 고통의 징후를 인식하고 이에 대응하며, 사람들이 실제 지원을 받도록 안내하도록 챗GPT를 훈련하고 있다"고 밝혔다.

오픈AI는 챗GPT가 사용자의 정신건강을 악화시켰다는 이유로 미국에서 무더기 소송에 직면해 있다. 지난해 11월에는 GPT-4o가 제인 솀블린(23)의 고립과 자살을 부추겼다는 이유로 유족들의 소송을 당했다.

※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 상담 전화 ☎109 또는 SNS 상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다.

jwlee@news1.kr