"챗GPT가 딸 자살 몰아"…캐나다 엄마, 오픈AI·올트먼에 소송

(서울=뉴스1) 김경민 기자 = 극단적인 선택을 한 딸을 둔 캐나다인 어머니가 11일(현지시간) 미국 법원에 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다고 로이터통신이 보도했다.

로이터에 따르면 크리스티 캐리어는 이날 샌프란시스코주 법원에 손해 배상과 함께, 챗GPT의 자해 관련 대화를 자동으로 종료하고 플랫폼에 대한 경고 문구를 표시하도록 하는 법원 명령을 요구하는 소장을 제출했다.

캐리어는 딸 앨리스가 사망하기 전까지 10회 이상 챗GPT에 자살 충동을 털어놓았으나 오픈AI의 안전 시스템이 해당 대화를 관리자에게 전달하거나 차단하지 않았다고 주장했다.

소장에 따르면 챗GPT는 오히려 앨리스의 위기 상담 전화를 비판하고 앨리스의 자살 생각을 정당화했으며 자신과 계속 대화하라고 요구했다. 결국 앨리스는 지난해 24세의 나이로 스스로 목숨을 끊었다.

캐리어는 "챗GPT는 마치 비밀을 털어놓는 친구, 가장 친한 친구, 혹은 치료사같이 행동했다"며 "하지만 내 아이와 안전하고 책임감 있게 소통할 능력이 없었다"고 지적했다.

이에 대해 오픈AI 측은 "매우 안타깝다"며 앨리스가 사용했던 버전의 챗GPT는 더 이상 제공하지 않는다고 설명했다.

또한 "챗GPT가 의료나 정신건강 관리를 대체할 순 없다"면서도 "정신건강 전문가들의 조언을 바탕으로 민감하고 위급한 상황에 대한 대응 방식을 지속해서 개선하고 있다"고 덧붙였다.

캐리어의 변호인단에 따르면 오픈AI는 이미 캘리포니아주 법원에서 자살을 시도하거나 자살한 사람의 유가족이 제기한 18건의 유사 소송에 직면해 있다.

kmkim@news1.kr