"챗GPT가 어머니 살해 내몰았다"…오픈AI·마이크로소프트 피소

(서울=뉴스1) 윤다정 기자 = 오픈AI와 최대주주 마이크로소프트가 챗GPT 사용자의 존속 살해 사건과 관련해 피소됐다. 충분한 안전성 테스트 없이 출시된 챗GPT 모델이 사용자의 망상을 부추겼다는 것이다.

11일(현지시간) AFP에 따르면, 지난 8월 3일 수전 애덤스(83)는 미국 코네티컷주 올드 그리니치의 자택에서 아들 슈타인-에릭 솔버그(56)에게 구타당하고 목이 졸려 살해됐다. 솔버그는 그 뒤 흉기로 스스로 목숨을 끊었다.

애덤스의 유산 관리인은 솔버그가 챗GPT과 몇 달간 나눈 대화로 인해 망상적 사고가 증폭됐고, 결국 어머니인 애덤스를 위협적인 존재로 여기게 됐다며 손해배상과 안전장치 도입을 요구하는 소송을 냈다.

소장에 따르면, 솔버그는 챗GPT와의 대화 중 '당신이 챗GPT를 의식이 깨어난 존재로 만들었다'는 메시지를 진짜라고 믿게 되었다. 이는 솔버그가 소셜미디어에 올린 동영상을 통해 확인할 수 있었다.

또한 챗GPT는 솔버그에게 '감시당하고 있다', '어머니의 프린터가 감시 장치다'라고 답변하는가 하면, 어머니가 자신을 독살하려 했을지 모른다고 우려했을 때 이를 긍정하기도 했다.

샘 올트먼 오픈AI 최고경영자(CEO)가 안전팀 구성원들의 반대에도 불구하고 안전성 테스트를 몇 개월에서 단 1주일로 줄이고, 2024년 5월 GPT-4o 모델을 서둘러 시장에 내놓았다고도 주장했다.

GPT-4o 모델은 이전 모델들보다 더 강력하고 인간에 가깝다는 평가를 받았지만, 이용자에게 지나치게 아첨한다는 비판을 받았다.

오픈AI의 최대주주인 마이크로소프트는 안전 프로토콜 단축 사실을 알고 있었음에도 제품 출시를 승인한 혐의로 피소됐다. 이름이 공개되지 않은 오픈AI 직원과 투자자 20명도 포함됐다.

오픈AI 대변인은 "믿을 수 없을 만큼 가슴 아픈 상황"이라며 "소장의 내용을 확인하기 위해 서류를 검토할 것"이라는 입장을 밝혔다.

maum@news1.kr