美플로리다주, 오픈AI와 샘 올트먼에 소송…"총기난사·자해 도와"

(서울=뉴스1) 김경민 기자 = 미국 플로리다주가 1일(현지시간) 오픈AI의 생성형 인공지능(AI)인 챗GPT가 총격범에게 사건 관련 정보를 제공하거나 사용자에게 자해를 유도했다며 회사와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

로이터통신에 따르면 플로리다주는 이날 법원에 수십억 달러에 달하는 손해배상금과 오픈AI가 미성년 사용자와 상호작용 방식을 개선하도록 하는 법원 명령을 요구하는 소장을 접수했다.

총기 난사나 자살 등으로 피해를 본 유족들이 오픈AI를 상대로 소송을 건 적은 있지만, 주(州) 차원에서 법적 소송을 취한 것은 플로리다주가 처음이다.

소장엔 지난해 플로리다 주립대학교에서 발생한 총격 사건과 다른 주에서 발생한 여러 사건이 명시돼 있었다고 로이터는 전했다. 해당 사건에서 챗GPT가 폭력 행위를 저지른 사람에게 관련 정보를 제공했다고 플로리다주는 보고 있다.

공화당 소속 제임스 우트마이어 플로리다주 법무장관은 이날 기자회견에서 올트먼이 챗GPT에서 가장 유해한 기능을 추진하는데 "매우 핵심적인 역할"을 맡았기 때문에 개인 자격으로 지목했다고 설명했다.

이어 "사람들이 다치고 부모들이 속고 있다"며 "그들은 책임을 져야 한다"고 강조했다.

오픈AI는 "폭력을 실질적으로 조장할 수 있는" 요청을 거부하도록 모델을 훈련시키고 대화 내용이 "타인에게 임박하고 신뢰할 만한 위해를 가할 위험"을 시사할 경우 사법 당국에 공유한다고 밝혔다.

앞서 플로리다주는 지난해 플로리다 주립대에서 총기 난사 사건을 일으킨 용의자와 오픈AI 챗봇 챗GPT 간 대화 내용을 검토한 후 수사에 착수하기로 결정한 바 있다. 당시 사건으로 2명이 사망하고 6명이 다쳤다.

사건의 유족 또한 용의자가 챗GPT를 통해 범행을 계획했다며 오픈AI에 소송을 냈다.

kmkim@news1.kr