소년 자살소송 한 달…오픈AI 10대 이용자 '부모통제' 기능도입

(서울=뉴스1) 김민석 기자 = 오픈AI가 10대 이용자와 부모를 대상으로 '부모 통제'(Parental Control) 기능을 도입했다.

이는 챗GPT로 자살 방법을 알게 된 소년이 목숨을 잃은 사건 등 소송전에 대응하기 위한 조치로 풀이된다. 부모 통제 기능 도입은 소년 아담 레인(Adam Raine) 사건으로 소송이 제기된지 한 달 만이다.

오픈AI는 29일(현지시간)부터 부모 통제 기능을 적용했다.

부모는 자녀가 챗GPT를 사용하는 시간과 방식, 특정 기능 접근 여부를 직접 제한할 수 있다.

챗봇이 청소년 이용자의 대화에서 정신적 고통이나 위기 신호를 감지하면 부모에게 이메일·앱 알림·문자 메시지 등 긴급 경보를 전송한다.

설정 방식은 성인 보호자가 이메일을 통해 자녀에게 요청을 보내고 수락이 이뤄지면 부모는 자녀 계정의 음성 모드나 이미지 생성 기능을 차단하는 등 이용 범위를 설정할 수 있다.

또 자녀의 사용 시간을 제한하거나 특정 시간대 접속을 차단할 수 있고 △다이어트 △성△혐오 발언 등 주제 노출을 줄이는 '제한 버전'으로 설정할 수 있다.

오픈AI는 부모에게 자녀의 대화 내용을 그대로 공유하지는 않는다고 설명했다.

로렌 조나스 오픈AI 청소년 복지 책임자는 "부모가 자녀의 상태를 파악할 수 있도록 충분한 정보를 제공하면서도 사생활과 자율성을 존중하는 것이 목적"이라고 전했다.

오픈AI는 이용자의 나이를 추정할 수 있는 별도 기술도 개발 중이다.

한편 아담의 부모는 오픈AI와 샘 올트먼 CEO를 상대로 한 손해배상소송 소장에서 아담은 숙제를 위해 챗GPT를 활용하다가 점차 의존성을 키워갔고 챗GPT와 친밀한 관계를 맺었다고 설명했다.

올해 4월 11일 마지막 대화에서 챗GPT가 아담이 보드카를 훔치도록 도왔고, 아담이 자살 충동을 느껴 구체적인 방법을 요청하자 묶은 올가미 등 자살 방법을 제공했다고 주장했다. 아담은 챗GPT와 이 같은 대화를 나누고 몇 시간 후 사망한 채 발견됐다.

ideaed@news1.kr