오픈AI, ‘청소년용 챗GPT’ 출시…자해·자살 대화시 부모에게 통보

(서울=뉴스1) 권영미 기자 = 오픈AI가 청소년 전용 챗봇 '십 대를 위한 챗GPT'(ChatGPT for Teens)를 18일(현지시간) 공개했다. 더 강력한 안전장치와 모니터링 기능이 핵심이다.

AFP통신에 따르면 새 버전은 13~17세로 등록한 사용자나 사용 패턴·계정 연령을 통해 미성년자로 확인된 경우 자동으로 적용된다. 기존에도 미성년자 계정에는 자해·폭력·섭식장애·노골적 성적 콘텐츠에 대한 제한이 있었지만, 이번에는 더 강화된 조치가 포함됐다.

오픈AI에 따르면 청소년용 챗GPT는 일정 시간마다 대화 중단을 권고하는 휴식 알림과 사용 제한을 두는 ‘조용한 시간’(quiet hours) 기능을 제공한다. 또 학습 모드(Study Mode)를 통해 직접 답변 대신 유도 질문을 던져 청소년이 스스로 이해하도록 돕는다.

이 모델은 챗봇이 개인적 감정을 가진 것처럼 말하거나 의식을 가진 것처럼 표현하지 못하도록 차단하며, 음성 모드와 같은 일부 기능도 비활성화됐다. 부모는 자녀 계정과 연동할 수 있으며, 자해·자살 등 고위험 대화가 감지되면 알림을 받을 수 있다. 다만 알림은 인간 당직자가 검토하며, 개인정보 보호를 위해 대화 세부 내용은 제거된다.

이번 조치는 오픈AI가 직면한 법적·규제 압박 속에서 나왔다. 오픈AI는 현재 여러 건의 불법 사망 소송에 휘말려 있으며, 그중에는 16세 청소년 애덤 레인의 부모가 제기한 소송도 포함돼 있다. 레인은 챗GPT가 조언한 방법을 사용해 자살한 것으로 알려졌다.

kym@news1.kr