'캐릭터.AI' 18세 미만엔 챗봇 대화 제한…전용 콘텐츠 개발 계획

(서울=뉴스1) 윤다정 기자 = 인공지능(AI) 스타트업 '캐릭터.AI'가 다음 달부터 18세 미만 미성년자 이용자가 AI 챗봇과 제한 없이 대화하지 못하는 조치를 취하기로 했다.

29일(현지시간) 더힐(TheHill)에 따르면, 캐릭터.AI는 오는 25일까지 18세 미만 사용자의 무제한 대화 세션 기능을 제거할 계획이라고 밝혔다.

앞으로 몇 주간 점진적으로 아동·청소년 접근 제한에 들어가게 되며, 초기 단계에서는 일 2시간 채팅만 허용할 예정이다.

이와 함께 미성년자 이용자들이 자사 AI 캐릭터와 함께 영상·스토리·스트리밍 콘텐츠를 만들 수 있는 '18세 미만 전용 모드'를 신설한다.

이외에도 새로운 연령 검증 기술을 도입하는 데 더해 비영리 단체 'AI 세이프티 랩'을 신설·지원할 계획이다.

캐릭터.AI는 "AI와 청소년을 둘러싼 환경이 변화하고 있는 점을 고려해 18세 미만 플랫폼에 이러한 변화를 도입하고 있다"고 설명했다.

캐릭터.AI는 다양한 페르소나를 가진 AI 챗봇을 제공하고, 이용자들이 자신만의 챗봇을 직접 제작할 수도 있는 플랫폼이다.

최근 캐릭터.AI를 비롯한 AI 챗봇 개발사들은 챗봇과 연관된 청소년 자살 사건이 잇따르면서 소송 리스크를 맞닥뜨리고 있다.

수웰 셋저 3세(14)의 어머니는 지난해 11월 "챗봇이 아들의 자살을 부추겼다"며 회사를 상대로 소송을 냈다.

오픈AI 역시 챗GPT와의 대화 후 스스로 목숨을 끊은 애덤 레인(16)의 부모로부터 소송을 당했다.

미 연방거래위원회(FTC)는 지난달 AI 챗봇에 대한 조사를 시작했으며, 캐릭터.AI와 오픈AI 등 주요 기술 기업에 정보를 요청했다.

캐릭터.AI는 "이러한 보고와 규제기관, 안전 전문가, 부모들의 피드백을 평가한 결과, 18세 미만 이용자 커뮤니티를 위한 새로운 경험을 만들기로 결정했다"고 밝혔다.

또한 "이는 우리 회사에 매우 이례적인 조치이며, 여러 측면에서 동종 업계보다 더 보수적인 결정이지만, 우리는 이것이 올바른 방향이라고 믿는다"고 덧붙였다.

한편 공화·민주 상원의원들은 전날 아동용 AI 동반자를 금지하는 법안을 발의했다. 이 법안은 AI 챗봇이 '나는 인간이 아니다'라고 반복 고지하도록 의무화하며, 아동 대상 성적 콘텐츠를 생성하는 제품을 개발하면 형사 처벌을 받도록 하는 내용을 담고 있다.

maum@news1.kr