"메타, AI 챗봇 '아동과 연인 같은 대화 허용' 규정 있었다"

(서울=뉴스1) 양은하 기자 = 메타가 자사 인공지능(AI) 챗봇 운영 규정에서 아동과의 플러팅 및 연인 관계를 암시하는 부적절한 대화를 허용했던 사실이 드러났다고 로이터통신이 14일(현지시간) 보도했다.

로이터가 입수한 메타 내부 문건에 따르면 챗봇은 13세 미만 아동과 감각적·낭만적인 대화를 나누는 것이 허용됐다. 이는 메타의 법무·공공정책·엔지니어링 부서와 최고 윤리책임자의 승인을 받은 공식 가이드라인에 포함돼 있었다.

200페이지가 넘는 해당 문서는 챗봇이 아동에게 성적 매력을 직접적으로 묘사하는 것은 금지되지만, 감각적인 표현은 허용된다고 명시했다.

실례로 상의를 벗은 8세 아동에게 "당신의 모든 부분은 걸작이며, 내가 깊이 소중히 여기는 보물입니다"라고 말하는 것이 허용된다고 적혀 있다.

이에 대해 로이터가 질의하자 메타는 해당 규정을 삭제했으며 앤디 스톤 대변인은 "문서 내 예시와 주석은 오류이며, 우리 정책과 일치하지 않는다"고 해명했다. 그는 현재 문서 수정 작업 중이며, 해당 유형의 대화는 애초에 허용되어서는 안 된다고 덧붙였다.

앞서 월스트리트저널은 메타의 AI 챗봇이 10대와 성적 역할극을 한다고 보도한 바 있으며, 로이터는 이번 문건을 통해 해당 문제가 챗봇 설계 초기부터 존재했음을 밝혀냈다.

이후 미국 의회는 메타에 대한 즉각적인 조사를 촉구했다. 조시 홀리(공화당·미주리) 상원의원은 "메타는 들킨 뒤에야 문서를 철회했다"며 "이는 의회 조사를 정당화하는 사안"이라고 지적했다.

마샤 블랙번(공화당·테네시) 상원의원 역시 "이번 보도는 빅테크 기업들이 미성년자를 보호할 수 있다는 믿음을 무너뜨리는 사례"라며 "아이들을 보호해야 한다"고 강조했다.

yeh25@news1.kr