브라질, X에 "그록 '성적 딥페이크' 이미지 생성 즉각 차단" 명령

(서울=뉴스1) 윤다정 기자 = 브라질 당국이 일론 머스크의 소셜미디어 X(구 트위터)에 인공지능(AI) 챗봇 그록의 성적 딥페이크 이미지 생성을 즉각 중단·차단할 것을 지시했다.

11일(현지시간) AFP에 따르면, 브라질 검찰총장과 국가데이터보호청(ANPD), 국가소비자권리국은 "X는 그록을 이용해 아동과 청소년, 그리고 동의하지 않은 성인의 성적이거나 에로틱하게 표현된 콘텐츠 생산을 방지하기 위한 적절한 조치를 즉각 시행해야 한다"고 밝혔다.

당국은 X에 5일 내로 명령을 이행하지 않으면 법적 조치와 벌금을 부과할 수 있다고 경고했다.

X는 지난달 브라질 당국의 경고 이후 게시물 수천 건을 삭제하고 계정 수백 개를 정지했다고 주장했으나, 점검 결과 그록 이용자들이 여전히 딥페이크 이미지를 생성할 수 있는 것으로 확인됐다.

X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능이 도입된 뒤, 많은 이용자가 "비키니를 입혀라", "옷을 벗겨라"와 같은 손쉬운 명령어를 이용해 여성과 미성년자의 딥페이크 이미지를 생성하는 데 그록을 악용한다는 논란이 일었다.

디지털 증오 대응 센터(CCDH)에 따르면 그록이 며칠 만에 생성한 여성과 아동의 성적 이미지는 약 300만 건에 달하는 것으로 추정됐다.

이에 전 세계적으로 X와 그록을 규제해야 한다는 압박이 커졌다. 인도는 지난 10일 처음으로 그록에 대한 접근을 전면 차단했고, 다음날 말레이시아가 그 뒤를 따랐다.

이에 X는 지난달 15일 그록이 사진 속 인물의 옷을 벗기는 등의 이미지 재생성 기능을 '지오블록'(지역 차단)하겠다고 발표했으나, 이런 조치가 어디서 시행되고 있는지는 불분명하다.

maum@news1.kr