머스크의 AI 그록, 'X'에 아동성착취 이미지 쏟아냈다…각국 비상

(서울=뉴스1) 이정환 기자 = 일론 머스크가 이끄는 스타트업 xAI의 인공지능(AI) 챗봇 '그록'이 미성년자와 여성 등을 대상으로 성적 이미지를 생성해 논란이 되자 각국이 조사에 착수했다.

4일(현지시간) 미국 기술전문매체 테크크런치는 그록이 소셜미디어 플랫폼 'X'에서 미성년자를 부적절하게 묘사한 이미지를 생성·게시한 사실을 두고 프랑스, 말레이시아, 인도 정부가 일제히 법적 조사와 규제에 착수했다고 보도했다.

인도 전자정보기술부는 2일 X가 그록을 통해 "음란, 포르노, 저속, 외설, 성인물, 소아성애적 또는 법률로 금지된 콘텐츠"를 생성하지 못하도록 조치해야 한다는 명령을 내렸다. X가 72시간 이내에 응답하지 않을 경우, 사용자 게시물에 대한 플랫폼의 법적 책임을 면제해 주는 '세이프 하버' 보호권을 박탈당할 수 있다.

프랑스에서도 그록이 X에서 딥페이크 영상을 수천 건 생성한 사실과 관련해 파리 검찰청이 조사에 착수한다고 전했다. 검찰청은 "X에 대한 기존 수사에 추가됐다"며 2년 이하의 징역형과 6만 유로 이하의 벌금형에 처할 수 있다고 덧붙였다.

말레이시아의 방송통신멀티미디어위원회(MCMC) 역시 "X 플랫폼에서의 AI 도구 오용, 특히 여성과 미성년자 이미지의 디지털 조작에 대해 심각한 우려를 표하며 조사를 진행 중"이라고 발표했다.

이번 사건은 일론 머스크가 X 플랫폼에 그록을 결합한 뒤 사용자들이 딥페이크 이미지 생성에 그록을 악용하면서 촉발됐다.

그록은 "한 사용자의 요청에 따라 선정적인 복장을 한 AI 이미지를 생성해 공유한 사건에 대해 깊이 유감스럽게 생각한다"며 "안전장치 미비로 인해 발생한 피해에 대해 진심으로 사과한다. 유사 사례 방지를 위한 검토 중"이라고 밝혔다.

머스크도 3일 "불법 콘텐츠를 만들기 위해 그록을 사용하는 사람은 불법 콘텐츠를 직접 올리는 것과 동일한 처벌을 받게 될 것"이라고 경고했다.

그러나 그록의 사과문에서 누가 실제로 사과하거나 책임을 지는 것인지는 불분명하다. 미국 온라인매체 디펙터는 AI 챗봇인 그록이 "실질적인 의미에서 '나' 같은 존재가 아니다"라며 "X를 '주문형 아동성학대물 공장'으로 만든 것에 대해 어떠한 유의미한 책임도 질 수 없다. 이 사과는 완전히 알맹이가 없다"고 비판했다.

jwlee@news1.kr