'머스크 AI' 그록 딥페이크 파문에…영국 정부 "즉각 조처하라"

(서울=뉴스1) 강민경 기자 = 영국 정부가 일론 머스크의 사회관계망서비스(SNS) 플랫폼 엑스(X)의 성적인 딥페이크 이미지 생성에 대한 즉각적인 조치를 강하게 촉구했다.

AFP통신에 따르면 리즈 켄달 영국 기술부 장관은 6일(현지시간) 성명을 내고 "최근 온라인에서 목격된 일들은 문명사회에서 용납될 수 없는 끔찍한 일"이라며 "X는 이 문제를 시급하게 처리해야 한다"고 밝혔다.

이는 X에 통합된 인공지능(AI) 챗봇 그록이 여성과 아동의 이미지를 사용해 동의 없이 성적인 딥페이크 콘텐츠를 생성·유포하는 도구로 악용된 데 따른 대응이다.

영국은 지난해부터 '온라인안전법'을 본격 시행한 국가라 이번 경고의 무게가 남다르다. 온라인안전법은 플랫폼이 불법적이거나 유해한 콘텐츠로부터 사용자를 보호할 '보호 의무'를 갖도록 규정한다.

특히 이 법은 동의 없이 제작된 성적 이미지나 AI 딥페이크 유포를 우선순위 범죄로 다루며, 위반 시 영국 규제기관인 오프콤은 해당 기업의 전 세계 연간 매출의 10% 또는 1800만 파운드(약 352억 원) 중 더 큰 금액을 과징금으로 부과할 수 있다.

이번 사태는 지난달 말 X가 그록에 이미지 편집 기능을 도입한 후 걷잡을 수 없이 확산했다. 사용자들은 "비키니를 입혀 줘"와 같은 간단한 명령어로 특정 인물의 사진을 순식간에 성적인 이미지로 변환했다. 그 대상에는 미성년자까지 포함돼 파문이 커졌다.

유럽연합(EU) 집행위원회도 이 문제를 "매우 심각하게 검토하고 있다"고 밝혔으며, 인도 정부는 X에 72시간 내 시정 조치 보고를 명령했다. 프랑스와 말레이시아 등도 자체 조사에 착수하면서 그록 사태는 X의 운영에 중대한 위협으로 떠올랐다.

머스크와 X의 대응은 비판을 잠재우지 못하고 있다. 머스크는 "불법 콘텐츠 생성을 지시한 사용자는 직접 업로드한 것과 동일한 처벌을 받을 것"이라며 책임을 사용자에게 돌리는 듯한 태도를 보였다.

그록 개발사인 xAI 역시 "안전장치의 허점"을 인정했지만 문제의 이미지 다수가 여전히 플랫폼에 남아 있어 X의 콘텐츠 관리 체계에 대한 의구심이 커지는 상황이다.

pasta@news1.kr