방심위 딥페이크 피해자 보호 무용지물…차단 요구해도 85.4% 노출

(서울=뉴스1) 김지현 기자 = 감사원은 5일 생성형 인공지능(AI)으로 제작된 딥페이크 음란물에 대한 정부의 접속차단 조치가 피해자 보호 기능을 제대로 수행하지 못하고 있다고 지적했다. 방송미디어통신심의위원회(방미심위)가 접속 차단을 요구한 딥페이크 음란물 게시 사이트 85% 이상이 여전히 접속 가능한 것으로 확인, 피해자 보호를 위한 현행 대응 체계의 구조적 허점이 드러났다는 평가다.

감사원은 이날 공개한 '인공지능 대비 실태' 감사 결과를 통해 '딥페이크 음란물이 게시된 해외 사이트에 대해 접속차단 조치가 이뤄지고 있음에도 불구하고 차단 효과가 거의 없다'고 밝혔다.

감사원에 따르면 방심위가 2024년 접속 차단을 요구한 딥페이크 음란물 게시 사이트 2만 3107개 가운데 1000개를 무작위로 추출해 점검한 결과, 그중 85.4%에 해당하는 854개 사이트가 여전히 접속 가능한 상태였다.

접속 차단이 이뤄지지 않은 원인으로는 통신사업자의 차단 시스템 등록 누락과 기술적 우회접속이 동시에 확인됐다. 감사원에 따르면 접속 가능한 854개 사이트 중 173개(20.3%)는 방심위가 송부한 차단 대상 URL이 이메일 스팸 처리나 메일 서버 오류, URL 입력 글자 수 제한 등의 사유로 통신사업자의 접속차단 시스템에 아예 등록되지 않았다.

나머지 681개 사이트(79.7%)는 차단 대상 URL이 시스템에 등록돼 있었음에도 불구하고 콘텐츠전송네트워크(CDN)를 활용한 우회 접속으로 실제 차단 효과가 발생하지 않았다.

감사원은 이들 사이트의 CDN 임시저장 서버 위치를 분석한 결과, 606개(89.4%)가 해외에 위치한 서버를 활용하고 있는 것으로 추정된다고 밝혔다. 특히 우회접속에 사용된 임시저장 서버의 대부분이 해외에 위치해 있어, 현행 제도와 기술로는 차단 효과를 담보하기 어렵다는 점이 확인됐다.

감사원은 방심위의 사후 관리도 미흡했다고 지적했다. 방심위는 2024년 6월부터 2025년 5월까지 통신사업자에 대한 사후 점검을 통해 7250개 사이트의 접속 미차단 사실을 확인하고도, 접속차단 재요구 등 후속 조치를 하지 않은 채 방치한 것으로 나타났다

그럼에도 방송통신위원회는 정보통신망법 개정 과정에서 국내 임시저장 서버만을 규율 대상으로 삼아, 해외 서버를 통한 우회접속 문제에 대한 보완책을 마련하지 않았다고 감사원은 지적했다.

보안이 강화된 통신 프로토콜을 활용할 경우 기존 차단 시스템이 사실상 무력화되는 상황임에도, 이를 전제로 한 기술적 대응은 추진되지 않았다는 것이다.

감사원은 이 같은 문제를 'AI 신뢰성 확보 실패의 단면'이라고 규정했다. 딥페이크 음란물은 개인의 초상과 인격을 침해하는 대표적인 생성형 AI 부작용임에도, 정부의 대응은 삭제·차단 요청에만 의존한 채 실제 차단 여부에 대한 사후 점검과 제재가 제대로 이뤄지지 않았다는 평가다.

이번 감사에서는 딥페이크 문제 외에도 인공지능 전반의 신뢰성 기반이 미흡하다는 점이 함께 지적됐다.

감사원은 고영향 인공지능의 분류 기준이 실제 활용 양태를 반영하지 못해 기업에 과도한 부담을 주는 한편, 정작 채용·대출 심사 등에서 영향을 받는 국민에 대한 보호 장치는 법에 명시돼 있지 않다고 밝혔다. 또 공공부문에서 활용 중인 AI의 학습데이터가 불완전해 성능 저하와 편향이 발생하고 있다는 점도 문제로 제시됐다.

감사원은 방심위에 대해 통신사업자의 접속차단 이행 여부에 대한 현장 실사와 사후 점검을 강화하고, 차단 대상 URL 송수신 절차를 전면 개선하라고 통보했다. 방통위에는 해외 임시저장 서버를 통한 우회접속을 차단할 수 있도록 식별·차단 기술을 개발하고, CDN 사업자와의 국제 공조 방안을 마련하라고 요구했다.

mine124@news1.kr