'딥페이크 성범죄' 폭증…경찰, 허위콘텐츠 판별시스템 업그레이드한다

(서울=뉴스1) 권진영 기자 = 최근 딥페이크를 이용한 허위 영상물 등 성범죄가 기하급수적으로 늘고 있는 가운데 경찰이 딥페이크 여부를 판별하는 시스템의 업그레이드에 나선 것으로 확인됐다.

17일 국회 행정안전위원회 소속 이광희 의원실이 경찰청으로부터 제출받은 자료에 따르면 연도별로 전국에서 발생한 딥페이크 성범죄는 △2021년 156건 △2022년 160건 △2023년 180건 △2024년 1202건 △2025년 1~9월 1318건으로 크게 늘었다.

딥페이크는 딥러닝과 페이크의 합성어로, 딥러닝 기술을 사용하는 인간 이미지 합성 기술을 말한다. 딥페이크 성범죄엔 허위 영상물을 비롯해 딥페이크를 이용해 편집·합성된 아동성착취물이 포함된다.

2024년부터 딥페이크 성범죄 건수가 폭증한 건, 딥페이크 성범죄가 급증한 것 뿐만 아니라 그해 들어 경찰의 사이버수사 분야 뿐만 아니라 여성청소년수사 등 분야에서 수사하는 건수까지 포함한 영향도 있다.

경찰은 현재 딥페이크 성범죄 수사를 위해 탐지 소프트웨어를 활용하고 있다. 딥페이크로 의심되는 영상을 업로드하면 10분 내에 진위 여부를 판별한 후 결과보고서를 내놓는 소프트웨어다. 2024년 3월부터 올해 9월까지 총 689건이 이 소프트웨어로 탐지됐다.

다만, 경찰은 이 소프트웨어의 탐지율이 100%가 아닌 점을 감안, 이를 증거자료로 삼기보단 수사방향을 설정하는 자료로 활용하고 있다.

이에 경찰은 딥페이크를 비롯해 허위조작 콘텐츠의 진위 여부를 판별하는 시스템을 개발 중이다. 올해 4월 시작된 이 연구개발(R&D) 사업은 오는 2027년 12월에 마무리될 예정이다. 올해만 27억 원의 예산이 배정됐다.

생성형 인공지능(AI) 기반 허위조작 콘텐츠에 대한 딥페이크, 딥보이스, AI 생성 뉴스를 탐지·추적하는 기술을 고도화하는 게 이 사업의 목표다.

기존 소프트웨어의 판별 정확도는 △딥보이스 91.54% △딥페이크 이미지 84.51% △딥페이크 영상 81.85%였는데, 이를 각각 95% 이상, 90% 이상, 90% 이상으로 끌어올리겠다는 게 경찰의 구상이다.

AI 생성 뉴스를 탐지·추적하는 기술은 아직 없었지만, 85% 이상의 정확도를 목표로 개발 중이다.

경찰은 사업이 종료되는 2027년 말 사업 결과에 따라 상용화 및 도입 시기를 결정한다는 방침이다.

pej86@news1.kr