"딥페이크 잡아낸다"…행안부, AI 감정 기술 수사 현장 투입

(서울=뉴스1) 구진욱 기자 = 정부가 새롭게 개발한 딥페이크 영상·음성 등 디지털 변조 콘텐츠를 자동으로 판별하는 인공지능(AI) 기반 분석모델을 처음으로 수사 현장에 투입한 결과, 실제 감정 업무에 효과적으로 활용된 것으로 나타났다.

30일 행정안전부에 따르면, 행안부는 전날(29일) 정부세종청사에서 열린 '제9회 정책설명회'를 통해 국립과학수사연구원과 공동 개발한 'AI 딥페이크 분석모델'의 구축 과정과 적용 성과를 공개했다.

이 모델은 지난 4월까지 개발과 검증을 마치고, 5~6월 약 두 달간 경찰청 등 수사기관에 시범 적용돼 15건(증거물 60종)의 딥페이크 감정에 활용됐다. 특히, 21대 대통령선거 당시 중앙선거관리위원회에 분석 모델을 공유해 유튜브 등 온라인 플랫폼에서 불법 선거물 1만508건을 탐지·삭제하는 데 기여했다.

이번 모델은 딥페이크 여부를 정량적 수치로 분석해 수사기관이 객관적인 판단을 내릴 수 있도록 돕는다. 특히, AI 기반 분석은 영상 내 눈·코·입 등 주요 부위 변조 여부와 시간대별 합성 확률을 자동 추출해 판단한다.

국과수에 따르면 해당 모델은 영상 69만 건, 음성 162만 건 등 약 231만 건의 데이터를 학습한 뒤 최신 딥러닝 알고리즘을 적용해 탐지 정확도를 영상 94.98%, 음성 86.2% 수준까지 끌어올렸다.

감정 과정은 AI 자동분석과 육안 검사 병행 방식으로 이뤄지며, 분석 결과는 정량화된 리포트 형태로 수사기관에 전달된다. 국과수는 이미 감정 표준운영절차(SOP)를 마련해 수사기관의 요청에 따라 정식 감정업무를 수행 중이다.

표준운영절차(SOP, Standard Operating Procedure)는 특정 업무나 절차를 일관되게 수행하기 위해 정해진 표준화된 단계별 지침을 뜻한다.

행안부는 이번 모델을 2023년 개발한 '보이스피싱 음성 분석모델'과 연계해 활용할 계획이다. 이를 통해 특정 정치인의 실제 음성과 딥페이크 음성 간 유사성을 정량적으로 비교하고, 공직선거법 제82조의8에서 금지한 '실제와 구분이 어려운 딥페이크 선거물' 여부 판단에 결정적 증거로 활용할 수 있다는 설명이다.

공직선거법 제82조의8은 지난 2023년 12월 개정을 통해 신설된 조항으로, 딥페이크 영상 등을 이용한 허위사실 유포 및 선거운동을 금지하는 규정이다. 개정안에서 규정하는 딥페이크 영상은 구체적으로 실제와 구분하기 어렵도록 제작된 영상·음성·이미지 파일 등도 포함된다.

정부는 향후 국과수 내부 시스템인 디지털증거물인증시스템(DAS)과 분석모델을 통합해 감정 요청과 분석, 회신 과정을 자동화할 방침이다. 수사관이 직접 DAS 내에서 1차 분석을 수행하고, 필요시 국과수에 정밀 감정을 의뢰하는 방식으로 업무 효율성을 높인다는 구상이다.

딥페이크 감정 업무가 국과수 내에서 정식 체계로 운영되는 것은 이번이 처음이다. 국과수는 그동안 위·변조 감정에서 연간 100건 이상을 처리해왔지만, 딥페이크 감정은 기술 부재로 수행하지 못했다.

기존의 동영상 위·변조 감정은 대조파일이 존재할 때에만 제한적으로 비교 감정이 가능하며, 인터넷 수집 자료 등은 원본 영상이 아닌 경우 파일 정보가 손상돼 감정이 불가한 경우도 많았다.

그러나 이번 분석모델은 대조파일이 없는 경우에도 딥페이크 여부를 자동으로 감정할 수 있어 기존 수사 방식의 한계를 획기적으로 보완했다. 올해 상반기 감정 15건은 모두 AI 모델 도입 이후 분석된 결과다.

이와 함께 행안부는 여성가족부, 방송통신위원회 등 유관기관에도 분석모델을 보급해 딥페이크 성범죄·허위정보 대응 역량을 강화할 계획이다.

이봉우 국립과학수사연구원장은 "AI 기반 과학수사로 감정의 신속성과 정확성을 높이고, 첨단 디지털 범죄에 선제적으로 대응하겠다"고 말했다. 이용석 행안부 디지털정부혁신실장은 "AI 기술을 사회문제 해결에 적용한 대표 사례"라며 "앞으로도 국민 안전과 민생 안정을 위해 AI 행정을 적극 추진할 것"이라고 밝혔다.

kjwowen@news1.kr