7개월간 419명 검거…경찰, 딥페이크 범죄 의뢰자까지 쫓는다

(서울=뉴스1) 이세현 기자 = 경찰이 올해 들어 7개월간 허위 영상물(딥페이크) 범죄 피의자 419명을 검거했다. 경찰은 진화하는 딥페이크 범죄에 대응하기 위해 탐지 소프트웨어와 과학수사 영상 분석, 인공지능(AI) 디지털 포렌식을 결합한 3중 대응체계를 가동하고 있다.

경찰청 국가수사본부는 올해 1월부터 7월까지 허위 영상물 범죄 피의자 419명을 검거하고 이 중 17명을 구속했다고 12일 밝혔다.

경찰은 지난 3월 해외 성인사이트에 자신의 사진을 합성한 성적 허위 영상물이 게시됐다는 피해 신고가 여러 지역에서 잇따르자 수사에 착수했다.

경찰청은 4개 시도경찰청에 접수된 사건의 증거를 확보하고 해당 사이트에 유포된 영상과 범행 계정에 대한 삭제 조치를 진행했다. 이후 딥페이크 탐지 소프트웨어로 영상물을 분석한 결과 여러 영상에서 동일한 특징을 확인했다.

경찰은 동일인이 여러 영상을 제작·유포했을 가능성에 무게를 두고 집중 수사를 벌였고, 20대 남성을 피의자로 특정해 검거한 뒤 구속 송치했다.

또 다른 사건에서는 SNS 계정을 통해 성 착취 허위영상물을 제작·판매한 20대 남성을 검거해 구속 송치한 뒤, 영상 제작을 의뢰한 인물에 대한 수사를 이어갔다. 경찰은 딥페이크 탐지 소프트웨어로 1차 분석을 한 뒤 AI 디지털 포렌식 기법을 적용해 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진까지 추가로 확보했다.

경찰은 이를 토대로 영상 제작을 의뢰한 사람의 범행 혐의까지 수사를 확대하고 있다.

경찰이 활용하는 딥페이크 탐지 소프트웨어는 얼굴 생성·교체 여부뿐 아니라 눈 깜빡임과 혈류 변화 등 생물학적 특징, 파일의 메타데이터 구조 등을 종합적으로 분석해 영상의 합성 여부를 판단한다.

국내 허위 영상물 탐지에 특화된 인공지능 모델도 탑재해 지속해서 성능을 개선하고 있다. 경찰에 따르면 개발 이후 현재까지 1636건의 수사에 활용됐으며, 올해에는 선거범죄 등 다른 수사 분야에서도 72건 활용되는 등 적용 범위를 넓히고 있다.

탐지 소프트웨어만으로 조작 여부를 명확히 판단하기 어려운 영상은 과학수사 영상분석관에게 넘겨 추가 검증한다.

AI 포렌식 기법을 활용하면 피의자가 어떤 AI 프로그램을 이용해 영상을 제작했는지, 영상의 어느 부분을 변경했는지 등을 분석할 수 있다. 경찰은 이를 통해 영상 제작부터 유포까지 범행 과정을 재구성하고, 추가 범행을 확인하거나 범행의 고의성을 입증하는 데 활용하고 있다.

경찰은 딥페이크 탐지 기술을 디지털 성범죄뿐 아니라 허위 정보 유포와 전기통신금융사기 등 AI를 악용하는 범죄 전반으로 확대 적용할 계획이다.

경찰은 지난 달 AI 기술을 활용한 성 착취물 탐지 및 증거서류 작성 자동화 프로그램을 자체 개발해 전국 시도경찰청과 경찰서 수사관들에게 배포하기도 했다.

국가수사본부 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위 영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 밝혔다.

sh@news1.kr