선거철 딥페이크 가짜뉴스 차단…행안부·국과수 AI 탐지 모델 도입

(서울=뉴스1) 한지명 기자 = 정부가 인공지능(AI)을 활용해 선거 과정에서 확산되는 딥페이크 가짜뉴스 대응에 나섰다. 행정안전부와 국립과학수사연구원이 공동 개발한 AI 딥페이크 탐지 분석 모델을 오는 6월 3일 실시되는 제9회 전국동시지방선거에 적용해 허위·조작 정보 대응에 활용한다.

행정안전부는 10일 정부서울청사에서 'AI 딥페이크 탐지 분석 모델' 시연회를 열고 해당 기술을 중앙선거관리위원회에 지원해 선거 과정에서 활용할 계획이라고 밝혔다.

최근 생성형 인공지능 기술 발전으로 특정 인물의 얼굴이나 음성을 정교하게 합성한 딥페이크 콘텐츠가 빠르게 확산되면서 선거 과정에서 허위 정보로 악용될 수 있다는 우려도 커지고 있다.

중앙선거관리위원회에 따르면 선거 기간 딥페이크 영상 삭제 요청은 2024년 제22대 총선 당시 388건에서 2025년 대선에서는 1만 510건으로 크게 증가했다.

윤호중 행정안전부 장관은 이날 시연회에서 "인공지능 기술은 하루가 다르게 발전을 거듭하면서 우리 사회 곳곳에 새로운 가능성을 만들고 있다. 하지만 그 이면에서 '딥페이크'와 같은 위협도 슬며시 얼굴을 내밀고 있다"고 말했다.

이어 "특히 선거를 앞둔 요즘과 같은 시기에는 딥페이크 기술이 악용되어 만들어진 가짜 뉴스가 국민의 판단을 흐릴 위험이 더욱 커진다"고 강조했다.

윤 장관은 또 "딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄"라며 "왜곡된 정보로부터 유권자의 올바른 판단과 권리를 보호하는 것은 정부의 중요한 책무"라고 말했다.

행안부와 국과수는 2024년부터 AI 기반 딥페이크 탐지 분석 모델을 공동 개발해 왔다. 딥페이크 탐지 기술은 이전 선거에서도 일부 활용된 바 있으나, 이번 모델은 탐지 정확도를 높인 고도화 버전이라는 설명이다.

특히 영상 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위를 정밀하게 판별하는 '국소 분석'을 동시에 진행해 조작 여부를 판단하는 방식이다.

최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며 검증 결과 약 92% 수준의 높은 탐지 정확도를 기록했다. 이는 기존 모델 탐지율(76%)보다 크게 향상된 수치다.

이번 탐지 모델은 지난해 열린 '딥페이크 범죄 대응 AI 탐지 모델 경진대회' 성과를 바탕으로 개발됐다. 당시 대회에는 268개 팀, 1077명의 AI 전문가가 참여했으며 행안부와 국과수는 우수 모델을 선발해 탐지 시스템에 활용할 계획이다.

윤 장관은 "6월 지방선거를 앞두고 인공지능을 악용한 허위정보 확산에 범정부 차원의 대응이 필요한 시점"이라며 "딥페이크로 의심되는 이미지나 영상이 포착됐을 때 과학적 분석을 통해 조작 여부를 신속히 확인하고 관계기관이 함께 필요한 대응을 적시에 하겠다"고 말했다.

이어 "AI는 민주주의를 위협하는 '창'이 아니라 민주주의를 지키는 '방패'가 되어야 한다"며 "정부는 인공지능을 국민 보호와 공정한 사회 구현에 활용하는 'AI 민주정부'를 만들어 가겠다"고 설명했다.

또 "앞으로도 선관위, 경찰청, 국과수 등 관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하고 국민이 신뢰할 수 있는 공명선거 환경을 만들겠다"고 말했다.

hjm@news1.kr