'AI 딥페이크' 불법 선거운동 기승…광주·전남서 1600건 적발

(광주=뉴스1) 최성국 기자 = 6·3 지방선거가 60여 일 앞으로 다가온 가운데 광주·전남에서 인공지능(AI)를 활용한 '딥페이크 불법 선거 운동'이 기승을 부리고 있다.

31일 광주·전남선거관리위원회에 따르면 선거일 120일 전부터 이날까지 광주 사이버공정선거지원단은 104건의 AI 활용 딥페이크 게시물을 적발해 삭제 등 조치를 취하도록 했다.

지원단은 존재하지 않는 가상 인물을 AI로 만들어 특정 후보자를 지지한다는 음향을 덮어씌운 딥페이크 영상도 적발했다고 밝혔다.

전남 사이버공정선거지원단이 이 기간 적발한 AI 활용 딥페이크 불법 선거물은 1500여건에 달한다. 지원단은 각종 온라인 커뮤니티, 입후보 예정자나 지지자 등 관련 블로그, SNS 등을 검색하며 AI를 활용한 선거 홍보물을 찾아냈다고 설명했다.

전남도선관위 관계자는 "허위 사실 공표 등 심각한 위반 사항은 없었지만, AI로 사진을 수정하는 등 정밀하게 이뤄진 것들이 대부분이었다"고 설명했다.

사이버공정선거지원단은 딥페이크 감별 프로그램과 전문가 자문 등을 거쳐 AI 활용 여부를 판가름하고 있다.

이런 가운데 딥페이크를 이용한 선거범죄는 단기간 선거에 중대한 영향을 미칠 우려가 있단 점에서 경찰도 예의주시하고 있다.

전남경찰청 사이버범죄수사대는 이날까지 2건의 딥페이크 선거범죄 신고를 받아 수사에 착수했다. 경찰은 특히 '특정 후보자를 비방하는 내용의 AI 영상을 제작해 온라인에 게시·유포했다'는 피해 신고와 관련해 직접 수사 중이다. 아직 입건자는 없다.

이번 지방선거일 90일 전인 이달 5일부턴 AI 생성물 표시 여부를 불문하고 누구든 선거운동을 위해 AI를 이용해 만든 딥페이크 영상·음향 등을 제작·편집·유포·상영·게시하는 등의 행위를 해선 안 된다.

stare@news1.kr