[기자의 눈]검경, AI 범죄와의 '속도전' 준비됐나

(서울=뉴스1) 윤주영 기자 = 6·3 지방선거를 4개월 앞둔 지난 2월, 한 울산남구청장 예비후보가 홍보 영상을 통해 "미국 타임지에 선정된 인물"이라며 가짜뉴스를 퍼트렸다가 과태료를 받은 사건이 있었다. 문제의 홍보 영상은 인공지능(AI) 기반 딥페이크 영상이었다. 그러나 AI 제작 표시가 없었다.

그야말로 AI를 만나 범죄가 진화하고 있다. 지인·아동 등을 합성한 딥페이크 성 착취물은 익히 알려진 문제고, 선거철 민의를 왜곡하는 가짜뉴스도 기승을 부린다.

보이스피싱도 AI를 만나 교묘해졌다. 울고 있는 아이의 음성을 AI로 합성해 부모를 속이는 신종 수법도 올해 보고됐다.

수사기관도 손 놓고 있지는 않다. 경찰은 조서 작성 등을 돕는 수사지원 AI를 고도화해 연간 300만 건이 넘는 사건에 효율적으로 대응하겠단 계획이다. 검찰도 딥페이크 가짜 뉴스·성 착취물을 식별하는 위변조 탐지 기술을 연구개발(R&D) 중이다.

관건은 시시각각 변해가는 AI 활용 범죄의 속도를 수사기관이 따라가느냐다. 수사기관은 공공기관으로서 제약을 받아 속도전을 치르기 다소 버거운 상황이다. 범죄자들과 달리 AI를 적극 실전에 투입하기 어렵다는 지적이다.

민감한 데이터를 다루는 기관 특성상 민간의 고성능 상용 모델을 그대로 활용하기 힘들다는 의미이다. 보안·개인정보 보호법 등에 저촉될 소지가 있어서다. 결국 수사 일선에선 AI 기반 외국어 번역 등 초기 수준에 활용도가 머물고 있다.

수사기관 자체 시스템에 치안 특화 모델을 새로 구축하는 게 대안으로 거론된다. 하지만 외부 데이터가 제한되는 망 분리 환경에선, 정확한 답변 등 모델이 충분한 성능을 내리란 보장이 없다. 이미 사용자 눈높이는 챗GPT·제미나이에 맞춰 있다.

반면 범죄자들은 이같은 제약에 구애받지 않고 최신 오픈소스 모델을 적극 연구하고 범죄에 활용한다. 당장 근절하기 어려운 신유형의 범죄가 수익 모델로 자리 잡고, 이는 곧 범죄 생태계로 발전한다.

일부 적극적인 수사관들의 AI 활용 사례에 자족해선 안 되는 이유다. 안정적인 R&D 예산은 물론, 수사관이 범죄 추적을 위해 AI를 적극 활용해도 불이익을 받지 않도록 제도를 정비해야 한다.

경찰·검찰의 힘만으로 해결할 수 있는 문제가 아니다. 범부처 차원에서 움직여야 한다. 이재명 정부가 국정 과제로서 국민 모두가 AI 혜택을 누리는 '모두의 AI'를 제시했던 만큼, 치안을 목적으로 한 AI에도 정부 차원의 관심과 투자가 필요하다.

legomaster@news1.kr