회삿돈 수백억 가로채는 딥페이크부터 변태안경까지…'AI 날개 단 범죄'

(서울=뉴스1) 윤주영 권준언 기자 = #2024년 2월 영국의 엔지니어링 회사 아럽의 홍콩지사 직원은 회사 최고재무책임자(CFO)로부터 354억 원(2500만 달러)을 송금하라는 지시의 메일을 받았다. 처음엔 피싱으로 의심했지만 이후 해당 CFO를 포함해 낯익은 회사 임원들과 화상 회의를 가졌고, 이에 CFO 지시를 믿고 돈을 보냈다. 하지만 임원들과의 화상 회의는 정교한 딥페이크 영상이었다.

#중국계 사이버 범죄조직 '아웃사이더 엔터프라이즈'는 구글 AI '제미나이'에 기반해 피싱 사이트를 제작할 수 있는 툴을 지난해 7월부터 배포했다. 단 몇 분 만에 일반 은행, 택배 조회 등 서비스로 위장된 사이트가 만들어지며, 이에 속은 사용자는 신용카드 정보, 비밀번호 등을 입력하게 된다. 범죄 피해 규모만 수백만 달러에 달할 거라고 추산한 구글은 결국 올해 해당 조직을 상대로 민사 소송을 제기했다.

15일 경찰 등에 따르면 보이스피싱, 선거철 가짜뉴스부터 고도의 사이버 해킹까지 각종 범죄가 AI를 만나 진화하고 있다. AI 발 가짜뉴스나 아동·지인을 대상으로 한 딥페이크 성 착취물은 더 이상 새로울 것도 없는 범죄다. 이젠 기업을 대상으로 한 금전 탈취나 대규모 자동화 피싱 공격에도 AI가 악용된다는 게 속속 보고되는 중이다.

우선 대규모 조직이 아닌 개인이라도 기업을 상대로 범죄를 저지를 수 있게 됐다. 미국 생성형 AI 기업 앤트로픽이 지난해 9월 탐지한 위협 보고서에 따르면, 한 해커는 클로드의 코딩 특화 AI 모델인 '클로드 코드'(Claude Code)를 이용해 기업 17곳의 민감 데이터를 훔치고 몸값까지 요구하는 자동화 공격을 수행했다.

AI의 성능 향상으로 딥페이크·피싱 사이트 등 결과물이 점차 교묘해지는 점도 문제다. 지난해 4월 경남 밀양에선 배우 이정재를 사칭한 딥페이크 영상에 속아 범죄자 일당에 5억 원을 송금한 로맨스 스캠 사건이 발생하기도 했다. 이 밖에도 유명 주식투자자, 증권사 직원 등을 사칭한 딥페이크 영상으로 투자자들을 주식 리딩방에 끌어들이는 범죄도 기승을 부리고 있다.

AI가 저비용에도 효과적으로 범죄를 저지를 수 있게 해준다는 점이 입증되면서 관련 범죄 생태계도 커지고 있다. 보안 플랫폼 노드스텔라 분석에 따르면 올해 1월부터 5월까지 다크웹에 올라온 '딥페이크 생성 서비스'(DFaaS) 관련 게시물은 924건으로 지난해 같은 기간 대비 39% 증가했다. 이는 데이트 사기에 필요한 맞춤형 얼굴 생성이나 음성 인증을 우회하는 '오디오 스푸핑' 등 기능을 지원한다.

또 다크웹에선 50달러만 내면 보이스 피싱에 필요한 AI 음성 복제 툴을 구매할 수 있다. AI로 어린아이의 음성을 조작해 부모로부터 금전을 뜯어내는 보이스피싱 사례가 올해 초 우리나라에서 보고되기도 했다.

AI 스마트 글라스 등 최신 정보기술(IT) 기기를 활용한 범죄도 이젠 현실의 문제가 됐다. 지난달 서울 강서경찰서는 데이트 상대를 AI 안경으로 무단 촬영한 혐의로 한 남성을 입건하기도 했다. 일반 뿔테안경과 분간하기 어려운 탓에 불법 도촬 등에 활용될 가능성이 크고, 해외에선 '변태 안경'이란 오명까지 붙었다.

국가기술자격시험 등 시험에서 스마트 AI 글라스로 부정행위를 하는 사례도 적발되고 있다. 지난 5월 한국산업인력공단 주관 전기산업기사 시험, 소방설비기사 시험에서 이같은 사례가 나왔으며, 각 응시자는 모두 국가기술자격법 위반 혐의로 입건됐다.

이같은 부정행위는 시험 종류나 부정행위 형태에 따라 위계에 의한 공무집행방해죄, 업무방해죄 등이 성립될 수 있다.

정부와 수사기관의 대응도 바빠지고 있다. AI가 범죄를 고도화시키자 수사기관 역시 AI로 맞서는 'AI 대 AI' 맞대응에 들어갔다.

서울동부지검은 지난 4월 AI 프로그램을 활용해 기존 디지털 포렌식만으로 식별이 어렵던 폐쇄회로(CC)TV 영상을 추가 분석, 묻지마 폭행범의 혐의를 입증해 냈다. 사람 객체를 인식하는 AI 프로그램이 피의자의 시선과 얼굴 방향을 분석했다.

또 금융감독원 자본시장특별사법경찰국은 최근 자체 개발 AI를 활용해 6년 6개월간 배포된 2200여건의 특징주 보도 기사를 분석, 투자업체 대표와 경제지 기자들의 선행매매 범죄 및 부당이득 규모를 밝혀내기도 했다. 이는 기존 엑셀 및 수작업 대조만으론 분석하기 어려운 방대한 데이터다.

경찰 역시 효율적인 사건 관리와 일선 행정부담 완화를 위해 '형사사법정보시스템'(KICS)과 연동된 수사지원 AI를 고도화하는 중이다. AI가 △문서 요약 △영장 신청서 초안 △유사 사건 추천 등 복잡한 수사 서류 작성 시간을 감축해 준다.

이 밖에도 장기적 활용을 목표로 △신종·혼합 마약도 판별할 수 있는 AI 기반 라만분광기 △우편물의 은닉된 마약류를 탐지하는 AI 검문검색 툴 △AI 알고리즘을 활용한 필적 분석 시스템 등을 연구개발(R&D)하고 있다.

경찰청 AI∙데이터 기반 행정위원회 소속 김동환 포티투마루 대표는 "(수사기관 등이 가진) 공공 데이터의 품질 관리, RAG 기반 생성형 AI 도입 등 성능 이슈나 환각 현상을 최소화하기 위한 다양한 장치를 마련하고 있다"며 "위해요소 탐지, 폭발물 처리 등 피지컬 AI 개발에는 지각, 판단, 행동, 학습을 반복적으로 학습한 특화 파운데이션 모델이 나와줘야 한다"고 강조했다.

legomaster@news1.kr