한 음란사이트에 인공지능(AI) 기술을 활용한 '딥페이크(DeepFake)'를 통해 제작된 연예인 합성 음란물이 게시되어 있다. © News1

#.대전에 거주중인 A씨는 올 1월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받아 70여명의 연예인과 일반인의 불법 합성물을 딥페이크로 제작·판매하다 검거됐다.부산에 사는 B씨와 C씨는 지난해 6월부터 7월까지 연예인 150여명의 얼굴을 딥페이크로 타인의 신체 사진과 합성·판매하다 붙잡혔다.최근 인공지능(AI) 기술이 불법적인 범죄에 악용되고 있어 대책 마련이 시급한 것으로 나타났다. AI를 악용한 범죄 중 딥페이크(Deepfake) 기술로 타인 얼굴 사진과 음란물 영상해 합성, 이를 유포하겠다고 협박해 금전을 요구하는 범죄가 기승을 부리고 있는 것이다.

27일 국회 과학기술정보방송통신위원회 소속 김상희 국회부의장이 방송통신위원회로부터 제출받은 자료에 따르면, 지난 2020년 6월부터 단속이 시작된 '딥페이크 성적 허위영상' 차단 건수는 12월까지 548건에, 올 1월부터 9월까지 1408건으로 2.5배 증가했다.

김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴본 결과, SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 '성적 허위 영상물'을 제작해 판매하고 유포하는 것으로 드러났다.

더욱이 피해자의 사진만 갖고 AI로 이질감없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 '제2의 N번방 사건'이 될 가능성이 많다는 지적이다.AI를 포함 지능정보기술을 악용한 범죄 피해를 막기 위해선 기술에 대한 규제도 필요하다는 지적이 나온다. 현행 기능정보화 기본법 제31와 60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고, 필요하다면 국가가 그 기술을 비상 정지하게 되어 있다.

하지만 현재까지 AI 등 지능정보 기술이 사람의 생명이나 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어, 해당 법이 적용된 적은 없다.

김 부의장은 "현행법에는 AI를 악용해 심각한 정신적·금전적 피해를 주는 것에 대한 규정이 없다"며 "AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다"고 밝혔다.

이어 "미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다"며 "AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더 이상 AI 범죄로 고통받는 국민이 없도록 노력해야 한다"고 강조했다.


pjy1@news1.kr