불법촬영물, AI가 대신 삭제한다…24시간 자동 검출·삭제

(서울=뉴스1) 박우영 기자 = 서울시는 29일 디지털성범죄 예방과 피해자 지원을 위해 운영 중인 '서울 디지털성범죄 안심지원센터' 개관 1주년 기념식을 갖고 전국 최초로 AI(인공지능)를 통한 24시간 디지털성범죄 자동 추적‧감시에 나선다고 밝혔다.

'서울 디지털성범죄 안심지원센터'는 오세훈 시장의 시정 마스터플랜 '서울비전 2030' 일환으로 지난해 3월29일 개관했다. 제2, 제3의 'n번방' 피해를 막는다는 목표로 영상물 삭제부터 법률지원, 심리‧치유까지 디지털성범죄 피해자를 원스톱 통합지원한다. 이날 기념식에는 오세훈 시장, 범죄심리학자 이수정 교수, 경찰, 디지털성범죄 관련 전문가, 디지털성범죄 안심 서포터즈 등 200여명이 참석해 기념식에 이어 간담회까지 진행한다.

안심지원 인공지능 기술 적용은 사회관계망서비스(SNS)가 전파‧공유가 쉽고 유포 속도가 빨라 영상이 올라오자마자 삭제하는 것이 무엇보다 중요하다는 점에 착안해 이뤄졌다. 아울러 기존에 사람 삭제지원관이 피해 영상물을 접하며 얻게 될 수 있는 트라우마와 스트레스를 줄이는 기대효과도 있다.

이번 기술 도입으로 AI가 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 사회관계망서비스(SNS) 상의 피해 영상물을 자동으로 검출해 삭제하고 재유포를 막는다. 기존에는 피해자의 얼굴이나 특이점을 육안으로 판독하는 수작업을 거쳐야 했기에 많은 노력과 시간이 들었다.

구체적으로 키워드 입력부터 영상물 검출까지 불과 3분 밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선될 전망이다. 정확도 또한 200% 이상 향상될 것으로 분석된다. 아울러 딥러닝 AI인 만큼 학습 데이터가 축적되면서 정확도와 속도는 더욱 향상될 것으로 보인다.

시는 AI 기술 도입과 함께 선제적 불법 영상물 삭제 등 아동‧청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년 대상 디지털성범죄 피해건수가 지속적으로 증가하는 데다 피해자·가족 신고없이 온라인상에서 유포되는 피해 영상물이 많은 상황이기 때문이다. 본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리 아동‧청소년은 '아동·청소년의 성보호에 관한 법률' 등에 따라 당사자나 부모님 신고 없이도 불법 영상물 즉시 삭제가 가능하다.

또한 아동‧청소년 디지털성범죄 예방 차원에서 메타버스용 교육 콘텐츠를 IT 기업과 협업해 개발하고, 청소년 스스로 디지털 환경을 안전하게 만드는 서포터즈 활동도 추진한다. 가해 청소년에 대해서는 전문가 상담을 통해 재발방지에 힘쓴다.

한편 '서울 디지털성범죄 안심지원센터'는 긴급상담부터 수사‧법률지원, 삭제지원, 심리치료‧의료 지원에 이르는 원스톱 지원을 통해 지난 1년간 402명의 피해자를 지원했다. 총 지원 건수는 7682건에 이른다.

시가 지원한 피해자의 연령대는 10~20대(약 57%)가 가장 높은 비율을 차지했으며 이중 10대 비율이 16.6%였다. 피해유형별로는 유포불안(23.1%) 불법촬영(20.1%) 유포·재유포(14.5%) 순이었다.

피해 영상물 총 3003건을 삭제했으며 이중 절반이 넘는 1608건(54%)이 아동‧청소년 성착취물이었다. 경찰과의 협력을 통해 924건의 수사를 지원했으며, 이 과정에서 가해자를 검거‧특정하는 성과도 있었다. 574건의 법률‧소송, 507건의 심리치료도 지원했다.

alicemunro@news1.kr