"N번방 아픔 없도록" 서울시 '불법촬영물 삭제'…AI 도입하니 2.4배 ↑

(서울=뉴스1) 박우영 기자 = 'N번방' 등 불법영상물(불법촬영물) 대응을 위해 서울시가 설립한 '서울 디지털 성범죄 안심지원센터'가 인공지능(AI) 삭제 프로그램을 도입한 뒤 연간 삭제 건수가 2배 넘게 뛴 것으로 나타났다.

14일 서울시에 따르면 서울 디지털성범죄 안심지원센터는 2022년 3월 29일 개관 이래 지난해 12월 31일까지 2년간 불법영상물 8519건을 삭제했다. 이 가운데 첫해인 2022년 삭제한 불법영상물이 총 2509건이었다. 지난해에는 첫해의 약 2.4배에 해당하는 6010건의 불법영상물을 삭제했다. 센터의 존재가 피해자들에게 알려진 데다 센터 1주년을 기점으로 'AI 감시 시스템'이 도입되면서 업무가 효율화한 영향으로 풀이된다.

오세훈 서울시장은 지난해 3월 센터 개관 1주년 기념식에서 "다른 곳에는 돈을 아껴도 이곳(센터)에는 아끼지 않고 얼마든 지원하겠다"며 24시간 자동 추적·감시 AI 시스템 도입을 발표했다.

AI 시스템은 24시간 내내 각종 사회관계망서비스(SNS)에서 피해 영상물을 자동으로 검출해 삭제한다. AI가 도입되면서 사람이 할 때 1~2시간이었던 검출 소요 시간은 3분으로 줄었고 정확도는 200% 가까이 향상됐다. 무엇보다 사람이 따라갈 수 없을 만큼 빠른 온라인 유포 속도에 대응할 수 있다는 점에서 AI 도입이 '혁신'으로 평가받는다.

2년간 활동 내역을 보면 누적 피해자 수는 830명인 반면 총 삭제 영상은 8519건으로 같은 피해자가 여러 차례 불법영상물 재유포에 시달리고 있는 것으로 나타났다. 연간 피해자는 2022년 309명에서 지난해 521명으로 늘었다.

플랫폼별 누적 삭제 건수는 '성인사이트'가 64.0%(5455건)로 절반 이상을 차지했다. 이어 '사회관계망서비스'(SNS) 16.2%(1379건), '기타' 11.2%(956건), '검색엔진' 5.9%(501건), '커뮤니티' 2.7%(228건) 순이었다. SNS 삭제 건수는 2022년 822건에서 지난해 557건으로 줄어든 반면 성인사이트 삭제 건수는 같은 기간 1252건에서 4203건으로 급증한 것으로 조사됐다.

2년 동안 성인 피해자 요청을 받고 삭제를 지원한 영상물이 5365건, 아동·청소년 대상이어서 센터 측이 요청 없이 먼저 삭제한 영상물이 3154건이었다. 법적으로 아동·청소년 대상 불법영상물은 요청이 없어도 삭제를 할 수 있게 돼 있다. 특히 성인을 대상으로 한 경우가 2022년 1033건에서 지난해 4332건으로 많이 늘어난 것으로 조사됐다.

성별로는 2년간 피해자 830명 가운데 84.5%인 701명이 여성, 13.0%인 108명이 남성이었다.

센터는 2년간 삭제 지원 외에도 6065건의 수사·법적 절차 지원, 3466건의 피해지원 설계·모니터링, 5047건의 정서·심리상담 지원 등 전방위적인 피해자 지원 활동을 진행했다.

서울 디지털 성범죄 안심지원센터에는 시민 누구나 도움을 요청할 수 있다.

alicemunro@news1.kr