성범죄물 삭제 1분 처리·성착취물 탐지 80배↑…AI로 24시간 자동 신고

(서울=뉴스1) 이비슬 기자 = 앞으로 AI가 SNS·랜덤채팅앱을 24시간 감시하며 성착취물과 유인정보를 자동 탐지·분석·신고한다. 피해영상물 삭제요청부터 이력 관리까지 전 과정을 자동화해 건당 처리 시간은 1분 이내로 단축될 전망이다.

성평등가족부는 디지털 성범죄 대응에 AI 기술을 도입해 24시간 자동 탐지·분석·신고 체계를 가동한다고 1일 밝혔다.

이번에 도입한 시스템은 △삭제요청 자동화 △AI 기반 아동·청소년 온라인 성착취 선제 대응 △AI 기반 딥페이크 탐지 3대 기술이다. 기존 수동·사후 대응에서 자동화·선제 대응 체계로 전환한 것이 핵심이다.

기존에는 피해영상물 삭제 요청을 담당자가 직접 사이트별 경로를 찾아 수동으로 접수하고 삭제 여부 확인과 이력 관리까지 전량 수작업으로 처리했다. 이 과정에서 처리 지연과 오류·누락이 반복되고 사후 추적도 어려웠다.

개선 이후에는 약 2만 개 사이트 중 70% 이상을 API로 연계해 삭제 요청부터 결과 확인·이력 관리까지 전 과정을 자동화한다. 이에 따라 건당 처리 시간이 1분 이내로 단축되고 누락 없는 체계적 관리가 가능해질 전망이다.

아동·청소년 성착취 대응 역시 사후 대응 중심에서 선제 대응 체계로 바뀌었다. 기존에는 종사자가 직접 콘텐츠를 찾아 수집·분석해야 했지만, 이제는 AI가 SNS와 랜덤채팅앱을 24시간 모니터링하며 성착취물과 유인정보를 자동 수집·분석하고 신고와 삭제요청까지 수행한다.

시범운영 25일 동안 종사자 1인당 일평균 수집 건수는 아동·청소년 성착취물 42.0건에서 116.1건으로 2.7배 이상 증가했고 유인정보는 3.7건에서 303.9건으로 80배 이상 급증했다.

딥페이크 대응도 개선했다. 기존에는 담당자의 육안 검토에 의존해 원본과 합성물을 구별하기 어려웠고 피해자가 직접 신고한 영상물 중심으로만 지원이 이뤄졌다.

개선 이후에는 AI 탐지 솔루션을 통해 사진과 영상의 딥페이크 여부를 즉시 판별할 수 있게 됐으며 피해자가 인지하지 못한 합성물까지 선제적으로 찾아내 삭제 지원이 가능해졌다.

원민경 성평등부 장관은 "AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하겠다"며 "피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 말했다.

b3@news1.kr