미성년자 노리는 온라인 그루밍…서울시, AI 탐지기술로 잡는다

(서울=뉴스1) 한지명 기자 = 서울시는 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 전국 최초로 AI에 기반한 '서울 안심아이(eye)'를 개발하고 24시간 탐지 및 대응에 나선다고 1일 밝혔다.

서울 안심아이는 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간으로 탐지한다.

위험 징후 포착 즉시 피해지원기관에 긴급 알림을 전송하면 피해지원기관에서 개입해 피해 확산을 초기에 차단하는 기술이다.

시는 앞서 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입한 데 이어, 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발해 성착취물을 선제적으로 삭제지원했다.

올해는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발할 계획이다.

해당 기술은 대화 흐름 속에서 "사진 보낼래?", "영상통화 할까?", "집이 싫으면 가출해 보심?", "용돈 받고 뭐 원하는 거 해주고 그러는 거야"와 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다.

단순히 특정 단어를 감지하는 수준을 넘어 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다.

한편 서울시는 AI 기반 온라인 그루밍 탐지 기술과 함께 온라인 그루밍에 대한 사회적 인식 확산과 대응방안 모색을 위한 토론회를 2일 서울시청 서소문청사 제1동 13층 대회의실에서 개최한다.

토론회에서는 서울연구원 김준철 연구위원이 'AI 기반 온라인 그루밍 탐지 및 선제 대응 기술'을, 서울시여성가족재단 김보화 책임연구원이 '서울시 아동·청소년 온라인 그루밍 실태와 정책방향'에 대해 각각 발표한다.

hjm@news1.kr