'SNS 라방' 켜고 극단 선택…'모니터링' 해법없나

(서울=뉴스1) 남해인 기자 = 최근 서울 강남구 한 빌딩에서 10대 고교생이 사회관계망서비스(SNS) 라이브 방송을 켜고 극단적 선택을 했다.

녹화본이 무분별하게 퍼지면서 SNS 플랫폼의 모니터링 책임을 지적하는 목소리가 높다.

21일 언론보도 등에 따르면 A양이 극단적 선택을 하며 송출한 라이브 방송은 20명 남짓이 시청하고 있던 것으로 알려졌다. 해당 장면을 화면녹화한 영상은 인터넷상 커뮤니티, 유튜브, 트위터 등 플랫폼을 중심으로 확산됐고 경찰은 2차 가해가 우려돼 게시판 차 등 후속조치를 실시했다.

이같은 일은 인스타그램, 유튜브 등 해외 플랫폼 개인 라이브 방송이 모니터링 사각지대에 놓이며 발생했다.

계정을 가진 개인 누구나 스마트폰을 활용해 생중계를 할 수 있어 이용량은 방대한데 모니터링 기술과 인력 한계로 모니터링 자체가 어렵다.

고교생이 사용했던 인스타그램의 경우 라이브 방송 모니터링을 인공 지능(AI) 시스템과 전담 인력이 진행하고 있지만 역부족이다. 이마저도 국내 지사 인력이 따로 있지 않고 글로벌 지사에서 모니터링을 담당하는 체계다.

인스타그램 관계자는 "자동신고를 통해 커뮤니티 가이드라인을 준수하지 않는 콘텐츠가 신고될 수 있다"며 "이 경우 지원 요청을 통해 이용자가 신고한 콘텐츠를 확인한다"고 모니터링 과정을 설명했다.

인스타그램이 규정한 '신고할 수 있는 라이브 방송 종류'에 극단적 선택이 포함됐는데도 고교생의 투신 장면을 생중계한 라이브 방송은 그대로 이어졌다.

스마트폰의 화면녹화 기능을 사용할 수 있는 점도 문제였다. 해당 방송을 시청한 이용자들이 녹화한 영상이 유튜브와 트위터를 중심으로 무분별하게 퍼져나가기도 했다. 넷플릭스 등 각종 OTT 모바일 애플리케이션에서는 콘텐츠 저작권을 보호하기 위해 화면캡처 기능이 작동하지 않는다.

또한 지난달 유튜브에선 전두환 전 대통령 손자인 전우원씨가 라이브 방송 도중 마약으로 추정되는 알약을 복용해 논란이 일었다. 몸을 떨고 괴성을 지르는 장면이 그대로 노출됐다.

해외 플랫폼 라이브 방송은 본사를 해외에 둔 사업자라 아프리카TV 등 국내 사업자보다 상대적으로 심의 당국의 눈치를 덜 보고 있다는 지적도 나온다.

라이브 방송은 인터넷 방송에 해당돼 방송법 적용 대상이 아니라 방송통신심의위원회의 벌금, 방송 금지 등 강도 높은 제재를 받지 않는다.

인터넷을 통하는 라이브 방송 플랫폼은 정보통신사업자로서 통신 심의 규제의 적용 대상이다. 방심위는 시정 요구, 권고, 가이드라인 마련 등 조치로 플랫폼에 모니터링 강화를 주문하지만 제재 수준에 한계가 있고 방심위 모니터링 인력이 이용량을 따라가지 못하는 실정이다.

개인 SNS에서 이뤄지는 라이브 방송 제재 내용을 법으로 규정하는 게 무리가 있긴 하다.

SNS 업계 관계자는 "불특정 다수가 볼 수 있다는 점에서 유해 내용은 노출을 막아야 한다"면서도 "개인 사생활 영역인 SNS 콘텐츠 내용에 관해 정부 기관의 감독이나 형사 처벌 범위에 포함시킬 경우 표현의 자유 침해 논란이 일 수도 있어 어려운 문제"라고 말했다.

따라서 전문가들은 플랫폼이 책임을 다하고 생태계를 보호하기 위해 모니터링 책임을 스스로 강화해야 한다고 입을 모았다. 플랫폼이 직접 모니터링 AI 기술을 고도화하고 이를 보완하는 전담 인력에 투자를 확충하는 방안이 제시된다.

김명주 서울여대 바른AI센터장은 "AI 모니터링 기술이 상당히 발달돼 있지만 '긍정 오류(false positive·정상인데 잘못 인식해 유해매체라고 판단하는 오류)'가 발생하기도 한다"며 "기술을 보완해 이러한 오류를 줄이고 콘텐츠에서 징후를 파악할 수 있는 모니터링 기능을 갖추도록 플랫폼이 나서야 한다"고 말했다.

hi_nam@news1.kr