검색 본문 바로가기 회사정보 바로가기

KISO, 온라인 혐오 표현 64건 심의…네이버 "AI 클린봇 적용 확대"

KISO 회원사, 혐오표현 7건 삭제하거나 노출 제한해야
네이버 클린봇, 카페 댓글 영역으로 확대…"기술 고도화 중"

(서울=뉴스1) 손엄지 기자 | 2024-05-31 17:33 송고
네이버 클린봇 적용 화면 (네이버 제공)
네이버 클린봇 적용 화면 (네이버 제공)

한국인터넷자율정책기구(KISO)는 온라인 혐오표현 64건을 검토한 결과 7건을 혐오표현에 해당한다고 결정했다. 네이버는 인공지능(AI) 클린봇을 확대 적용해 혐오표현이 유통되지 않도록 조치할 계획이다.

31일 KISO 혐오표현심의위원회는 네이버(035420), 다음 등 회원사에 게시된 게시글과 댓글 64건을 심의한 결과 7건이 '혐오표현에 해당한다'고 결정했고, 44건은 '해당없음'으로 결론났다. 9건은 '회원사에 검토를 권고'했고, 그 외 4건은 심의요건을 갖추지 못해 각하했다.
심의 대상은 종교(13건), 출신 국가·인종(8건), 지역(8건), 성별(13건), 나이(6건), 성적 지향(10건), 장애·질병(6건) 총 64건이었다.

해당 심의는 위원회가 출범하고 '혐오표현 자율정책 가이드라인' 제정 이후 진행된 온라인 혐오표현 관련 첫 심의다.

미디어·국어학·사회학·법학 등 관련 전문가 위원들이 숙의와 의결 과정에 참여했다.
위원회는 혐오표현을 판단할 때 특정 집단이나 구성원에 대하여 차별을 정당화·조장·강화하고 있는지 뿐만 아니라 폭력을 선전·선동하고 있는지 등을 살펴봤다.

단어의 의미뿐 아니라 해당 심의 대상물이 게시된 맥락도 함께 고려했다.

이번 심의 결과에 따라 회원사는 위원회가 결정한 혐오표현 7건을 삭제하거나 노출을 제한하는 등의 조치를 해야 한다.

또 경고 문구와 이용자 주의 문구를 표기하고, 그밖에 혐오표현을 제한하거나 그에 준하는 조치 등을 취하게 된다.

혐오표현에 해당하지는 않지만, 특정 속성을 이유로 집단과 구성원을 비하하고 조롱하는 표현은 회원사가 자율적으로 조치할 수 있도록 했다.

네이버는 AI 기술로 자동으로 악성 댓글을 탐지하는 클린봇을 기존 카페 이웃 서비스 영역에서 카페 댓글 영역까지 확대하기로 했다.

클린봇에 의해 부적절한 표현이 감지된 댓글과 대댓글은 자동으로 숨김처리되고, 사용자가 직접 클린봇 설정을 해제해야만 댓글 내용을 확인할 수 있다.

댓글 등록 시점에 댓글 내 욕설, 비하, 혐오 등 부적절한 표현이 감지되면 댓글 수정을 권고하는 팝업 안내도 노출할 예정이다.

네이버 클린봇은 네이버 뉴스, 스포츠, 웹툰, 오픈톡, 치지직 등 다양한 서비스에 적용하고 있다.

네이버 관계자는 "클린봇 기술을 지속해서 고도화해 네이버 서비스 내 적용 범위를 확대할 계획"이라고 말했다.


eom@news1.kr

이런 일&저런 일

    더보기