IBS-심심이, AI 챗봇의 윤리성 검증한다 "혐오표현 탐지"

기초과학연구원(IBS)은 인공지능(AI) 챗봇의 윤리성 검증을 위해 AI 챗봇 ‘심심이’를 운영하는 심심이주식회사(대표 최정회)와 업무협약을 체결했다고 26일 밝혔다.

협약에 따라 양 기관은 온라인 혐오를 해결하기 위해 인공지능과 사람이 상호작용하는 패턴을 분석하는데 상호 협력하기로 했다.

심심이주식회사는 과학기술정보통신부 주관 ‘AI 학습용 데이터 구축사업’에 참여해 윤리성 검증을 돕고 있다.

특히, 대화 시나리오나 서술형 글 등 텍스트 관련 윤리성 검증 및 비도덕적 텍스트 구조 규명에 주력 중이다.



IBS 데이터 사이언스 그룹은 이 과정에서 기계학습 및 AI를 기반으로 온라인 데이터 속 혐오 표현을 탐지하는 분석 도구를 개발해 나갈 계획이다.

데이터 사이언스 그룹을 이끌고 있는 차미영 CI(Chief Investigator‧KAIST 전산학부 교수)는 “심심이는 약 1억4000만 쌍의 대화 시나리오 데이터를 기반으로 만들어진 생동감 있는 대화 플랫폼”이라며 “심심이는 온라인 데이터 속 혐오 표현을 탐지하는 인공지능을 개발하기 위한 최적의 도구가 될 것”이라고 말했다.

km5030@news1.kr