"제2의 이루다 사태 막는다"…스캐터랩, AI 챗봇 윤리점검표 발표

(서울=뉴스1) 이기범 기자 = 과학기술정보통신부가 AI 윤리의 사회적 확산과 자율규제 환경 조성을 위한 논의에 나섰다.

과기정통부는 8일 서울 중구 한국프레스센터에서 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA)와 함께 '제2차 인공지능(AI) 윤리정책 포럼'을 열었다.

이날 행사에서는 AI 챗봇 '이루다'를 개발한 스타트업 스캐터랩의 AI 챗봇 윤리점검표 개발 추진 현황이 발표됐다.

앞서 2020년 12월 출시된 일상 대화형 챗봇 '이루다'는 사회적 약자에 대한 혐오 답변을 제시하면서 AI 윤리 문제가 불거졌다. 이어 이용자 동의 없이 자사 연애 분석 앱 '연애의 과학'·'텍스트앳'을 통해 연인들의 카톡 대화를 수집해 이루다를 개발한 정황이 드러나면서 논란이 커졌다.

이후 스캐터랩은 출시 3주 만에 '이루다1.0' 서비스를 종료했으며, 지난해 3월 개인정보보호위원회로부터 1억330만원의 과징금·과태료를 부과받았다. 올해 1월부터는 개인정보보호 조치와 혐오 표현 어뷰징 탐지를 강화한 '이루다2.0'을 내놓았다.

이번 포럼에서는 현재 시범 운영 중인 이루다2.0의 주요 개선 사항과 함께 스캐터랩이 자체적으로 준수하고 있는 윤리점검표 초안이 공유됐다.

AI 윤리정책 포럼은 AI의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 올해 2월 출범했다. 산업계를 비롯해 AI, 윤리 교육, 법제도, 공공 등 다양한 분야 전문가 30명이 제1기 포럼 위원으로 활동 중이다. 포럼위원장은 고학수 서울대 법학전문대학원 교수가 맡고 있으며, 김종윤 스캐터랩 대표도 위원으로 활동하고 있다.

이 밖에도 포럼에서는 △유네스코 'AI 윤리 권고'에 대한 국가적 차원 대응책 △신뢰할 수 있는 AI 개발안내서 시범 적용 △초중고 대상 AI 윤리 교재 개발 진행 상황 등에 대한 논의가 이뤄졌다.

박윤규 과기정통부 차관은 "국민 모두가 인공지능 산업 발전 혜택을 고루 누리기 위해서 인공지능에 대한 신뢰 확보가 중요한 만큼, 인공지능 생태계에 참여하는 구성원 모두가 적극적이고 주체적인 자세로 관심을 기울이고 의견을 내는 것이 무엇보다 필요하다"며 "앞으로 포럼 등을 통해 양방향 소통을 더욱 강화하고, 이를 바탕으로 인공지능 윤리에 대한 사회적 합의를 마련해 나갈 것"이라고 밝혔다.

Ktiger@news1.kr