검색 본문 바로가기 회사정보 바로가기

> IT/과학 > IT일반

[이루다가 남긴 것⑦]업계도 "윤리적 AI 필요" vs "인간부터 반성해야"

(서울=뉴스1) 송화연 기자 | 2021-01-13 07:15 송고 | 2021-01-13 11:40 최종수정
편집자주 "안녕, 난 너의 첫 AI 친구 이루다야." 지난해말 돌연 등장한 대화형 인공지능(AI) 챗봇 이루다. "너한테 많이 고마워, 알지?" 불과 20일 만에 '만남의 안녕'이 '이별의 안녕'으로 바뀌었다. '인간의 대화'로 태어난 이루다는 소수자 차별, 혐오 발언, 성희롱 논란 등 '인간의 민낯'을 고스란히 드러내고 사라졌다. 이루다가 남긴 쟁점과 화두를 짚어봤다.
스캐터랩이 개발한 인공지능 챗봇 '이루다' (이루다 홈페이지 갈무리) © 뉴스1

인공지능(AI) 챗봇 '이루다'가 논란의 중심에 선 가운데 IT 업계 수장들이 다양한 목소리를 내고 있다.

이루다는 연인의 대화를 기반으로 해 지금까지 출시된 챗봇보다 자연스러운 말투로 주목받았다. 그러나 성희롱과 장애인·성소수자·인종 혐오와 관련한 대화 내용이 공개되며 논란의 중심에 섰다. 여기에 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 줄을 잇고 있다.

업계 수장들은 이번 논란을 두고 'AI가 윤리원칙을 지켜야 한다'는 의견과 '결국 인간부터 반성해야 한다'는 의견을 펼치고 있다. 이와 함께 이루다 서비스 종료를 환영하는 입장과 서비스 종료를 우려하는 목소리도 나뉜다.

◇이재웅 "이루다 잠정 중단 환영…AI 윤리 다시 생각해봐야"

이재웅 전 쏘카 대표는 지난 12일 페이스북을 통해 '이루다 개발사 스캐터랩이 서비스 잠정 중단 결정을 내린 것을 환영한다'는 입장을 밝혔다. 스캐터랩은 논란이 계속되자 지난 12월 오후 6시를 기점으로 이루다 서비스를 잠정 중단한 상태다.

이 전 대표는 지난 9일부터 소수자 차별·혐오 발언을 한 이루다의 문제점을 지적해왔다. 그는 "이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라고 꼬집었다.

그는 "(이번 기회를 통해) AI를 공공에 서비스할 때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러 가지를 재점검하는 기회가 되었으면 한다"며 "더불어 이러한 문제가 회사의 지배구조의 다양성 부족이나 회사 구성원의 젠더감수성이나 인권감수성의 부족에서 온 것은 아닌지 한 번 더 점검하고 보완했으면 좋겠다"고 목소리를 높였다.

이 전 대표는 면접과 뉴스추천 등 다양한 분야에 쓰이고 있는 AI가 인간에게 차별과 혐오를 조장할 수 있다는 가능성을 제기하며, 이러한 문제를 차단하기 위해 법적인 뒷받침이 따라야 한다고도 했다.

그는 "이루다를 계기로 AI 챗봇, 면접·채용, 뉴스 추천 등이 인간에 대한 차별, 혐오를 조장하고 있는 것은 아닌지 사회적으로 점검해야 한다"며 "포괄적 차별금지법 제정 등을 통해 AI 를 학습시키는 우리 인간들의 규범과 윤리도 보완했으면 좋겠다"고 강조했다. 그러면서 "인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다"고 역설했다.

◇남궁훈 "이루다 서비스는 혁신…이루다 반성 주체는 '현 사회'"

남궁훈 카카오게임즈 대표는 '이루다'를 혁신으로 평가하며 "엉뚱한 규제로 혁신을 또 가둬서는 안된다"는 입장을 내비쳤다. 그는 이번 이루다 논란의 반성 주체는 AI가 아닌 현 사회라고 지적했다.

남궁 대표는 "이루다는 교육을 목적으로 만들어낸 인공지능 슈퍼컴이 아니다. 앞으로 수없이 출시될 여러 AI 캐릭터 중 하나일 뿐"이라며 "이 캐릭터(이루다)가 현세대와 동떨어진 이야기를 하면 모르겠지만 사실은 현세대에 분명히 현존하는 혐오와 차별이 노출되었을 뿐"이라고 말했다.

그러면서 "오히려 문제라면 이 AI가 현세대를 통해 학습되었기 때문에, '현세대가 가지고 있는 혐오와 차별이 문제'라며 "반성을 해야한다면 AI가 반성 해야하는 것이 아니라 현 사회가 반성을 해야한다"고 강조했다.

남궁 대표는 "AI 캐릭터 중에 선생님, 상담사와 같은 캐릭터가 이루다와 같은 대답을 하면 안 될 일이지만, 이루다는 그냥 10~20대들의 대화를 통해 학습된 하나의 캐릭터일 뿐"이라며 "모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어내야한다고 생각한다"고 밝혔다.

그는 이번 논란으로 국내 AI 산업이 규제에 갇힐 수 있다는 점에 우려를 표하기도 했다. 남궁 대표는 "이제 시작일 뿐인 이 산업, 그리고 매우 매력적인 시작으로 보이는 이 캐릭터에 엉뚱한 규제로 혁신을 또 가둬두지 않을지 걱정스럽다"면서도 "혁신적 서비스를 출시한 회사에 박수를 보낸다"며 응원의 메시지를 전했다.

한편 김종윤 스캐터랩 대표는 지난 12일 온라인으로 진행된 미디어 질의응답(Q&A)을 통해 "이슈가 된 부분을 성찰의 기회로 삼아 기술적으로, 그리고 사회적으로 가치 있는 스타트업으로 거듭나겠다"며 "많이 부족하고 거칠고 시행착오가 많지만 스캐터랩이 꿈을 이어갈 수 있게 응원을 부탁한다"고 당부했다.


hwayeon@news1.kr