스타트업 스캐터랩이 지난해 12월 출시한 인공지능(AI) 챗봇 이루다. © 뉴스1

성희롱 및 차별·혐오 표현 논란에 이어 개인정보 유출 문제가 제기된 인공지능(AI) 챗봇 '이루다'에 대해 개인정보 보호 정책을 총괄하는 개인정보보호위원회가 조사에 착수했다.11일 개인정보위와 업계 등에 따르면 개인정보위 조사조정국 조사2과는 최근 소셜미디어(SNS)를 중심으로 확산하고 있는 AI 챗봇 이루다에 대한 개인정보 유출 논란에 대해 사실관계 확인 작업을 진행하고 있다.

스타트업 스캐터랩이 지난해 12월 출시한 이루다는 페이스북에서 친구를 맺으면 대화하는 AI 챗봇으로, 실제 연인의 대화를 기반으로 해 지금까지 출시된 어떤 챗봇보다도 자연스러운 말투로 주목받았다.

이루다는 스캐터랩이 2016년 출시한 또 다른 앱 '연애의 과학' 이용자들이 제공한 카카오톡 대화 내용 100억건을 토대로 개발됐다. 연애의 과학 내 '카톡으로 보는 속마음' 심리테스트는 연인이나 호감 가는 사람과 나눈 카카오톡 대화 내용을 집어넣고 3000원~5000원 비용을 지불하면 애정도 수치를 분석해준다.

문제는 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 줄을 잇고 있다는 점이다.이루다가 갑자기 특정 은행의 예금주로 누군가의 실명으로 보이는 이름을 말하거나 아파트 동호수까지 포함된 주소를 말하는 사례가 발견됐다.

AI 챗봇 이루다. 이루다가 특정 은행의 예금주로 누군가의 실명으로 보이는 이름을 말하면서 제대로 된 비식별화 과정을 거치지 않았다는 의혹이 제기되고 있다. © 뉴스1

연애의 과학 이용자들에게 개인정보 수집과 활용 내용을 구체적으로 명시하지 않았다는 점도 문제로 꼽힌다.

연애의 과학 가입 때 동의해야 하는 개인정보 취급방침에는 '개인정보가 신규 서비스 개발에 활용될 수 있다'고만 돼 있을 뿐이다.

현행 개인정보보호법은 개인정보 처리자가 개인정보 처리 목적을 명확하게 해야 하고 정보주체의 사생활 침해를 최소화하는 방법으로 개인정보를 처리하도록 규정하고 있다.

개인정보위는 개인정보가 침해됐다고 판단할 경우 개인정보 침해행위의 중지 등 필요한 조치를 할 수 있고, 범죄혐의가 있다고 인정되면 관할 수사기관에 고발할 수 있다.

개인정보위 관계자는 "이루다 관련해 사실확인을 하고 위법 사항이 발견되면 그에 따른 조치를 취할 것"이라며 "필요시 스캐터랩 측에 자료 요청을 할 수 있다"고 말했다.

논란이 커지자 스캐터랩 측은 연애의 과학 앱 공지를 통해 "학습에 사용된 모든 데이터에 대해선 모두 알고리즘 과정을 통해 비식별화가 진행됐다"며 "그럼에도 데이터가 더이상 학습에 활용되길 원하지 않으면 대화 데이터를 삭제할 수 있다"고 밝혔다.

이어 "앞으로 대화 관련 분석 테스트 사용 전에 다시 한 번 데이터 활용에 대한 고지 및 확인 받는 절차를 추가할 계획"이라며 "이 업데이트는 최대한 빠른 시일 내에 진행하도록 하겠다"고 했다.

피해를 주장하는 100여명은 카카오톡 오픈채팅방에서 데이터 제공 사실에 대한 증거를 수집하며 스캐터랩을 상대로 집단 민사소송을 진행을 논의하고 있다.

당초 이루다를 둘러싼 논란은 일부 남초(男超) 사이트에서 '이루다 성노예 만드는 법' 등 성희롱이 등장하면서 촉발됐다. 이어 기존 데이터에서 장애인과 성소수자, 인종 혐오를 학습한 이루다가 이를 표현하면서 사회적 합의 수준에 못 미치는 수준의 서비를 제공한 회사가 문제라는 지적이 나왔다.


son@news1.kr