금쪽이 망치는 AI 장난감…"사랑해" 말하면 "지침 지켜" 딴소리

(서울=뉴스1) 나연준 기자 = 어린 아이들과 자연스럽게 대화할 수 있는 인공지능(AI) 기반 장난감이 등장하면서 안전 규제를 강화해야 한다는 지적이 나온다.

13일 영국 케임브리지대학교 교육학부 연구진이 발표한 '유아기 AI 연구'(Early Childhood AI Study) 보고서에 따르면 생성형 AI를 탑재한 장난감이 어린 아이와의 상호작용 과정에서 감정을 제대로 이해하지 못하거나 부적절한 반응을 보이는 사례가 확인됐다.

연구는 인간과 유사한 대화를 할 수 있는 AI 장난감이 5세 이하 어린이 발달에 미치는 영향을 분석하기 위해 진행됐다. 연구진은 런던의 한 아동 센터에서 아이들이 AI 인형 '가보'(Gabbo)와 노는 모습을 관찰했다.

일부 아이들은 장난감을 안아주고 친구처럼 대하는 등 정서적인 유대감을 보이기도 했다. 어떤 아이는 장난감에게 숨바꼭질을 하자고 제안하기도 했다.

그러나 장난감의 반응이 어린이의 감정을 제대로 이해하지 못하는 경우도 있었다. 한 다섯살 아이가 장난감에 "사랑해"라고 말하자 "상호작용 시 제공된 지침을 준수해 달라"는 답변이 돌아오기도 했다.

연구진은 로봇의 이러한 반응이 어린 아이들에게 혼란을 줄 수 있다고 지적했다. 연구에 참여한 에밀리 굿에이커 박사는 "장난감은 감정을 잘못 해석하거나 적절하지 않은 답변을 할 수도 있다"고 했다.

한 세 살 아이가 "슬퍼요"라고 하자 장난감은 뜻을 제대로 이해하지 못한 채 "나는 행복한 로봇이야. 계속 재밌게 놀자"고 답하기도 했다. 이런 대화를 통해 아이가 '슬픔'이라는 감정이 중요하지 않은 것으로 인식하게 될 수도 있다는 것이다.

연구진은 여러 AI 장난감을 검토한 결과 일부 제품은 어떤 정보를 수집하고, 이를 어디에 저장하는지 설명하지 않는 경우도 있었다며 개인정보 보호 문제도 우려된다고 지적했다.

연구진은 AI 장난감 확산에 따라 새로운 안전기준이 필요하다고 강조했다. 장난감이 어린이에게 친구처럼 다가가 속마음을 털어놓도록 유도하는 기능을 제한하고, 개인정보 보호 정책도 투명하게 공개해야 한다고 했다.

부모들도 아이가 AI 장난감을 가지고 놀 때 주의해야 한다고도 조언했다. 부모가 아이와 AI 장난감의 상호작용을 관찰하고, 장난감이 하는 말과 아이 감정에 대해서도 많은 이야기를 나눠야 한다고 했다.

아동보호단체인 더 차일드후드 트러스트의 조세핀 매카트니 최고경영자는 "인공지능은 아이들의 놀이와 학습 방식을 혁신적으로 변화시키고 있지만, 발달에 미치는 영향에 대해서는 이제 막 이해하기 시작했을 뿐"이라며 "규제는 혁신의 속도에 맞춰 발전해야 하며, 이러한 기술은 아이들을 보호할 수 있게 설계, 사용, 관리되어야 한다"고 말했다.

yjra@news1.kr