"AI 쓰다가 안 썼더니 오히려 원래 역량 줄어"

(서울=뉴스1) 이기범 기자 = 숙련된 의사가 인공지능(AI) 기술을 이용해 의료행위를 하다가 AI를 더이상 사용하지 않으면 어떻게 될까.

폴란드에서 평균 경력 27년의 숙련된 내시경 전문의 19명의 대장내시경 검사 결과를 놓고 AI 도입 전 3개월과 도입 후 3개월의 성과를 비교 분석하는 관찰 연구가 진행됐다. 그 결과 선종 발견율이 6% 떨어지는 등 AI 사용 경험 후 의사의 독립적 수행 능력이 저하된 점이 확인됐다. AI를 쓰다가 안 썼더니 본래보다 역량이 떨어졌다는 얘기다.

김주호 KAIST 전산학부 교수는 지난 1일 오후 과학기술정보통신부가 주최한 'AI 안전 국민 공감 토크콘서트'에서 'AI 위험 대응을 위한 기술·제도 제언'을 주제로 강연하며 AI와 인간의 역량을 둘러싼 연구 결과들을 소개했다.

김 교수는 여러 연구 결과를 인용하며 "AI를 쓰다가 안 쓰면 과의존과 주의력 저하를 유발해 스스로 판단하는 법을 잊어버리게 될 수 있다"며 원래보다 역량이 떨어질 수 있다고 경고했다.

김 교수가 제시한 사례는 또 있다.

중학교 영어 수업에 AI 글쓰기 도구를 6주간 도입해 연구한 결과 잘하는 학생은 AI를 도구로, 못하는 학생은 대리인으로 AI를 썼다며 AI가 오히려 교육 격차를 벌려 개인차를 증폭시킬 수 있다고 꼬집었다.

김 교수는 "AI가 사람에 미치는 영향을 모르면 대응할 수 없다. 지금 대부분의 현장은 생산성과 효율성만 보고, 역량 변화는 아무도 보지 않는다"며 "의료·교육·법률 등 고위험 분야 AI 도입 전후 인간 역량 평가를 체계화하고, AI 활용에 따른 인간 역량 변화를 추적하는 연구를 국가적으로 지원해야 한다"고 말했다.

또한 김 교수는 AI로 업무가 대체되면서 초보자가 성장할 기회가 사라지고 있다며 다음 세대를 위한 성장 경로를 보호할 필요가 있다고 짚었다.

김 교수는 "AI 안전의 궁극적 목표는 AI 시대에서 사람이 스스로 생각하고, 성장하고, 선택할 수 있는 힘을 지켜내는 것"이라고 강조했다.

이번 토크콘서트는 국민 눈높이에 맞는 AI 안전 정책을 수립하기 위한 소통의 장으로 마련됐다. 이혜성 아나운서가 사회를 맡았으며, 류제명 과기정통부 제2차관, 김지현 SK AI위원회 부사장, 김주호 KAIST 교수, 이상욱 한양대 교수 등이 패널로 참여했다.

류 차관은 "AI 위험은 AI에 대한 국민들의 수용성을 저해하고 혁신의 속도에 비례하여 위험 역시 빠르게 확산될 수 있다"며 "AI 혁신만큼이나 AI 안전을 확보하는 것은 AI 시대를 맞은 우리에게 가장 중요한 과제가 될 것"이라고 말했다.

이어 그는 "AI 시대의 경쟁력은 단순히 기술혁신을 이뤄내는 것만이 아니라 그 기술에 대한 신뢰를 얼마나 확보하느냐에 달려있다고 해도 과언이 아닐 것"이라고 말했다.

아울러 류 차관은 "AI가 인류에 미치는 영향이 산업혁명의 10배라고 얘기가 될 정도로 혁신의 동력으로서 긍정적 힘과 다양한 부작용 등 두 측면에서 인류에 미치는 영향과 힘이 너무 크다는 생각이 든다"며 "국민들이 AI 쓰나미에 휩쓸려가지 않고, 거대한 파도의 힘을 잘 활용해 배를 만들고, 그 위험에서 도태되거나 낙오되지 않도록 안전장치를 마련하는 데 정부의 역할이 있다"고 말했다.

Ktiger@news1.kr