이론신경과학자의 AI 시대 생존법 "AI와 대화 말고 논쟁하라"

(서울=뉴스1) 신기림 기자

AI와 대화하는 법이 아니라 AI와 논쟁하는 법을 배워야 한다.

인공지능(AI) 시대에 가장 중요한 역량은 질문에 답하는 능력이 아니라 AI의 답을 의심하고 반박하는 능력이라는 조언이 나왔다.

이론신경과학자인 비비안 밍은 8일(현지시간) 파이낸셜타임스(FT) 기고문을 통해 "AI와 대화하는 법이 아니라 AI와 논쟁하는 법을 배워야 한다"고 조언했다.

'로봇 프루프(robot-proof, 로봇 내성): AI시대의 고등교육'의 저자인 밍은 학생들에게 동일한 AI 도구를 사용해 과제를 수행하게 하면서 뇌파(EEG)를 측정한 실험을 소개했다.

실험 결과 겉으로 보기에는 모든 학생이 비슷하게 AI를 활용하는 것처럼 보였지만 뇌 활동은 전혀 달랐다.

대부분 학생들의 경우 인지 활동과 관련된 고주파 감마파가 AI 사용 후 빠르게 감소했다. 문제를 해결하는 상태보다 TV를 시청하는 상태에 가까워졌다는 것이다.

반면 일부 학생들은 오히려 감마파가 강해졌다. 이들은 AI가 제시한 답변을 그대로 받아들이지 않고 반박하거나 추가 질문을 던지며 AI와 적극적으로 토론한 학생들이었다.

밍은 "최종 결과물은 비슷해 보일 수 있지만 장기적으로 지적 성장을 이루는 쪽은 AI와 논쟁한 학생들"이라고 설명했다.

밍은 생성형 AI의 가장 큰 위험으로 '유능함의 환상(illusion of competence)'을 지목했다. 생성형 AI는 사용자가 실제로 이해하지 못했지만 마치 이해한 것 같은 느낌을 준다는 것이다.

그는 2019년 하버드대 연구를 인용해 "학생들은 스스로 문제를 풀며 씨름할 때 더 많이 배우지만 오히려 덜 배웠다고 느낀다"며 "반대로 강의를 듣거나 AI의 답을 받아들이는 과정은 쉽게 이해한 것 같은 착각을 준다"고 설명했다. 인간의 뇌가 "배움의 고통"보다 "이해했다는 느낌"을 선호하기 때문이라고 밍은 부연했다.

그는 지난 수년간 약 6만명의 대학생과 MBA 학생들의 토론수업을 분석한 연구도 소개했다. 점수가 가장 높은 학생들은 토론 과정에서 틀리는 횟수가 가장 많았다. 이들은 자신의 가설을 제시하고 검증하며 공개적으로 실수를 반복했다.

반면 무난하게 수업을 통과한 학생들은 틀릴 가능성이 있는 주장 자체를 거의 하지 않았고, 낙제한 학생들은 학습보다 잡담에 시간을 보냈다. 밍은 "AI 시대에 중요한 것은 정답을 맞히는 능력이 아니라 틀릴 위험을 감수하며 질문하는 능력"이라고 강조했다.

그는 각국 정부의 AI 규제 방향도 재검토해야 한다고 주장했다. 유럽연합(EU) AI법은 고위험 AI 시스템에 대해 인간 감독(human oversight)을 의무화하지만 밍은 "사람을 시스템 안에 넣는 것만으로는 부족하다"고 반박했다.

설득력 있게 답하는 AI와 함께 일할 경우 사람은 쉽게 '자동화 편향(automation bias)'에 빠지기 때문이라고 그는 설명했다.

결국 인간은 AI의 답을 검토하는 존재가 아니라 AI가 내놓은 결과에 도장을 찍는 사무원으로 전락할 수 있다고 밍은 경고했다.

그는 영국 AI안보연구소(AISI), 미국 AI안전연구소(CAISI), EU AI사무국 등이 AI 자체의 성능만 평가할 것이 아니라 "AI가 인간의 사고력을 향상시키는지 약화시키는지"도 측정해야 한다고 주장했다.

이를 위해 인간과 AI의 협업 효과를 측정하는 '하이브리드 지능 지수(Hybrid Intelligence Index)' 도입을 제안했다.

그러면서 밍은 해결책으로 마찰(friction)을 강조했다. 그는 실험에서 AI에게 정답 대신 질문을 던지도록 설정했더니 적극적으로 사고하는 학생 비율이 두 배 이상 증가했다고 소개했다.

결국 AI 시대의 경쟁력은 AI를 얼마나 많이 사용하는지가 아니라 AI의 답을 얼마나 의심하고 검증할 수 있는지에 달려 있다는 주장이다.

밍은 "AI가 지배하는 노동시장에서 자신감 넘치는 기계와 논쟁할 수 있는 사람과 그렇지 못한 사람의 격차는 계속 확대될 것"이라며 "유창한 답변만 추구하는 사회는 결국 가장 필요한 인간의 사고력 자체를 자동화해 없애버릴 위험이 있다"고 경고했다.

shinkirim@news1.kr