예측 틀려도 한번 더 생각…KAIST '뇌 닮은 AI' 개발

(대전=뉴스1) 김종서 기자 = 한국과학기술원(KAIST)은 뇌인지과학과 이상완 교수 연구팀이 인간 뇌의 학습 원리를 딥러닝에 적용해 깊은 인공지능(AI) 모델도 안정적으로 학습시키는 새로운 기술을 개발했다고 1일 밝혔다.

우리 뇌는 세상을 수동적으로 받아들이지 않는다. 현재 벌어지는 일을 단순히 인식하는데 그치지 않고 '다음에 무슨 일이 일어날까'를 예측해 오차를 줄이는 방향으로 스스로를 수정한다.

바둑에서 상대의 다음 수를 예상했다가 빗나가면 전략을 바꾸는 것과 비슷하다. 이 같은 정보처리 방식을 '예측 부호화'라고 한다.

과학자들은 이 원리를 AI에 적용하려 했지만 난관이 있었다. 신경망이 깊어질수록 오차가 특정 부위에 몰리거나 아예 사라져 성능이 떨어지는 문제가 반복됐다.

연구팀은 그 원인을 수학적으로 규명하고 새로운 해법을 제시했다. 핵심은 단순하다. AI가 결과만 예측하는 것이 아니라 '예측 오차가 앞으로 어떻게 변할지'까지 다시 예측하도록 만든 것이다. 연구팀은 이를 '메타 예측'이라 설명한다. 이 방식을 적용하자 깊은 신경망에서도 학습이 멈추지 않고 안정적으로 진행됐다.

실험 결과도 인상적이다. 총 30가지 실험 중 29개에서 현재 AI의 표준 학습법인 '역전파'보다 높은 정확도를 기록했다. 역전파는 AI가 틀린 만큼 거꾸로 되돌아가며 고치는 현재의 대표적 학습 방법이다.

기존 AI 학습방식(역전파)은 모든 층이 서로 긴밀하게 연결돼 있어 전체 네트워크를 한 번에 계산하고 한 번에 수정해야 한다. 반면 메타 예측은 뇌처럼 분산적·부분적으로 학습해도 큰 AI 모델을 잘 학습시킬 수 있음을 입증했다.

이번 기술은 전력 효율이 중요한 뉴로모픽 컴퓨팅, 환경에 적응해야 하는 로봇 AI, 기기 내부에서 작동하는 엣지 AI 등 다양한 분야로 확장될 것으로 기대된다.

이 교수는 "뇌의 구조를 단순히 모방한 것이 아니라 뇌의 학습 원리 자체를 AI가 따르도록 만든 것이 이번 연구의 핵심"이라며 "뇌처럼 효율적으로 배우는 인공지능의 가능성을 열었다"고 말했다.

하명훈 박사가 제1저자, 이 교수가 교신저자로 참여한 이번 연구 성과는 인공지능 국제학회 'ICLR 2026'에 채택돼 온라인 게재됐다.

연구는 과학기술정보통신부·정보통신기획평가원 디지털분야글로벌연구지원사업(마이크로소프트연구소 공동연구), 삼성전자 SAIT NPRC 사업, SW스타랩 사업의 지원을 받아 수행됐다.

jongseo12@news1.kr