인간의 유동적 문제해결 방식을 모사하는 메타 강화학습 모델 그림(KAIST 제공)© 뉴스1

KAIST 바이오및뇌공학과 이상완 교수 연구팀이 뇌 기반 인공지능 기술을 이용해 과적합-과소적합 상충 문제를 해결하는 원리를 풀어내는 데 성공했다.

이는 그동안 인공지능의 오랜 난제를 해결한 것으로 차세대 인공지능으로의 발전이 기대된다.5일 KAIST에 따르면 최근 인공지능 모델들은 다양한 실제 문제들에 대해 최적의 해법을 제시하고 있다.

하지만, 상황 변화에 ​유동적으로 대응하는 부분에서는 여전히 어려움을 겪고 있다.

특히, 인간이 ​현재 주어진 ​문제​에 집중하면서도(과소적합 문제해결), ​당면 문제에 과하게 집착하지 않고​(과적합 문제해결)​ 변하는 상황에​ 맞게 유동적으로 대처​하는 것을 인공지능에 적용하는 것은 난제 중 난제였다.  이에 연구팀은 ​뇌 데이터, 확률과정 추론 모형, 강화학습​ 알고리즘을​ 이용해 인간의 뇌가 이 문제를 ​어떻게 해결하는지에 대한 이론적 틀을 마련하고 이로부터 유동적인 메타 강화학습 모델을 도출해냈다.

놀랍게도 인간의 뇌는 ​중뇌 도파민 회로와 전두엽에서 처리​되는 ​예측 오차의 하한선(prediction error lower bound) 이라는 단​ 한 가지 정보를 이용해 ​이 문제를 해결했다.

연구팀이 도출한 모델은 ​우리의 전두엽(복외측전전두피질)은 현재 내가 사용하고 있는 문제해결 방식으로 주어진 문제를 얼마나 잘 풀 수 있을지(‘이렇게 풀면 90점까지는 받을 수 있어’)에 대한 기대치의 한계를 추정한다.

또, 변화하는 상황에 맞춰 최적인 문제 해결전략을 유동적으로 선택하는 과정(‘이렇게 풀면 기껏해야 70점이니 다르게 풀어보자’)을 통해 과소적합-과적합의 위험을 최소화하게 ​된다​.​

이상완 교수 연구팀은 이전 연구에서 정립한 ‘전두엽 메타 학습 이론’을 토대로 이번에 인공지능의 오랜 난제 중 하나인 과소적합-과적합 상충 문제를 실제로 풀어냈다.

이번에 연구팀이 개발한 ‘메타 강화학습 모델’을 이용하면 간단한 게임을 통해 인간의 유동적 문제해결 능력을 간접적으로 측정할 수 있다.

더 나아가 스마트 교육이나 중독과 관련된 인지행동치료에 적용할 경우 상황 변화에 유동적으로 대처하는 인간의 문제해결 능력 자체를 향상할 수 있을 것으로 기대된다.

이번에 개발된 모델은 차세대 인공지능, 스마트 교육, 인지행동치료 등 다양한 분야에 파급력이 큰 원천 기술로, 이미 국내 및 해외 특허 출원이 완료된 상태다.

연구 책임자인 이상완 교수는 “인간의 다양한 고위 수준 능력을 인공지능 이론 관점에서 형식화하는 연구를 통해 인간 지능의 비밀을 하나씩 풀어나갈 수 있을 것으로 기대된다”고 말했다.

연구팀은 향후 딥마인드, IBM 인공지능 연구소, MIT, 옥스퍼드 대학 등 국제 공동연구 협약 기관과 공동연구를 통해 기술의 파급력을 높여나갈 계획이다.

한편, 이번 연구성과는 국제학술지 셀(Cell)의 오픈 액세스 저널인 ‘셀 리포트’에 지난달 28일자 온라인판에 게재됐다.


km5030@news1.kr