뇌파로 사람 의도 눈치채는 AI…실시간 행동 수정 기술 개발

(대전=뉴스1) 김종서 기자 = 한국과학기술원(KAIST)은 신경과학-인공지능 융합연구센터장 뇌인지과학과 이상완 석좌교수 연구팀이 마이크로소프트연구소 아시아와 국제 공동연구를 통해 인간의 뇌파를 이용해 AI를 실시간으로 인간의 목표에 맞추는 차세대 뇌-컴퓨터 인터페이스(BCI) 기술 '신경 가치 정렬(NVA)'을 개발했다고 10일 밝혔다.

지금까지 AI는 주로 사람의 말이나 행동, 몸짓 등 외부로 드러난 정보를 바탕으로 의도를 추정해 왔다. 문제는 같은 행동이라도 목적이 다를 수 있다는 점이다. 이런 '목표-행동 모호성' 탓에 AI가 사람의 의도를 잘못 이해하면 사용자가 다시 명령하거나 행동을 교정해야 했다.

연구팀은 이 문제를 해결하기 위해 사람이 예상과 다른 상황을 마주했을 때 뇌에서 무의식적으로 발생하는 '예측 오차'에 주목했다.

특히 연구팀은 AI가 사람의 궁극적인 목표 자체를 잘못 이해했을 때 나타나는 '보상 예측 오차(RPE)'와, 목표는 맞지만 행동 과정이나 방식이 예상과 다를 때 나타나는 '상태 예측 오차(SPE)' 등 반응을 두 종류로 구분했다.

연구팀은 AI가 작업하는 모습을 지켜보는 사람의 실시간 뇌파(EEG)를 측정해 AI가 목표 자체를 잘못 이해했을 때와 목표는 맞지만 행동 방식이 잘못됐을 때 사람의 뇌가 서로 다른 신호를 보내는 것을 확인했다. 두 가지 오류가 동시에 발생했을 때 나타나는 특징적인 뇌파 패턴도 찾아냈다.

여기에 딥러닝을 적용해 뇌파만으로 사람이 AI의 행동을 어떻게 받아들이고 있는지를 구분하는 기술을 개발했다. 이어 이렇게 읽어낸 뇌 신호를 AI에 실시간으로 전달해 스스로 행동을 고치도록 하는 '신경 가치 정렬 기반 인간-AI 시너지' 알고리즘을 제안했다.

기술이 적용된 AI는 상태 예측 오차(SPE)가 감지되면 '원하는 목표는 맞지만 방법이 잘못됐다'고 판단해 행동 방식을 바꾼다. 보상 예측 오차(RPE)가 나타나면 '목표 자체를 잘못 이해했다'고 판단해 사람이 실제로 원하는 것이 무엇인지 다시 찾는다.

시뮬레이션 결과, 사람의 목표가 갑자기 바뀌거나 일부 신호가 빠지는 등 불확실한 상황에서도 기존 방식보다 빠르게 사람의 의도 변화에 적응하는 것으로 나타났다.

향후 기술이 발전하면 가정이나 산업 현장의 피지컬 AI 로봇이 사용자의 의도를 보다 자연스럽게 파악하고 행동을 조정하는데 활용될 수 있다. 자율주행차가 운전자의 판단을 빠르게 반영하거나 의료·재활 로봇 제어, AI가 학생의 인지 상태에 맞춰 학습을 돕는 기술로도 확장될 수 있다.

연구팀은 뇌파 신호 해독을 AI 시스템이나 실제 로봇의 적응에 직접 연결하는 시스템을 개발하고 인지 안전 메커니즘을 갖춰 더 현실적이고 역동적인 환경에서 기술 접근법을 검증할 계획이다.

연구를 주도한 이 교수는 "이번 연구는 행동 이면에서 발생하는 뇌의 인지 신호를 AI와의 협업에 직접 활용할 수 있음을 보여줬다는데 의미가 있다"며 "향후 인간의 판단과 AI의 행동을 긴밀하게 연결해야 하는 다양한 분야로 확장될 수 있을 것"이라고 설명했다.

이미란 MS연구소 전무는 "양 기관의 협력을 통해 인간과 AI가 보다 자연스럽게 소통하고 협력할 수 있는 세계적 수준의 BCI 기술 개발을 이어갈 것으로 기대한다"고 말했다.

KAIST 뇌인지과학과 박사과정 서흔 학생이 제1저자로, MS연구소 아시아 얀센 왕, 동치 한, 동쉔 리 박사 등이 공동 연구진으로 참여한 이번 연구 결과는 사이버네틱스 분야 대표 국제 학술지 'IEEE 트랜잭션스 온 사이버네틱스(IEEE Transactions on Cybernetics)'에 온라인 게재됐다.

jongseo12@news1.kr