물리 이해해 소리 더 실감나게 생성하는 AI '파바스' 개발

(대전=뉴스1) 김종서 기자 = 한국과학기술원(KAIST)은 전산학부 오태현 교수 연구팀이 포항공대(POSTECH), 소니 AI 공동 연구진과 함께 영상 속 물리적 상황을 이해해 보다 현실감 있는 소리를 생성하는 인공지능(AI) 기술 '파바스(PAVAS)'를 개발했다고 26일 밝혔다.

파바스는 영상 속 물체 질령, 속도 등 보이지 않는 물리 정보를 스스로 추론해 분석하고 그 결과를 소리 생성 과정에 반영한다.

단순히 '무엇이 보이는지'를 인식하는 수준을 넘어 '왜 이런 소리가 발생해야 하는지'에 대한 물리적 원인까지 AI가 이해하도록 만들어졌다.

연구팀은 파바스를 활용해 공룡이 다가오는 소리, 트램폴린 위에 사람이 뛰는 소리, 재질, 무게에 따른 소리 변화를 기존 AI 모델과 비교 검증했다.

그 결과, 연구팀의 AI는 물체 간 충돌이나 타격 등 물리적 상호작용이 발생하는 장면에서 실제 환경과 매우 유사한 소리를 생성했다. 특히 물체의 질량과 속도가 달라질 때 소리의 크기와 음색도 자연스럽게 변화하는 등 보다 현실감 있는 음향을 구현했다.

기존 상용 소리 생성 AI 모델들이 영상과 오디오를 함께 만드는데 집중했다면, 파바스는 영상 속 객체의 움직임과 충돌 특성을 분석해 장면과 정밀하게 맞아떨어지는 현실적인 효과음을 생성한다는 점에서 차별성을 가진다.

연구팀은 이번 기술이 '물리적으로 일관된 생성 AI(피지컬 AI)' 분야의 새로운 가능성을 제시했다고 설명했다. 피지컬 AI는 단순히 그럴듯한 결과를 만드는 수준을 넘어 현실 세계의 물리 법칙과 인과관계까지 이해하는 AI를 의미한다.

이 기술은 향후 콘텐츠 음향 제작 자동화는 물론, 증강현실(AR)·가상현실(VR) 콘텐츠, 메타버스, 로보틱스 시뮬레이션 등 다양한 분야에서 더욱 몰입감 있는 사용자 경험을 제공할 수 있을 것으로 기대된다.

오 교수는 "기존 생성 AI가 데이터와 모델 규모를 키우는 방식으로 발전해 왔다면, 이번 연구는 AI가 물리량과 인과관계를 직접 이해하도록 설계했다는 점에서 의미가 있다"며 "향후 텍스트·영상·음성 등 다양한 정보를 동시에 이해하고 처리하는 차세대 멀티모달 AI의 핵심 기반 기술로 확장될 수 있을 것"이라고 말했다.

POSTECH 오현빈 통합과정 학생이 제1저자로, 오 교수와 소니 AI 타키다 유타·토시미츠 우에사카·미츠후지 유키 연구원이 공동 저자로 참여한 이번 연구는 컴퓨터 비전 분야 국제 학술대회 'CVPR 2026'에서 전체 논문 중 상위 1% 이내만 선정되는 오랄(Oral) 발표 논문으로 채택됐다. 발표는 오는 6월 6일 진행될 예정이다.

연구는 과학기술정보통신부 기초연구사업 중견연구, 미래창조과학부 미래유망융합기술 파이오니어사업, 과학기술정보통신부 AGI 사업, KAIST 이노코어(InnoCORE) 사업의 지원을 받아 수행됐다.

jongseo12@news1.kr