UNIST "사진 속 캐릭터 3D로 움직이게 만드는 AI 기술 개발"

(울산=뉴스1) 김세은 기자 = 사진 속 2D 캐릭터의 동작을 화면 속 3D 캐릭터가 그대로 따라 움직일 수 있게 만드는 인공지능 기술이 개발됐다.

울산과학기술원(UNIST) 인공지능대학원 주경돈 교수팀은 3D 가우시안 모델이 생성한 3D 캐릭터의 자세를 형태 왜곡 없이 바꿔주는 AI 기술인 '디폼스플랫(DeformSplat, Rigidity-aware 3D Gaussian Deformation)'을 개발했다고 25일 밝혔다.

3D 가우시안 스플래팅은 사진과 같은 2D 데이터를 입력받아 화면에 3D 객체를 재구성해 주는 AI 모델이다.

하지만 가우시안 스플래팅이 재구성한 3D 캐릭터를 만화나 게임에서처럼 움직이게 하려면 여러 각도에서 촬영하거나 연속으로 촬영된 영상 데이터가 필요했다. 데이터가 부족하면 팔, 다리 등이 움직일 때 엿가락처럼 휘어지는 형태 왜곡이 생기기 때문이다.

연구진이 개개발한 디폼스플랫은 사진 한 장만 입력해 주면 형태 왜곡 없이 3D 캐릭터의 자세를 사진 속 자세와 똑같이 움직이게 바꿔준다.

실제 실험 결과, 이 모델이 움직인 3D 캐릭터는 각도를 바꿔 옆이나 뒤에서 보아도 형태 왜곡이 적고 자연스러운 자세를 유지하는 것으로 나타났다.

예를 들어 팔을 드는 동작을 입력했을 경우, 정면뿐 아니라 측면이나 뒤쪽 시점에서도 팔과 몸통의 비율이 흐트러지지 않았고, 관절이 고무처럼 늘어나는 현상도 거의 나타나지 않았다.

연구팀은 가우시안–픽셀 매칭과 강체 부위 분할 기술을 이용해 이 같은 모델을 개발했다.

가우시안–픽셀 매칭은 3D 캐릭터를 구성하는 가우시안 점들과 2D 사진 속 픽셀을 연결해, 사진에 담긴 자세 정보를 3D 캐릭터로 전달하는 기술이다.

또 강체 부위 분할 기술은 자세 변형 시 함께 움직여야 하는 단단한 부위를 스스로 찾아 그룹으로 묶어내는 기술이다.

주경돈 교수는 "개발된 AI는 전문 인력과 고가의 장비에 의존하던 메타버스·게임·애니메이션 등 3D 콘텐츠 제작 분야의 진입 장벽을 낮출 수 있을 것으로 기대된다"고 말했다.

연구 결과는 SIGGRAPH ASIA 2025에 채택됐다. SIGGRAPH ASIA는 컴퓨터과학 분야 세계 최대 국제 학회 단체인 ACM이 주관하는 학회로, 그래픽스와 인터랙티브 기술 분야에서는 가장 영향력 있는 학회로 꼽힌다. 올해 학회는 지난 15일부터 18일까지 홍콩에서 열렸다.

syk000120@news1.kr