노타 채명수 "고사양 GPU 추가보다 기존 인프라 활용 대세" [K-챌린저]

채명수 노타(Nota AI) 대표는 뉴스1과 인터뷰에서 인공지능(AI) 모델 경량화나 개별 칩 최적화를 넘어 고객의 AI 도입 전 과정을 지원하는 기업으로 성장하겠다며 이같이 말했다.

AI를 현장에 도입하려면 모델 성능뿐 아니라 하드웨어별 지연시간과 처리량, 전력 조건을 함께 검증해야 한다. 노타는 고객이 장비 선정과 모델 최적화를 각각 진행하는 부담을 줄이는 데 사업의 초점을 맞췄다.

채 대표는 "고객이 특정 모델이나 하드웨어에 국한되지 않고 다양한 AI 모델과 하드웨어 중 목적에 맞는 선택을 할 수 있도록 지원한다"며 "앞으로 AI는 하나의 모델과 하나의 GPU에서 작동하는 것이 아닌 여러 모델과 에이전트, GPU·CPU·NPU 등 다양한 컴퓨팅 자원이 연결된 형태로 발전할 것"이라고 내다봤다.

노타는 지난달 23일 서울 코엑스에서 열린 '휴머노이드 서밋 서울 2026'에서 AI 모델 최적화 플랫폼 '넷츠프레소'를 활용한 로봇 AI 모델 7종의 최적화 성과를 공개했다. 검증은 퀄컴 드래곤윙 IQ-9075의 NPU와 엔비디아 젯슨 토르(Jetson Thor) 기반 엣지 AI 환경에서 진행했다.

대표 사례인 엔비디아 그루트 N1.7의 추론 시간은 1602밀리초(㎳)에서 228㎳로 줄었다. 추론 속도는 약 7배, 로봇팔 작업 속도는 3배 개선됐다.

반면 로봇 작업 수행 능력을 평가하는 LIBERO 벤치마크에서 성공률은 93%에서 92%로 1%포인트(p) 하락하는 데 그쳤다. 모델 경량화 과정에서 작업 능력 저하를 최소화하면서 로봇의 다음 행동 판단 시간을 줄였다는 설명이다.

채 대표는 "퀄컴과 엔비디아 환경에서 진행한 로봇 AI 최적화는 동일한 AI 모델을 서로 다른 하드웨어에서 실제 구동 가능한 수준으로 최적화한 사례"라고 말했다.

인텔과 선보인 영상관제 설루션 'NVA'·'Arc Pro B70' 결합 패키지도 같은 전략이다. GPU와 AI 소프트웨어를 묶어 고객이 장비를 별도로 선정한 뒤 모델을 최적화하는 부담을 줄였다.

노타는 대전 지능형교통체계(ITS) 운영 환경을 기준으로 한 검증에서 GPU 한 장으로 폐쇄회로(CC)TV 영상 32채널을 동시에 처리하고 초당 540장의 화면을 분석했다고 밝혔다. 채널당 평균 처리량은 초당 16.9장으로, 제시한 운영 목표인 초당 15장(프레임)을 웃돌았다.

채 대표는 "인텔과 선보인 Arc Pro B70 기반 패키지는 고객의 하드웨어 선택권과 도입 편의성을 높인 사례"라며 "실제 현장에서 요구하는 처리량과 성능, 가격 경쟁력이라는 조합을 제공해 AI 도입 과정의 복잡성을 줄였다"고 설명했다.

채 대표는 노타가 지난 10여년간 모바일과 엣지에서 데이터센터와 영상관제, 로봇까지 적용 영역을 넓혔지만 실제 환경에서 AI를 효율적으로 구동한다는 원칙은 일관됐다고 강조했다.

그는 "특정 모델이나 특정 반도체에 종속되지 않고 다양한 AI 모델을 서로 다른 하드웨어에서 효율적으로 구동하는 문제를 해결해 왔다"며 고객이 장비의 제약 때문에 원하는 모델을 포기하지 않도록 하는 것이 지향점이라고 말했다.

최신 모델을 도입하기 위해 반드시 장비를 늘릴 필요는 없다는 게 채 대표의 판단이다. 소프트웨어 최적화로 기존 인프라의 활용도를 높이면 같은 자원으로 더 큰 모델을 실행하거나 확보된 자원을 다른 서비스에 배분할 수 있다는 설명이다.

채 대표는 "최신 AI 모델을 도입하기 위해 반드시 더 많은 고사양 GPU를 추가하는 것이 아니라 소프트웨어 최적화를 통해 기존 AI 인프라의 활용도를 높일 수 있다"고 했다.

노타가 확장하려는 영역은 하드웨어 선정부터 실제 배포·운영까지다. 모델의 정확도가 높더라도 현장 조건을 충족하지 못하면 도입이 어려워지는 문제를 해결하겠다는 목표다.

채 대표는 "로봇은 반응 속도가, 영상관제는 한정된 연산 자원으로 얼마나 많은 영상을 안정적으로 처리하느냐가 중요하다"며 "모델 자체의 성능과 실제 현장에서 체감하는 성능 사이의 간극을 줄이는 기업이 되고자 한다"고 말했다.

△1989년생 △숭실대학교 산업정보시스템공학 학사 △한국과학기술원(KAIST) 산업 및 시스템공학 석사 △2015.09~2017.10 KAIST ITC연구소 선임연구원 △2017.11~2018.08 KAIST AI연구소 선임연구원 △2018.09~2020.11 노타 CEO 겸 CTO △2020.12~현재 노타 CEO △2025.12 소프트웨어 산업인의 날 국무총리상 수상

ideaed@news1.kr