엔비디아·인텔·퀄컴 넘나든 노타…'칩 스펙' 넘어 AI 운영 설루션 속도

(서울=뉴스1) 김민석 기자 = 인공지능(AI) 모델 경량화·최적화 기업 노타(486990)가 인텔·엔비디아·퀄컴 등 글로벌 반도체 기업의 각기 다른 하드웨어 환경에서 AI 모델 최적화 사례를 최근 잇달아 공개하고 있다.

영상관제 분야에서는 인텔 전문가용 GPU 'Arc Pro B70'과 노타 비전 에이전트(NVA)를 결합한 패키지 제품을 출시했다. 로봇 분야에서는 퀄컴 드래곤윙 IQ-9075의 NPU와 엔비디아 젯슨 토르 기반 엣지 AI 환경에서 로봇 AI 모델의 구동 성능을 검증했다.

로봇·영상관제 등 산업 AI 시장에서 단순 연산 성능을 넘어 실제 기기에서의 모델 경량화, 추론 지연시간, 배포 편의성이 중요해지는 흐름을 겨냥한 행보라는 분석이다.

4일 업계에 따르면 노타는 지난달 23일 서울 코엑스에서 열린 '휴머노이드 서밋 서울 2026'에서 AI 모델 최적화 플랫폼 '넷츠프레소'를 활용한 로봇 AI 모델 7종의 최적화 성과를 공개했다.

검증은 퀄컴 드래곤윙 IQ-9075의 NPU와 엔비디아 젯슨 토르(Jetson Thor) 기반 엣지 AI 환경에서 진행했다.

대상 모델에는 엔비디아의 그루트(GR00T) N1.7과 코스모스 3 엣지(Cosmos3-Edge), 피지컬 인텔리전스의 π0.5, 허깅페이스의 SmolVLA, MolmoAct2, X-VLA, VLA-JEPA 등 로봇용 AI 모델 7종이 포함됐다.

대표 사례인 엔비디아 그루트 N1.7은 추론 시간이 1602밀리초에서 228밀리초로 줄어, 추론 속도가 약 7배 향상됐다.

실제 로봇팔의 작업 속도도 3배 향상됐다. 로봇 작업 수행 능력을 평가하는 LIBERO 벤치마크에서 성공률은 93%에서 92%로 1%포인트(p) 하락하는 데 그쳤다. 모델 경량화 과정에서 작업 능력 저하를 최소화하면서 로봇의 다음 행동 판단 시간을 줄였다는 설명이다.

노타에 따르면 엔비디아 젯슨 토르 환경에서는 코스모스 3 엣지의 추론 시간을 1711밀리초에서 739밀리초로 줄였다. 노타는 RoboLab 평가에서 원본 모델 수준의 작업 성공률을 유지했다고 밝혔다.

VLA(비전언어행동모델)는 카메라 영상 등 시각 정보와 언어 명령을 함께 입력받아 로봇의 다음 행동 또는 행동 시퀀스를 생성하는 AI 모델이다.

물류·제조·서비스 현장에 로봇 AI를 적용하려면 모델 정확도와 작업 성공률뿐 아니라 추론 지연시간, 메모리 사용량, 전력·발열 조건을 함께 관리해야 한다.

자율이동로봇·협동로봇·휴머노이드처럼 실시간성이 중요한 장비는 통신 연결이 제한되거나 불안정한 현장에서도 빠르게 판단해야 한다. 통신 지연과 전력·메모리 제약이 있는 환경에서는 대형 AI 모델을 로봇 탑재 GPU·NPU 또는 인근 엣지 서버에서 안정적으로 구동하고 작업 지연을 줄이는 최적화 기술의 중요성이 커지는 이유다.

노타는 AI 모델 경량화·하드웨어 최적화 역량을 바탕으로 산업용 영상관제 설루션 사업도 확대하고 있다. 최근 인텔과 영상관제 설루션 '노타 비전 에이전트'(NVA)와 인텔 전문가용 GPU 'Arc Pro B70'을 결합한 패키지 제품을 출시했다.

그간 지능형교통체계(ITS)·산업안전 관제를 도입하는 기업·기관은 CCTV 채널 수와 해상도, 분석 기능, 기존 인프라, 예산 등을 고려해 하드웨어와 AI 설루션을 선택하고 성능을 맞춰야 하는 부담이 있었다.

노타는 Arc Pro B70의 연산 구조에 맞춰 최적화한 NVA와 GPU를 패키지로 제공해 고객의 하드웨어 선정과 모델 최적화 부담을 줄이겠다는 구상이다.

노타는 지난해 대전 지역에 구축한 약 800개 CCTV 채널·200개 스마트교차로 규모 ITS의 운영 환경을 기준으로 성능을 검증했다. 성능 검증에서 Arc Pro B70 GPU 한 장은 영상 채널 32개를 동시에 처리하며 초당 총 540프레임을 분석했다. 채널당 평균 처리량은 초당 16.9프레임으로, 노타가 해당 ITS 운영 환경에서 제시한 목표치인 초당 15프레임을 웃돌았다.

NVA는 컴퓨터 비전(CV)과 비전언어모델(VLM)을 결합한 노타의 영상관제 AI 설루션으로 사람·차량 등 객체의 탐지·추적을 넘어, 영상 속 행동과 상황 맥락을 분석하도록 설계됐다.

채명수 노타 대표는 "최적화 기술의 본질적 가치는 AI가 다양한 산업 현장에서 실질적으로 작동하도록 만드는 데 있다"며 "인텔과의 협력은 소프트웨어 기술과 하드웨어 경쟁력을 결합해 시장이 요구하는 성능을 완제품 형태로 구현한 사례"라고 말했다.

노타의 최근 행보는 고객사가 선택한 GPU·NPU 등 하드웨어에서 AI 모델이 실제 기기·현장 환경에 맞춰 구동되도록 하는 배포·운영 역량을 강화하려는 전략으로 풀이된다.

산업 현장에서는 가용 예산과 기존 인프라 안에서 목표 처리 성능을 확보하려는 수요가 커지고 있다.

업계 관계자는 "칩 자체의 연산 성능이 높아도 현장 기기에서 전력·발열·지연시간을 관리하지 못하면 실제 도입과 운영이 어렵다"며 "로봇·영상관제 등 산업용 엣지 AI 시장에서는 연산 성능과 함께 배포·운영 최적화 역량이 중요해지고 있다"고 말했다.

이어 "GPU·NPU마다 컴파일러와 런타임, 지원 정밀도, 메모리 구조가 달라 모델·하드웨어 조합별 호환성과 성능을 지속적으로 검증해야 한다"며 "노타가 이종 하드웨어 최적화 사업을 확대하려면 이를 안정적으로 유지·고도화하는 역량이 관건"이라고 했다.

ideaed@news1.kr