"AI칩 성능, 최적화 모델이 살린다"…노타, K-NPU 생태계 공략

(서울=뉴스1) 김민석 기자 = 인공지능(AI) 가속기 시장에서 칩의 연산 성능뿐 아니라 동일한 연산 인프라에서 AI 모델을 얼마나 빠르고 효율적으로 구동할 수 있는지가 경쟁력으로 부상하고 있다.

GPU 외에 NPU와 AI 추론용 ASIC 등 가속기 선택지가 다변화하면서 각 하드웨어의 연산 구조와 실행 환경에 맞춰 AI 모델을 경량화·변환·배포하는 소프트웨어의 중요성도 부각되고 있다.

9일 업계에 따르면 AI 모델 경량화·최적화 기업 노타(486990)는 자사 플랫폼 '넷츠프레소'를 앞세워 AI 반도체·하드웨어 기업과 AI 도입 기업을 공략하고 있다.

반도체 기업에는 고객사의 AI 모델이 자사 칩에서 효율적으로 구동되도록 지원하는 최적화·배포 플랫폼을, 기업 고객에는 AI 추론 인프라의 구축·운영비를 절감할 수 있는 도구를 제공한다는 전략이다.

AI칩 기업이 높은 연산 성능을 앞세워도 고객 모델이 해당 하드웨어에서 요구 수준의 정확도와 응답속도, 안정성을 확보하지 못하면 상용화 경쟁력을 갖추기 어렵다.

AI 모델을 직접 운영하는 기업은 목표 하드웨어와 서비스 요구 수준에 맞춰 모델 구조와 연산량, 메모리 사용량, 추론 지연시간을 최적화할 필요가 있다. 같은 AI 모델도 적용 칩과 메모리 구성, 실행 정밀도, 컴파일러·런타임, 병렬 처리 방식에 따라 필요한 가속기 수와 전력 사용량, 추론 지연시간·처리량이 달라질 수 있어서다.

노타의 넷츠프레소는 AI 모델을 대상 CPU·GPU·NPU의 연산 구조와 실행 환경에 맞춰 최적화·검증하는 하드웨어 인지형 플랫폼이다. 고객 AI 모델에 프루닝·양자화·그래프 최적화 등을 적용해 모델 크기와 연산량, 메모리 사용량을 낮추고 실행 성능을 최적화한다.

최적화 모델을 대상 기기용 형식으로 변환·컴파일한 뒤 실제 기기에서 지연시간과 메모리 사용량 등을 측정·검증하는 과정도 지원한다. 반도체·하드웨어 기업에는 라이선스 기반 플랫폼을, AI 모델을 직접 운영하는 기업에는 최적화 설루션을 제공하는 방식으로 고객군을 넓히고 있다.

노타는 올해 퓨리오사AI·Arm·모빌린트 등 AI 반도체·하드웨어 기업과 기술 공급 또는 협력 계약을 체결했다. 5월에는 모빌린트와 AI 최적화 기술 공급 및 전략적 파트너십 계약을 맺었다.

모빌린트는 MLA100·MLA400 기반 NPU 제품군에 넷츠프레소를 라이선스 방식으로 도입했다. 모빌린트 고객은 목표 하드웨어 환경에 맞춰 경량화·압축·최적화한 AI 모델과 관련 구동 환경을 제공받을 수 있다. 양사 계약 기간은 2026년 5월부터 2029년 5월까지다.

노타는 3월 Arm Limited와 2028년 3월 31일까지 AI 소프트웨어 공급 계약을 체결했다. 삼성전자 차세대 모바일 AP '엑시노스 2600'과 퓨리오사AI NPU 'RNGD'(레니게이드)에도 AI 모델 최적화 기술을 공급하는 계약을 각각 체결했다.

노타는 LG전자·모빌린트와 추진하는 국산 NPU 기반 휴머노이드 개발 과제에서, 휴머노이드 탑재를 목표로 하는 비전언어행동모델(VLA)을 경량화하고 모빌린트 NPU와 실제 로봇 구동 환경에 맞춰 최적화하는 소프트웨어 개발을 맡는다.

LG전자는 산업통상자원부와 한국산업기술기획평가원(KEIT)이 추진하는 'K-온디바이스 AI 반도체 기술개발 사업'의 휴머노이드 분야 과제에서 사업 전체를 총괄하고 휴머노이드 시스템을 개발한다. 모빌린트는 휴머노이드의 AI 추론 연산에 활용할 국산 NPU 하드웨어를 공급한다.

VLA는 카메라 등 시각 정보와 언어 지시를 통합해 로봇의 행동·제어 출력을 생성하는 다중모달 AI 모델이다. 시각·언어 정보를 처리하고 행동을 생성하는 과정에서 연산량과 메모리 사용량이 커질 수 있어 배터리와 탑재 가능한 연산 자원이 제한된 휴머노이드에 저지연·저전력으로 구현하려면 별도 최적화가 필요하다.

노타는 토큰 압축·양자화·프루닝·지식증류·레이어별 최적화 등을 적용해 VLA의 성능 저하를 최소화하면서 모델 크기와 연산량, 메모리 사용량을 낮출 계획이다. 최적화 모델이 로봇 내부 NPU에서 구동되면 외부 서버 의존도를 낮추고 기기 내부에서 주변 환경을 인식·판단해 행동하는 온디바이스 AI 구현 가능성을 높일 전망이다.

노타는 올해 8월 문샷AI의 MoE 모델 '키미 K3'를 비균일 전역 프루닝 방식으로 경량화한 모델 2종을 공개하기도 했다. 노타는 구성상 25% 프루닝 모델은 권장 구성인 엔비디아 B300 8장 대신 6장에서, 50% 프루닝 모델은 4장에서 구동할 수 있다고 설명했다.

업계 관계자는 "노타가 모바일·엣지 AI에서 확보한 레퍼런스를 데이터센터와 엔터프라이즈 AI 전환(AX), AI 에이전트 운영 최적화로 확장하고 있다"며 "범용 GPU 의존도를 낮추려는 수요와 NPU·맞춤형 AI칩의 확산 흐름이 시장을 열고 있다"고 말했다.

ideaed@news1.kr