"AI는 모든 영역에 침투…AI 모델·하드웨어戰 '최적화' 중요" [K-챌린저]

(서울=뉴스1) 정지윤 기자

앞으로 AI 모델과 하드웨어의 조합은 훨씬 다양해질 것입니다.노타는 AI가 어디서 구동되든 그 아래에서 효율을 책임지는 기술 인프라 회사가 되고 싶습니다.

인공지능(AI) 시장의 경쟁 축이 단순히 더 좋은 모델을 만드는 것을 넘어 실제 서비스 환경에서 AI를 얼마나 효율적으로 구동하느냐로 옮겨가고 있다. AI 모델이 고도화되고 에이전트와 휴머노이드 등 적용 분야가 넓어지면서 제한된 컴퓨팅 자원 안에서 성능과 효율을 동시에 잡는 'AI 최적화'의 중요성이 커지고 있다.

채명수 노타 대표는 뉴스1과의 인터뷰에서 "'주어진 하드웨어, 인프라 안에서 AI를 얼마나 효율적으로 구동되고 운영할 것인가'는 지난 10여년간 노타가 계속해서 해결해 온 문제"라고 강조했다.

채 대표는 "기존의 AI 모델 최적화는 하나의 모델을 특정 하드웨어에서 효율적으로 실행하는 데 초점이 맞춰져 있었다면, AI 에이전트 시대에는 하나의 모델만 잘 돌아가서는 충분하지 않다"고 말했다.

그는 "여러 모델과 에이전트가 동시에 추론하고, 상황에 따라 서로 다른 모델과 컴퓨팅 자원을 사용한다"고 설명했다.

그 예시로 자율주행 자동차를 들었다. 자율주행 차량은 주변 사물을 인식하고, 상황을 이해하고, 행동을 결정하는 여러 모델과 기능이 동시에 작동한다. 이를 최적화하기 위해선 각 모델뿐만 아니라 각 모델 사이의 실행 순서나 자원 배분, 전체 시스템의 조율까지 함께 최적화해야 한다는 것이다.

채 대표는 "노타의 기술도 모델, 에이전트, 시스템, 오케스트레이션으로 확장되고 있다"며 "AI의 최신 기술 흐름에 맞춰 노타의 최적화 기술도 모바일·엣지에서 데이터센터, 엔터프라이즈 AX, 피지컬 AI까지 적용 범위를 넓히고 있는 것"이라고 설명했다.

이어 "결국 'AI가 실제 환경에서 얼마나 효율적으로 구동되고 운영될 수 있는가'라는 문제는 그대로이고, 그 문제를 해결하는 범위가 모델 하나에서 시스템 전체로 커지고 있다"고 강조했다.

노타는 AI 모델 최적화 플랫폼 '넷츠프레소'를 중심으로 AI 모델의 양자화, 프루닝, 그래프 최적화 등을 지원하고 있다.

채 대표는 넷츠프레소의 차별점으로 특정 AI 모델이나 칩에 한정되지 않고 다양한 하드웨어와 모델을 최적화할 수 있다는 점을 꼽았다.

채 대표는 "양자화나 프루닝과 같은 개별 최적화 기법은 이미 오픈소스로 많이 공개돼 있고, 반도체 기업도 자사 칩에 맞는 SDK와 최적화 도구를 제공하고 있다"며 "하지만 고객이 실제로 사용하는 환경에서는 모델도 다르고 하드웨어도 다르다. 같은 모델이라도 어떤 환경에서 구동하는지에 따라 결과가 달라지고, 단순히 모델 크기를 줄인다고 실제 처리 속도가 빨라지는 것도 아니다"라고 꼬집었다.

이어 "노타는 모델 구조와 하드웨어의 연산 특성을 함께 분석해 정확도, 메모리 사용량, 처리량, 응답속도 등을 실제 목표 하드웨어에서 검증한다"며 "데이터센터 GPU부터 모바일 AP와 NPU, 엣지 디바이스까지 다양한 환경에서 이러한 경험을 축적해 온 것이 가장 큰 경쟁력"이라고 짚었다.

모델 최적화 과정에서 지원되지 않는 연산이나 하드웨어 조합으로 오류가 발생할 수 있는데, 넷츠프레소는 사전에 검증된 동작과 유효성 정책안에서 최적화를 수행하도록 해 안정성을 확보하는 데 초점을 맞추고 있다는 설명이다.

채 대표는 "기존에는 숙련된 엔지니어가 수많은 설정값과 최적화 방법을 직접 조합하면서 최적점을 찾아야 했지만, 이제는 목표만 제시하면 최적화 레시피를 찾아주는 자동화 플랫폼으로 진화하고 있다"고 말했다.

노타의 최적화 기술은 국가 AI 프로젝트를 통해 적용 영역을 넓히고 있다. 노타는 '독자 AI 파운데이션 모델 프로젝트', '모두의 AI', 'K-온디바이스 AI 반도체 기술개발사업' 등에 참여해 AI 모델 경량화와 최적화 역할을 맡고 있다.

독자 AI 파운데이션 모델 프로젝트에서는 업스테이지 컨소시엄에 참여해 '솔라 오픈 2 250B' 모델 크기를 약 76.5% 줄였다. 이에 따라 기존 H100 GPU 8장이 필요했던 모델을 2장에서도 구동할 수 있도록 했다.

'모두의 AI'에서는 SK텔레콤 컨소시엄에 참여해 AI 모델과 인프라 운영 효율을 높이는 최적화를 담당한다. 고성능 AI 모델을 만드는 단계에서 최적화하는 것을 넘어 실제 국민 대상 서비스로 제공할 때 같은 인프라에서 더 많은 요청을 빠르고 안정적으로 처리할 수 있도록 하는 역할이다.

피지컬 AI 분야에서는 LG전자, 모빌린트와 함께 'K-온디바이스 AI 반도체 기술개발사업'에 참여한다. 노타는 휴머노이드 분야 3세부 과제 주관기관으로 비전언어행동모델(VLA)을 경량화하고 국산 NPU의 연산 구조와 실제 로봇 환경에 맞게 최적화하는 역할을 맡았다.

채 대표는 "대상이 스마트폰에서 데이터센터, 대규모 AI 서비스, 휴머노이드로 확대됐을 뿐 '주어진 연산 자원 안에서 AI 모델을 효율적으로 구동한다'는 최적화의 본질은 같다"고 평가했다.

그러면서 정부 프로젝트 참여를 통해 "국가대표 파운데이션 모델부터 대규모 서비스, 피지컬 AI까지 서로 다른 환경에서 기술력을 검증하고 레퍼런스를 축적할 수 있다는 점이 의미 있다"며 "향후 국내외 데이터센터와 엔터프라이즈 AI, AI 반도체, 피지컬 AI 시장으로 사업을 확대하는 기반이 될 것"이라고 기대했다.

노타는 향후 반도체 라이선스나 로봇 등 특정 산업에 집중하기보다 AI 최적화 플랫폼을 중심으로 다양한 시장에서 반복적인 매출을 만드는 구조를 목표로 하고 있다.

채 대표는 "같은 AI 모델이라도 데이터센터 GPU에서 구동할 때와 모바일 NPU, 자동차나 로봇의 AI 반도체에서 구동할 때 필요한 최적화 방식이 다르다"며 "특정 모델이나 특정 반도체에 종속되기보다 이처럼 다양한 AI 모델과 하드웨어 사이에서 실제 구동 성능과 효율을 높이는 공통 최적화 레이어를 지향한다"고 말했다.

현재 노타는 AI 모델 최적화 플랫폼 넷츠프레소를 반도체 기업과 AI 인프라, 기업 고객에게 제공하는 동시에, 최적화 기술을 '노타 비전 에이전트'와 같은 설루션에 적용해 지능형교통체계, 산업안전, 공공 관제 등으로 사업을 확장하고 있다.

특히 고객 기반을 확대하고 기존 고객으로부터 다시 재구매를 이끌어내는 구조를 성장 동력으로 보고 있다. 노타에 따르면 실제 고객사 수는 2021년 대비 2025년 10배 이상 증가했으며, 2026년 상반기 매출의 59.1%가 기존 고객을 기반으로 발생했다.

글로벌 시장에서도 Arm, AWS, 인텔, 엔비디아, 퀄컴, AMD 등 AI·반도체 생태계와 협력 범위를 넓히고 있다.

노타의 궁극적인 목표는 단순한 'AI 모델 최적화 기업'을 넘어 AI가 사용되는 모든 영역에서 효율을 책임지는 기술 인프라 기업이다.

채 대표는 "노타의 비전은 'AI Everywhere'"라며 "앞으로 AI는 특정 데이터센터나 특정 디바이스에만 존재하지 않고 스마트폰, 자동차, 로봇, 산업장비, 기업 업무 시스템 등 모든 곳에 들어가게 될 것"이라고 말했다.

이어 "모델과 하드웨어의 조합은 훨씬 다양해지고 AI를 실제 환경에서 효율적으로 구동하는 문제가 더 중요해질 것"이라며 "다양한 AI 모델과 하드웨어 사이에서 최적의 성능과 효율을 만들어내는 공통 최적화 레이어가 되는 것이 목표"라고 강조했다.

stopyun@news1.kr