"피지컬 AI 배포 병목 푼다"…딥엑스·AWS, 클라우드-엣지 운영체계 구축

(서울=뉴스1) 김민석 기자 = 초저전력 피지컬 AI 반도체 기업 딥엑스가 NPU를 AWS IoT 인프라와 연계해 인공지능(AI) 모델 변환부터 현장 장비의 신경망처리장치(NPU) 실행 환경 배포·관리까지 연결하는 클라우드-엣지 운영체계를 구축했다.

1일 업계에 따르면 로봇·카메라·산업용 PC 등 현장 장비가 늘어날수록 장비별 드라이버와 펌웨어, AI 모델, 런타임 버전을 관리해야 하는 부담이 커진다. 딥엑스는 AWS 사물인터넷(IoT) 인프라와 자사 NPU를 결합해 이 같은 엣지 AI의 배포·운영 병목을 줄이고 피지컬 AI 확산의 기반을 마련한다는 전략이다.

AWS는 지난달 27일 공식 기술 블로그를 통해 딥엑스 DX-M1 NPU와 AWS IoT Core, AWS IoT Greengrass를 연계한 'DEEPX Greengrass Solution'을 소개했다. 해당 설루션은 개발자가 클라우드에서 준비한 AI 모델을 딥엑스 NPU용으로 변환하고, 다수의 현장 디바이스에 실행 환경을 원격으로 배포할 수 있도록 설계됐다.

개발자가 AI 개발 환경에서 만든 ONNX 모델과 설정 파일을 아마존 S3에 올리면 AWS Lambda와 AWS Step Functions 기반 워크플로가 작동한다. 필요 시 아마존 EC2 인스턴스를 실행해 딥엑스 컴파일러로 모델을 NPU 실행용 'DXNN' 형식으로 변환하고, 변환 결과를 다시 S3에 저장하는 방식이다.

이후 현장 장비 관리와 배포는 AWS IoT 서비스가 맡는다. AWS IoT Core는 디바이스와 ‘Thing Group’을 관리하고, AWS IoT Greengrass는 딥엑스 NPU의 실행 환경을 그룹 단위로 배포한다.

엣지 AI는 데이터가 발생하는 현장 가까이에서 추론을 수행하는 만큼 지연시간과 통신 비용을 줄일 수 있다. 반면 적용 장비가 수십~수천대로 늘어나면 AI 모델 호환성, 소프트웨어 업데이트, 보안, 장애 대응 체계가 사업화의 핵심 변수로 떠오른다.

딥엑스는 이번 협력을 통해 반도체 칩 공급을 넘어 AI 모델을 현장에 배포·운영하는 체계까지 제공한다는 구상이다. 고객사가 여러 사업장과 장비에 동일한 AI 실행 환경을 신속하게 구축할 수 있도록 지원해 로보틱스·산업용 비전·스마트팩토리 분야 도입 기회를 넓힌다는 방침이다.

딥엑스는 DX-M1·DX-H1을 카메라·로봇·산업 장비·엣지 서버 등에 적용하는 전략을 펴고 있다. 딥엑스는 DX-M1을 앞세워 1년간 글로벌 10여개 국가·지역에서 77건, 1300만 달러 이상의 상업용 구매주문(PO)을 확보했다고 밝힌 바 있다.

향후 차세대 생성형 AI 반도체 DX-M2에도 클라우드-엣지 배포 구조를 확대 적용하는 방안을 검토하고 있다.

딥엑스 관계자는 "피지컬 AI가 실제 산업 현장에 안착하려면 저전력 AI 반도체와 함께 수많은 현장 디바이스에 AI를 배포하고 지속 관리할 수 있는 인프라가 필요하다"며 "AWS IoT 생태계와의 연계를 기반으로 산업 현장의 AI 도입 장벽을 낮추겠다"고 말했다.

ideaed@news1.kr