(서울=뉴스1) 김민석 기자 = AMD·퓨리오사AI·망고부스트가 서로 다른 반도체를 결합하는 인공지능(AI) 인프라의 공동 설계·검증에 나선다. AI 추론 작업의 특성에 맞춰 연산 자원을 배분하고 추론 효율을 높이겠다는 구상이다.
다만 상용화를 성공하려면 통합 환경의 성능·안정성을 검증하고 판매와 기술지원의 책임 구조도 구체화해야 할 것으로 보인다.
9일 업계에 따르면 AMD·퓨리오사AI·망고부스트 3사는 최근 개방형 이기종 AI 인프라를 공동 설계·검증하는 업무협약을 체결했다.
AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU), 퓨리오사AI의 신경망처리장치(NPU), 망고부스트의 데이터처리장치(DPU)와 소프트웨어를 결합하는 방안을 검증하는 내용이다.
퓨리오사AI의 2세대 NPU '레니게이드'(RNGD)와 망고부스트의 DPU '부스트X' 등을 활용해 AI 추론 작업에 적합한 인프라 구성을 검증할 계획이다. 서로 다른 연산 장치에 작업을 배분하고 DPU가 네트워크·스토리지 작업을 맡아 CPU의 부담을 덜어주는 방식이다.
3사가 손잡은 서울 참조 시스템(망고부스트가 운영)은 2027년 가동을 목표로 한다.
키스 스트라이어 AMD 글로벌 AI 시장 담당 수석부사장은 "한국은 반도체부터 시스템, 소프트웨어에 이르기까지 활발한 AI 생태계를 갖추고 있다"며 "AMD의 CPU와 GPU, 퓨리오사AI의 NPU, 망고부스트의 DPU를 통합한 첫 번째 이기종 컴퓨팅 클러스터를 내년 봄 서울에 구축하겠다"고 말했다.
검증 과정에서는 여러 칩을 연결한 통합 환경이 실제 추론 작업에서 요구 성능을 안정적으로 내는지 확인할 필요가 있다. 칩별 연산 성능뿐 아니라 장치 간 데이터 이동과 작업 배분, 소프트웨어 호환성도 검증 대상이다.
추론 서비스의 응답이 늦어지면 연산 장치와 데이터 전달 과정, 소프트웨어 설정 등에서 원인을 구분해 분석할 수 있어야 한다. 이를 위해 장치별 상태와 처리 시간을 함께 확인하고 성능 저하나 장애를 재현·분석할 수 있는 체계가 필요하다.
상용화 단계에서 고객과 계약할 사업자와 통합 보증 구체화 과정이 필요할 전망이다. 3사는 상용화 단계의 판매·계약 주체와 통합 보증 범위를 구체적으로 제시하지 않은 상태다.
업계 관계자는 "개방형 생태계라는 콘셉트는 매력적이지만, 다중 벤더 인프라는 구성 요소별 펌웨어와 드라이버의 호환성을 함께 관리해야 한다"며 "펌웨어 업데이트 하나만 어긋나도 전체 서버 클러스터의 성능이 떨어질 수 있기 때문"이라고 설명했다.
이어 "하드웨어 하자 보증과 별개로 시스템 전체의 성능·복구 책임을 구분하고, 서비스수준협약(SLA)에 어떤 항목을 보장할지 정할 필요가 있다"고 했다.
ideaed@news1.kr
