"GPU만으로 안 돼"…AI 전쟁 좌우할 '조력자' 코엑스 집합

(서울=뉴스1) 박주평 기자 = 인공지능(AI) 서비스가 전 산업에 걸쳐 빠르게 확산하는 상황에서 AI 연산을 담당하는 그래픽처리장치(GPU) 외 다른 데이터센터 인프라의 중요성이 커지고 있다. 고대역폭메모리(HBM)를 비롯한 차세대 메모리, CPU가 연산에 집중할 수 있도록 보조하는 DPU(데이터 처리 장치) 등 국내 기업의 최신 기술을 망라하는 행사가 12일 코엑스에서 열렸다.

이날 서울 강남구 코엑스에서 열린 'OCP 코리아 테크 데이'에는 AI 데이터 센터 인프라 산업 동향과 최신 기술을 주제로 하는 발표와 다양한 관련 기업들의 전시가 진행됐다.

메타 주도로 2011년 설립된 OCP 재단은 데이터센터 하드웨어의 오픈소스화를 추구하는 비영리재단이다. 재단은 서버, 스토리지, 네트워크 스위치 등 데이터센터에 필요한 하드웨어의 설계도를 공개해 누구나 자유롭게 사용·개선할 수 있도록 한다.

이날 행사에서는 SK하이닉스, 퓨리오사 AI, 망고부스트 등의 임원진이 기조강연을 하고, 국내 기업들도 부스를 꾸려 제품을 전시했다.

AI 데이터센터 인프라의 핵심은 병렬 연산을 수행하는 GPU지만, 그 외에도 메모리, 스토리지, 서버 등 다양한 기술이 균형 있게 발전해야 고성능 시스템이 안정적으로 작동할 수 있다.

2022년 창업한 망고부스트가 설계하는 DPU도 그중 하나다. DPU는 AI 서버 내 CPU가 연산 작업에 집중할 수 있도록 네트워크, 스토리지, 보안 등 작업을 전담해 처리하는 역할을 한다. 이를 통해 AI 서버 전체 시스템의 효율이 향상될 수 있다.

이에 AWS(아마존), 마이크로소프트 등 거대한 데이터센터 인프라를 구축한 주요 빅테크 기업도 시스템 효율을 높이기 위해 DPU를 자체적으로 설계하고 있다. 망고부스트는 국내에서 자체 데이터센터 서버를 보유한 기업·기관을 대상으로 영업을 확대한다는 계획이다.

파두(FADU)는 AI 서버 전용 초고성능·저전력 SSD 개발에 주력하고 있다. SSD의 두뇌 역할을 하는 컨트롤러를 자체 개발해 초당 수백만 건의 입출력(IOPS)을 처리할 수 있는 성능을 제공하고, 전력 효율성을 높여 데이터센터의 총소유비용(TCO)을 절감하는 데 기여한다.

파두 부스에서 만난 백경규 이사는 "다른 기업은 Arm 설계자산(IP)을 기반으로 하기 때문에 최적화를 위해 제품을 변경할 때도 ARM과 협업해야 한다"며 "파두는 개방형 IP인 리스크 파이브(RISC-V)를 기반으로 해 훨씬 더 가볍고 직접 설계를 변경할 수 있다"고 설명했다.

이어 "서버 시스템 내에서 CPU나 GPU만 고도화된다고 성능이 좋아지는 게 아니다"라며 "다른 하드웨어도 균형이 맞춰져야 성능을 발휘할 수 있다"고 말했다.

강욱성 SK하이닉스 차세대상품기획담당 부사장은 HBM, CXL(컴퓨트익스프레스링크), PIM(메모리 내 연산) 등 차세대 메모리 기술을 소개했다.

PIM은 메모리 내부에 연산 기능을 탑재해 메모리 자체에서 데이터를 처리하는 기술이다. 강 부사장은 아직 상용화되지 않은 PIM이 엣지 AI가 적용되는 스마트폰, 노트북의 메모리(LPDDR)에 적용될 가능성이 크다고 전망했다.

AI 서버의 경우 물리적으로 메모리 채용량을 늘릴 수 있지만 스마트폰, 노트북은 폼팩터 제약이 있어 PIM을 적용해 메모리의 대역폭을 늘리는 것이 효과적이라는 설명이다.

jupy@news1.kr