SK하이닉스, 美 AI 서밋서 HBF·PIM 등 차세대 AI 메모리 설루션 공개

(서울=뉴스1) 정윤미 기자 = SK하이닉스(000660)가 미국 캘리포니아주에서 열린 'AI Infra Summit 2026'(인공지능 인프라 서밋 2026)에 참여해 차세대 AI 메모리 설루션을 선보이고 AI 인프라 혁신을 이끌어갈 회사의 비전을 공유했다.

SK하이닉스는 지난 15일(현지시간)부터 3일간 '뉴 스펙트럼'(New Specturm)'이라는 슬로건으로 △고대역폭플래시(High Bandwidth Flash·HBF) △메모리 내 연산(Processing-In-Memory·PIM) △ SALT-KV(Semantic-Aware Lifecycle Tiering for KV Cache) 등 차세대 AI 메모리 설루션 전시 부스를 운영했다고 17일 밝혔다.

HBF는 고대역폭메모리(HBM)처럼 실리콘 관통전극(Through Silicon Via·TSV) 기술을 적용해 기존 스토리지의 대용량 특성에 더해 높은 고대역폭까지 동시에 구현한 차세대 낸드 설루션이다. 고대역폭과 대용량을 동시에 갖춰 장문의 맥락 처리 작업 효율을 개선하는 효과가 있다. 추론 중심의 에이전틱(Agentic) AI 시대를 열어갈 핵심 AI 메모리 기술로 꼽힌다.

HBF 소개 영상과 HBF 구조 모형으로 구성된 HBF 부스는 가장 많은 관람객의 주목을 받았다. 이들은 발걸음을 멈추고 소개 영상을 끝까지 시청하는가 하면, 모형 앞에서 HBF의 구조를 꼼꼼히 살펴보며 오랜 시간을 보냈다.

PIM은 메모리 내부에 연산 기능을 탑재해 프로세서와 메모리 사이의 데이터 이동을 줄이는 기술이다. 데이터 전송 과정의 병목 현상(Memory Wall)을 완화하면서 연산 성능과 전력 효율도 높일 수 있는 차세대 설루션으로 꼽힌다. 프리미엄 서비스의 빠른 디코딩 작업(AI 응답 생성 과정)에서 성능과 효율을 높인다.

PIM 부스에서는 메모리 내 연산 가속기(Accelerator-in-Memory·AiM) 칩과 AiM 기반 가속기(AiM based Accelerator·AiMX) 카드, AiMX 카드가 실장된 서버가 나란히 전시됐다. 이를 통해 개선된 대규모언어모델(LLM) 서비스를 직접 느껴볼 수 있는 시범 체험 공간도 함께 운영됐다.

SALT-KV는 LLM의 KV 캐시(Key Value Cache)를 문맥 단위의 영역(segment)으로 나눠 재사용 가치와 저장 비용을 종합적으로 판단하고, 이에 따라 데이터를 HBM·D램·SSD 중 가장 적합한 저장 계층에 배치해 한정된 메모리 자원 안에서 활용 효율을 높이는 기술이다.

KV 캐시란 대규모 언어모델 기반 AI 에이전트가 텍스트를 생성할 때 이전에 계산한 결과를 저장해두는 임시 메모리다. 사용자와 대화가 길어질수록, 처리할 작업이 많을수록 기하급수적으로 커져 이를 효율적으로 저장하고 처리하는 메모리 역량이 AI 에이전트의 성능에 큰 영향을 미친다.

요컨대 SALT-KV는 KV 캐시의 특성과 재활용 가능성을 고려해 처리 효율을 높여준다. 해당 부스에서는 SK하이닉스의 eSSD가 실장이 된 서버가 전시됐다. 그 옆에 비치된 모니터를 통해 SALT-KV 설루션의 작동 방식과 실제 AI 시스템에서의 데이터 저장 변화 양상을 데이터로 직접 확인할 수 있도록 했다. 특히 이번 전시에선 SALT-KV 설루션으로 LLM 모델을 활용해 게임을 생성하고 실행하는 프로그램도 함께 진행됐다.

SK하이닉스 관계자는 "앞으로도 AI 시대 다양한 요구에 한발 앞서 대응할 수 있도록 기술 경쟁력을 강화해 나가겠다"고 밝혔다.

한편, 이 행사는 AI를 실제로 구동하는 인프라 전반을 다루는 글로벌 기술 콘퍼런스다. 그래픽저장장치(GPU)·메모리·네트워크·스토리지부터 데이터센터와 AI 모델까지 AI 인프라를 구성하는 하드웨어와 시스템을 폭넓게 다룬다.

핵심 주제는 △컴퓨팅(Compute) △데이터 이동(Data Movement) △데이터·모델(Data & Models) △AI 데이터센터(AI Data Center) △피지컬 AI(Physical AI) 등이다. 인텔, AMD, 엔비디아, 구글, 메타, 오라클, 삼성전자, SK하이닉스 등 글로벌 AI·반도체·인프라 기업들과 엔지니어·기술 전문가 약 8000명이 참가했다.

younme@news1.kr