메모리 경쟁 '판' 바뀐다…삼성·SK하닉 '신기술'에 이목 집중

'수직 적층' 방식 속도 개선…'낸드 재발견' D램 대체제 부상
에이전틱 AI 전략…삼성 '원스톱 솔루션'·SK '계층형 메모리'

삼성전자가 4~6일(현지시간)까지 미국 캘리포니아주 산타클라라 컨벤션센터에서 열리는 'FMS(Future of Memory and Storage) 2026'에 참가해 차세대 3D 메모리 아키텍처인 zHBM과 zNAND-O의 목업(Mock-up)을 업계 최초로 공개하고, AI 시대를 이끌 차세대 메모리 기술 비전을 제시했다고 5일 밝혔다. 사진은 'FMS 2026'에 마련된 삼성전자 부스 전경. (삼성전자 제공. 재판매 및 DB 금지) 2026.8.5 ⓒ 뉴스1 김명섭 기자

(서울=뉴스1) 정윤미 기자 = 메모리 반도체 경쟁이 고대역폭메모리(HBM) 중심의 D램에서 낸드 플래시로까지 확산하고 있다. 급증하는 인공지능(AI) 데이터센터 수요에 대응해 보다 저렴한 낸드의 활용 범위를 넓히는 차원으로 해석된다.

빅테크 입장에서는 투자비를 절약할 수 있고 이를 통해 메모리 반도체 기업들은 슈퍼사이클을 더 길게 가져가려는 이해관계가 맞아떨어진 셈이다.

또한 새로운 형태의 구조를 통해 HBM의 속도와 용량을 배가하는 경쟁은 한층 더 치열해졌다.

삼성전자, SK하이닉스, 미국 샌디스크, 일본 키옥시아 등 메모리 업체들은 오는 6일(현지시간) 폐막하는 세계 최대 메모리·스토리지 행사 'FMS(Future of Memory and Storage) 2026'에서 차세대 반도체 기술은 물론 더 빠르고 더 많은 정보를 저장할 수 있는 신제품을 일제히 공개했다. 반도체 경쟁의 새로운 서막이 올랐다는 평가다.

삼성·SK하닉, Z축·3D 적층 '신개념' 공개

현재 빅테크들이 당면한 최대 과제는 '메모리 병목'(Memory Wall) 해결이다. 에이전틱 AI 확산으로 CPU(중앙처리장치), GPU(그래픽처리장치) 등 연산장치 속도는 빨라지고 있지만 연산에 필요한 데이터를 저장·공급하는 메모리가 속도를 따라가지 못해 전체적으로 성능이 저하되고 있어서다.

아무리 두뇌 회전이 빨라도 데이터를 그 속도에 맞게 전달해 주지 못하면 두뇌는 제 기능을 발휘할 수 없게 된다. AI 모델이 커질수록 메모리 대역폭과 용량은 곧 성능의 한계와도 직결된다.

삼성전자는 이 같은 메모리 병목을 해소하기 위해 'z고대역폭메모리(HBM)'를 선보였다. 기존 HBM은 GPU나 AI 가속기 옆에 위치해 데이터를 좌우로 주고받는 식이었다. 이 방식은 연산과 메모리 거리를 줄이고 대역폭을 최대한 늘렸음에도 물리적 거리가 존재한다. 그렇다 보니 전자 신호가 오가는데 시간과 전력 소모가 컸다.

zHBM은 평면상 X축과 Y축을 넘어 수직 방향의 Z축을 활용했다. GPU 바로 위 HBM을 얹어 이동 거리를 0에 가깝게 만든 것이다. zHBM이 적용된 차세대 인터페이스 시스템은 HBM5와 비교해도 성능 최대 8배, 전력 효율 최대 3배에 달한다.

SK하이닉스도 삼성전자 방식과 유사한 '3D 적층 방식'을 이용했다. 기존 D램은 평평한 2차원 평면 위에서 셀 크기를 줄이는데 한계가 있어 메모리 용량을 늘리기도 쉽지 않았다. 3D 적층은 같은 면적에 훨씬 많은 셀을 넣을 수 있어 메인 메모리 계층 자체의 용량과 밀도를 끌어 올리게 된다.

SK하이닉스가 선보인 3D 적층 D램 'G0.5'는 대역폭이 크지만 용량은 작아서 G0으로 불리는 S램과 G1으로 지칭되는 기존 HBM 사이에서 성능의 틈새를 메꾼다.

'낸드'의 재발견…메모리 병목 '구원 투수'될까

올해 FMS를 관통하는 또 다른 키워드는 '낸드'다. D램보다 속도는 느리지만 가격이 저렴한 낸드를 잘 활용하면 데이터센터 투자비를 아낄 수 있다는 계산이 깔려 있다. 빠른 연산이 필요한 경우는 기존 HBM을 활용하고 속도가 요구되지 않는 연산은 낸드에 맡기는 식이다.

삼성전자와 SK하이닉스 등 메모리 업체가 선택한 전략은 적층 단수를 높이는 것. 이를 통해 동일 면적당 저장 용량을 늘리고 동시에 GB당 제조원가를 낮출 수 있다.

삼성전자는 업계 최초로 400단 이상의 10세대 V-낸드 'V10 BV-낸드'를 공개하며 낸드 기술 리더십을 강화했다. 웨이퍼 본딩과 3 Stack 기술을 활용, 메모리 집적도를 전 세대(V9) 대비 58% 향상해 동일 면적에 더 많은 데이터를 저장할 수 있도록 했다.

또한 'z낸드-O'는 기존 낸드 칩을 실리콘관통전극(TSV) 기술로 4단 또는 8단으로 수직 적층한 AI용 고성능 낸드다.

'FMS 2026' SK하이닉스 전시 조감도 (SK하이닉스 제공)

SK하이닉스는 샌디스크와 차세대 스토리지 기술인 '고대역폭낸드플래시(HBF)'의 첫 표준 규격을 발표했다. HBF는 HBM과 솔리드스테이트드라이브(SSD) 사이 새로운 메모리 계층이다.

고대역폭메모리(HBM)처럼 다이(Die)를 8단 또는 16단으로 수직 적층하는 방식을 쓰되, D램이 아닌 낸드 다이를 적층해서 만든 초고속·대용량 플래시 메모리다. 기존 HBM 제한된 용량을 보완, AI 데이터 저장·공급 효율을 높이기 위한 기술이 적용됐다.

한창 개발 중인 '10세대(V10) 375단 4D 낸드'도 처음 소개됐다. 이 제품은 이전 세대 대비 전력 대비 성능을 2.5배 높였다. SK하이닉스는 내년 초 이를 적용한 고성능·고용량 eSSD 양산에 착수할 계획이다.

키옥시아와 샌디스크는 저가형 AI 메모리 '332단 QLC 3D 낸드'를 공개했다. 기존 OLC(Quad-Level Cell)는 낸드에서 한 셀당 4비트의 정보를 저장하기 때문에 용량당 원가가 낮지만 속도와 내구성에는 한계가 있었다.

양사는 삼성전자·SK하이닉스와 마찬가지로 수직 적층 방식으로 단수를 높여 OLC 한계를 보완하고자 했다. 그러면서 향후 AI 데이터 저장용 기업과 SSD 시장까지 적용 범위를 넓히겠다는 방침이다.

삼성 '원스톱 설루션' vs SK하닉 '계층형 메모리'

이번 FMS에서 내놓은 삼성전자와 SK하이닉스의 전략은 미묘한 차이를 보인다.

먼저 삼성전자는 전 세계에서 유일하게 메모리, 로직, 파운드리(위탁생산), 패키징까지 아우르는 '원스톱 설루션'을 제공할 수 있는 종합반도체(IDM) 기업임을 강조하고 있다.

고객의 제품 설계 단계부터 제조, 패키징까지 통합 서비스를 제공함으로써 개발 기간을 줄이고, 성능과 전력효율을 최적화해 고객 맞춤형 AI 반도체 구현을 지원할 수 있다는 점을 앞세웠다.

삼성전자 관계자는 "FMS 2026에서 엔드투엔드(End-to-End) 설루션 역량을 기반으로 차세대 AI 인프라 혁신을 위한 메모리·스토리지 기술 전략과 로드맵을 제시했다"면서 "앞으로 차세대 메모리 기술 혁신과 메모리, 파운드리, 첨단 패키징을 아우르는 차별화된 설루션을 통해 AI 시대의 반도체 기술 리더십을 지속 강화할 것"이라고 말했다.

SK하이닉스는 서로 다른 특성을 가진 메모리를 하나의 체계로 연결하는 '계층형 메모리'(Tiered Memory)가 차세대 AI 인프라 핵심이 될 거로 전망했다. 그러면서 표준형 HBM 공급을 넘어, 개방형 동맹 등을 통해 AI 스토리지 생태계 확대에 속도를 내겠단 계획이다.

이번 행사에서 샌디스크 등과 함께 HBF 표준 규격을 세계 최대 개방형 데이터센터 기술 협력체인 OPC(Open Cpmute Project)를 통해 공개한 것도 이런 맥락으로 풀이된다.

김천성 SK하이닉스 설루션개발 부문장은 "AI 활용이 빠르게 확산하면서 데이터 처리 구조 전반의 재설계가 요구되는 시점"이라며 "HBF를 통해 메모리와 스토리지 경계를 확장하고 시스템 전반의 효율을 높이는 새로운 아키텍처 구현에 기여하겠다"고 말했다.

younme@news1.kr