AI 시대의 핵심 메모리라고 하면, 많은 분들이 HBM을 가장 먼저 떠올리실 텐데요. 그런데 HBM과 꼭 닮은 이름의 새로운 메모리가 등장했다는 사실, 알고 계셨나요? 바로 HBF입니다.
최근 AI 추론 시장이 확대되면서, 방대한 데이터를 빠르고 효율적으로 처리하기 위한 새로운 메모리의 필요성이 커지고 있습니다. SK하이닉스 역시 샌디스크와 함께 HBF의 첫 표준 규격을 공개하며 HBF 생태계 구축에 속도를 내고 있는데요.
HBM 잘 나가는데, HBF는 굳이 왜 필요한 걸까요?
지금부터 HBF가 등장하게 된 배경과 기술적 특징, 그리고 HBF 시대를 준비하는 SK하이닉스의 이야기까지 함께 살펴보겠습니다!
SK Careers Editor 24기 김규리
우리가 생성형 AI에게 질문을 입력하고 답변을 받는 순간, 데이터센터에서는 학습된 AI 모델을 바탕으로 새로운 답을 만들어내는 추론이 이루어집니다. 최근 AI 활용이 학습 중심에서 실제 서비스의 추론 단계로 빠르게 확대되면서, AI 인프라가 처리해야 할 데이터의 양 역시 크게 늘어나고 있습니다.
이러한 변화로 메모리도 더 많은 데이터를 더 빠르게 감당해야 하는 상황에 놓였습니다. AI 시스템에서 GPU와 같은 고성능 프로세서가 연산을 담당할 때, 그 연산에 필요한 데이터를 공급하는 것이 바로 메모리의 역할이기 때문입니다. 그런데 아무리 GPU의 연산 성능이 뛰어나도 필요한 데이터가 제때 도착하지 않는다면 어떨까요? GPU는 데이터를 기다리느라 제 성능을 발휘하지 못하게 되겠죠. 이처럼 프로세서의 연산 성능에 비해 메모리의 데이터 전송 성능이 따라가지 못해 시스템 성능이 제한되는 현상을 ‘메모리 월(Memory Wall)’이라고 합니다.
문제는 용량과 비용입니다. AI 모델이 대형화되고 추론 과정에서 다뤄야 할 데이터가 폭발적으로 늘어나면서, 고성능이지만 비용이 높은 HBM만으로 모든 데이터를 감당하기에는 현실적인 한계가 있습니다. 반면, 대용량 데이터 저장에 활용되는 NAND Flash 기반의 SSD는 훨씬 많은 데이터를 경제적으로 저장할 수 있지만, HBM과 비교하면 데이터 전송 성능이 현저히 낮습니다.
결국 AI 추론 시대에는 이 둘 사이의 간극을 메울 새로운 메모리 계층이 필요해졌습니다. 바로 이 빈자리를 채우기 위해 등장한 것이 HBF입니다.
HBF(High Bandwidth Flash)는 이름 그대로 높은 대역폭을 구현한 NAND Flash 기반 메모리입니다. HBM이 DRAM을 기반으로 높은 대역폭을 구현했다면, HBF는 NAND Flash를 기반으로 높은 대역폭을 구현한 것이 특징입니다. 이때 NAND Flash는 DRAM보다 더 높은 밀도로 데이터를 저장할 수 있어, HBF는 HBM보다 더 큰 용량을 확보할 수 있습니다.
이름부터 비슷한 HBM과 HBF는 실제로도 닮은 점이 있습니다. HBF는 HBM의 고대역폭 설계 개념을 NAND Flash에 적용해, 기존 NAND 기반 스토리지보다 훨씬 높은 대역폭을 구현하는 것을 목표로 합니다.
하지만 HBM을 대체하기 위해 등장한 것은 아닙니다. 서로 다른 장점을 가진 HBM과 SSD 사이에서 새로운 메모리 계층을 담당하는 것이 HBF의 핵심 역할입니다. 아래 표에서 세 메모리의 특징을 비교해 보면, 그 차이를 더욱 분명하게 확인할 수 있습니다.
즉, HBM과 HBF, SSD는 하나가 다른 하나를 대체하는 관계가 아니라 각자의 강점을 활용해 함께 AI 시스템을 구성하는 보완 관계에 가깝습니다.
그렇다면 NAND Flash를 기반으로 하는 HBF는 어떻게 기존 SSD보다 훨씬 높은 대역폭을 구현할 수 있을까요?
앞서 살펴본 것처럼 HBF와 SSD는 모두 NAND Flash를 기반으로 합니다. 하지만 같은 NAND를 사용하면서도 HBF가 훨씬 높은 대역폭을 구현할 수 있는 핵심은 ‘HBM과 닮은 적층 구조와 병렬화’에 있습니다.
HBF는 NAND 다이를 수직으로 쌓고, TSV(Through-Silicon Via)를 활용해 적층된 다이 사이에 데이터가 이동할 수 있는 경로를 구성합니다. 여기에 데이터 입출력과 제어를 담당하는 로직 다이(Logic Die)를 결합해 여러 NAND에서 데이터를 병렬로 처리함으로써 대역폭을 높이는 방식입니다.
이러한 구조를 통해 HBF는 NAND의 대용량이라는 장점은 유지하면서 데이터 전송 성능을 크게 높이는 것을 목표로 합니다. 또한 HBF와 고성능 프로세서(CPU, GPU 등)를 연결하기 위한 인터페이스로 칩렛 간 고속 통신 규격인 UCIe(Universal Chiplet Interconnect Express)가 적용됩니다.
2026년 SK하이닉스와 샌디스크가 공개한 첫 HBF 표준 규격에서는 보다 구체적인 모습도 제시됐습니다. HBF는 8단 또는 16단 NAND 적층을 지원하며, 최대 512GB의 용량을 제공합니다. 대역폭은 세 가지 등급으로 나뉘어 약 0.4~3.0TB/s 범위로 정의됐습니다.
새로운 메모리 기술이 실제 AI 시스템에 널리 활용되기 위해서는 뛰어난 성능만큼이나 여러 기업이 함께 사용할 수 있는 표준을 만드는 것이 중요합니다. 다양한 기업의 프로세서와 메모리가 하나의 AI 시스템 안에서 작동하려면, 서로 호환될 수 있는 공통의 기술 규격이 필요하기 때문입니다.
SK하이닉스는 이를 위해 글로벌 플래시 메모리 기업 샌디스크(Sandisk)와 손잡고 HBF 생태계 구축에 나섰습니다. 협력 시작부터 표준 공개까지, 두 회사는 빠르게 움직였습니다.
이렇게 마련된 첫 HBF 표준에는 앞서 살펴본 스펙 외에도 UCIe 기반 인터페이스와 전기적 특성, 패키징 및 신뢰성 가이드라인, 소프트웨어 입출력 방식 등이 포함됐습니다.
특히 HBF 컨소시엄에는 메모리를 만드는 SK하이닉스와 샌디스크뿐 아니라, 그 메모리를 실제로 활용할 AI 서비스 기업 Google과 AI 반도체를 설계하는 Tenstorrent까지 참여하고 있습니다. 메모리를 만드는 회사와 그것을 실제로 쓰는 회사가 처음부터 규격을 함께 다듬는다는 점에서, HBF가 AI 인프라에 실질적으로 자리 잡을 가능성을 보여주는 대목입니다. 마치 USB가 제조사와 상관없이 다양한 기기를 하나의 포트로 연결하듯, HBF 역시 특정 기업에 종속되지 않는 공통 기반을 갖게 되는 셈입니다.
결국 HBF 표준화는 단순히 새로운 메모리 제품 하나의 규격을 정하는 것을 넘어, AI 시대에 필요한 새로운 메모리 계층을 산업 전반이 함께 구축해 나가는 과정이라고 볼 수 있습니다.
지금까지 살펴본 HBF의 등장은 하나의 새로운 메모리 기술이 추가됐다는 것 이상의 의미를 가집니다. AI 시대에는 하나의 메모리만으로 성능과 용량, 비용 효율을 모두 충족하기 어렵기 때문입니다.
이에 따라 주목받는 것이 ‘Tiered Memory(계층형 메모리)’입니다. Tiered Memory는 서로 다른 특성을 가진 여러 메모리를 하나의 체계로 연결하고, 데이터의 특성과 용도에 따라 적절한 메모리 계층을 활용해 AI 시스템 전체의 효율을 높이는 방식입니다.
이러한 방향은 SK하이닉스가 제시한 ‘Full Stack AI Memory Creator’전략과도 맞닿아 있습니다. SK하이닉스는 AI 시스템과 워크로드에 따라 필요한 메모리도 다양해질 것으로 보고, HBM을 비롯해 고성능·고대역폭·고용량을 아우르는 다양한 AI 메모리 솔루션을 선보이고 있습니다.
이런 점에서 HBF는 HBM만으로 충족하기 어려웠던 대용량 영역까지 AI 메모리의 범위를 확장하는 기술이라고 볼 수 있습니다. SK하이닉스는 HBM에서 확보한 고대역폭 메모리 경쟁력에 NAND의 대용량 강점을 더하며, AI 추론 시대에 필요한 새로운 메모리 포트폴리오를 확장해 나가고 있습니다.
AI가 더 많은 데이터를 다루고 추론의 규모가 커질수록, 앞으로의 경쟁력은 단순히 가장 빠른 메모리 하나만으로 결정되지 않을 것 같습니다. 서로 다른 메모리를 어떻게 연결하고 적재적소에 활용할 것인지가 중요해지는 가운데, HBM과 HBF, SSD를 아우르는 SK하이닉스의 AI 메모리 전략이 앞으로 어떤 모습으로 확장될지 매우 기대됩니다! 지금까지 SK하이닉스 취재기자 김규리였습니다. 앞으로도 SK하이닉스의 다양한 반도체 이야기를 전해드리겠습니다. 감사합니다😊🙇🏻♀️
