인공지능, 고성능 컴퓨팅, 클라우드 데이터센터의 급격한 증가로 인해 기존 메모리 시스템은 전례 없는 도전에 직면해 있습니다. 프로세서 성능은 계속해서 기하급수적으로 증가하고 있지만 데이터 전송 속도는 이를 따라잡지 못해 전체 시스템 성능을 제한하는 '대역폭 병목현상'이 발생하고 있습니다. 이에 대응하여 HBM(고대역폭 메모리) 이 탄생했습니다. 3D 적층 패키징과 초광폭 버스 인터페이스를 사용하는 HBM은 전력 와트당 데이터 전송 대역폭을 크게 증가시킵니다. 이제 메모리 성능의 한계를 돌파할 수 있는 핵심 기술 중 하나로 여겨지고 있습니다.
HBM의 기술 및 아키텍처
HBM은 기존 DDR 메모리와 다른 점이 있습니다. 3D TSV(실리콘 관통전극) 수직 상호 연결 설계. 여러 개의 DRAM 다이를 수직으로 적층하고 실리콘 비아를 통해 연결한 다음 실리콘 인터포저에 로직 다이(일반적으로 GPU 또는 AI 가속기)와 함께 패키징합니다. 이 설계는 신호 경로를 획기적으로 단축하여 낮은 전력 소비로 훨씬 빠른 전송 속도를 구현합니다. 반대로 DDR4 및 DDR5 여전히 기존의 병렬 PCB 배선을 사용하며, 대역폭이 증가하면 전력 및 신호 무결성 비용이 증가합니다.
| 기능 | HBM | DDR4 | DDR5 |
|---|---|---|---|
| 연결 | TSV 수직 적층 | PCB 병렬 배선 | PCB 병렬 배선 |
| 패키징 | 로직 다이와 공동 패키지(2.5D) | 별도의 모듈 | 별도의 모듈 |
| 핀당 속도 | ~2Gbps | ~3.2Gbps | ~6.4Gbps |
| 총 대역폭(스택당) | 256GB/s(HBM2) - 1TB/s(HBM3E) | ~최대 25GB/s | ~50GB/s |
| 전력 효율성 | 높음 | Medium | 중간 높음 |
| 애플리케이션 | HPC, AI, GPU, 네트워킹 | PC, 서버 | PC, 서버 |
2025년 현재, HBM 기술은 다음과 같이 발전했습니다. HBM3E스택당 최대 24GB와 1.2TB/s에 이르는 대역폭을 제공합니다. 차세대, HBM4를 사용할 것으로 예상됩니다. 칩렛 + 액티브 인터포저 아키텍처를 통해 통합과 열 효율성을 더욱 향상시켰습니다.
산업 환경: 과점 및 기술 장벽
HBM은 제조하기가 매우 어렵습니다. 주요 과제는 다음과 같습니다. 3D 적층 수율, 패키징 정밀도, 방열 및 인터포저 제작. 그 결과 글로벌 시장은 3대 메모리 생산업체가 주도하는 고도로 집중된 시장입니다:
| 회사 | 시장 점유율(대략) | 핵심 제품 | 주요 고객 |
|---|---|---|---|
| SK하이닉스 | 50%+ | HBM3 / HBM3E | NVIDIA, AMD, Intel |
| 삼성 | 35% | HBM2E / HBM3 | AMD, Google, Amazon |
| 마이크론 | 10-15% | HBM2E / HBM3 | NVIDIA, 메타, 테슬라 |
한편, 일본과 대만의 기업들(Kioxia, Nanya, Winbond 등)은 아직 R&D 단계에 머물러 있으며 상용화에 2~3세대 뒤처져 있습니다. 중국 본토에서는 CXMT 그리고 YMTC 가 초기 HBM 프로젝트를 시작했지만, 제한된 고급 패키징 능력과 수입 장비에 대한 의존도로 인해 대규모 생산은 당분간 기대하기 어렵습니다.
이러한 '기술 과점'은 소수의 기업에게 막대한 가격 결정권을 부여합니다. 2023년부터 2025년까지 엔비디아의 H100, H200, 블랙웰 GPU는 HBM에 대한 폭발적인 수요를 견인하여 SK하이닉스의 기록적인 수익과 타이트한 글로벌 공급을 가져왔습니다.
시장 역학: AI 및 컴퓨팅 경제에 활력을 불어넣는 HBM
주요 성장 동력으로서의 AI 교육
생성형 AI와 대규모 언어 모델의 등장으로 HBM은 GPU의 필수적인 동반자가 되었습니다. NVIDIA의 H100은 3.35TB/s 대역폭의 80GB HBM3를 사용하는 반면, 새로운 Blackwell GPU는 용량이 두 배이고 총 대역폭이 최대 8TB/s인 HBM3E를 사용합니다. 즉, AI 학습에 필요한 메모리 대역폭이 2020년 이후 10배 가까이 증가했습니다. 이제 HBM 성능은 GPU 효율성을 직접적으로 결정하며, 칩 경쟁력의 핵심 요소가 되었습니다.
가격 급등 및 공급 부족
AI 시장의 호황으로 2024년과 2025년 사이에 HBM 가격이 60% 이상 급등할 것으로 예상됩니다. SK하이닉스는 수요를 감당하지 못해 풀가동 중인 경우가 많습니다. HBM 생산에는 첨단 패키징 용량이 소모되기 때문에 일부 DDR5 라인이 HBM으로 전환되면서 일반 메모리 가격이 상승하고 있습니다.
신규 진입자 및 공급망 확장
다음과 같은 고급 패키징 회사는 TSMC, ASE및 삼성 는 CoWoS 및 정보 생산 라인을 확장하고 있습니다. EDA 및 테스트 장비 공급업체 - 다음을 포함합니다. 케이던스, Synopsys및 KLA - 3D DRAM용 검증 및 검사 도구를 개발하고 있습니다. 전체 에코시스템이 빠르게 성숙하고 있습니다.
HBM이 기존 메모리 시장에 미치는 영향
HBM의 부상은 고립된 사건이 아닙니다. 전체 메모리 생태계를 재편하고 있으며 DDR 및 GDDR 시장에 큰 영향을 미치고 있습니다.
미드레인지 및 서버 부문으로 이동하는 DDR
HBM은 고성능 시스템에 가장 적합하기 때문에 일반 소비자용 PC와 기본 서버는 계속해서 DDR4/DDR5를 사용할 것입니다. 그러나 AI 서버가 수요 증가의 주요 원천이 되면서 DDR의 시장 점유율은 줄어들 것입니다. 트렌드포스에 따르면 2026년에는 데이터센터의 HBM 채택이 35%를 초과할 것으로 예상됩니다. DDR4는 빠르게 단종되고 DDR5는 성숙기에 접어들 것입니다.
애플리케이션별 예상 시장 점유율(2025-2027년)
| 애플리케이션 | 2025 | 2026 | 2027 |
|---|---|---|---|
| AI/HPC | HBM → 70% | 80% | 85% |
| 일반 서버 | DDR5 → 70% | 65% | 60% |
| PC / 소비자 | DDR4 → 60% | 45% | 30% |
| GPU 메모리 | DDR6 / HBM 믹스 | HBM으로 전환 | 메인스트림 HBM |
DDR 제조업체, "두 번째 혁신"에 돌입하다
다음과 같은 전통적인 메모리 제조업체 마이크론 그리고 삼성 전략을 바꾸고 있습니다. HBM 투자와 첨단 패키징 용량을 늘리는 한편, 비용에 민감한 시장을 위해 DDR을 중저가 제품으로 재포지셔닝하고 있습니다. 따라서 HBM은 새로운 성장 동력이자 기업 경쟁을 재편하는 힘이 되었습니다.
향후 전망: HBM4와 칩렛 시대
향후 5년 동안 HBM은 다음과 점점 더 통합될 것입니다. 칩렛 아키텍처. HBM42026~2027년경으로 예상되는 이 기술은 액티브 인터포저를 통해 2TB/s 이상의 대역폭을 제공하여 새로운 수준의 에너지 효율을 달성할 수 있습니다.
HBM 기술 로드맵
| 세대 | 연도 | 스택 레이어 | 용량(스택당) | 대역폭(GB/s) | 주요 애플리케이션 |
|---|---|---|---|---|---|
| HBM1 | 2015 | 4 | 4GB | 128 | GPU |
| HBM2 | 2017 | 8 | 8GB | 256 | HPC |
| HBM2E | 2020 | 8 | 16GB | 460 | AI / 5G |
| HBM3 | 2023 | 12 | 24GB | 819 | AI 교육 |
| HBM3E | 2025 | 16 | 24GB | 1200 | LLM, HPC |
| HBM4 | 2027* | 16+ | 32GB 이상 | 2000+ | 칩렛 SoC |
동시에 다음과 같은 칩 제조업체는 NVIDIA, AMD및 인텔 는 컴퓨팅과 메모리를 하나로 통합하여 컴퓨팅 모듈에 직접 HBM을 보다 긴밀하게 통합하는 방안을 모색하고 있습니다. 이러한 추세는 메모리, 캐시, 스토리지 간의 경계를 허물고 있으며, 다음과 같은 새로운 아키텍처 개념으로 나아가는 길을 열어주고 있습니다. "메모리-as-Compute."
메모리 혁명의 전환점
HBM은 단순한 새로운 메모리 유형이 아니라 차세대 컴퓨팅 시대를 이끄는 원동력입니다. 이는 업계의 변화를 상징합니다. "컴퓨팅 우선" 를 "대역폭 우선" 패러다임. AI, 자율 주행, 시뮬레이션, 클라우드 컴퓨팅 분야에서 HBM은 계속해서 그 영역을 확장하며 성능의 중요한 지표가 될 것입니다. 그러나 높은 비용, 복잡한 제조, 집중된 공급망으로 인해 새로운 리스크도 존재합니다. 성능과 경제성 사이의 균형을 맞추는 것은 여전히 업계의 가장 큰 과제입니다. 앞으로 몇 년 동안 HBM4 그리고 HBM5 등장하면, 우리는 다음과 같은 시대에 접어들 수 있습니다. 메모리 자체가 컴퓨팅 성능의 핵심이 됩니다. - 그리고 HBM은 그 혁명의 중심에 서게 될 것입니다.
