
- 11컷: GPU가 밥을 엄청 빨리 먹는데… 일반 메모리가 너무 느려!
- 22컷: 해결사 등장! HBM, 초고속 적층 메모리!
- 33컷: GPU 옆에 딱 붙어 초고속으로 데이터를 전달하는 HBM
- 44컷: AI 연산이 쌩쌩~! HBM 없인 AI도 없다!
정의와 배경
HBM3는 JEDEC(반도체 국제 표준화 기구)이 규정한 HBM 표준의 세 번째 세대 규격이다. HBM은 여러 개의 D램 다이(Die)를 수직으로 쌓아(TSV, 실리콘 관통 전극) GPU·AI 가속기 옆에 패키징하는 구조로, 기존 GDDR 계열 메모리보다 훨씬 넓은 데이터 버스와 낮은 소비전력을 제공한다. HBM3는 이 구조를 유지하면서 전송 속도와 핀당 대역폭을 이전 세대(HBM2E)보다 크게 끌어올린 규격으로, 챗GPT 등 초거대 AI 서비스가 폭발적으로 확산하던 시기에 상용화되어 시장의 주목을 받았다.
기술적 특성과 세대 비교
HBM의 세대는 HBM1→HBM2→HBM2E→HBM3→HBM3E 순으로 발전해 왔으며, 세대가 올라갈수록 핀당 데이터 전송 속도(Gbps)와 스택 내 총 대역폭(GB/s)이 증가한다. HBM3는 단일 스택 기준으로 HBM2E 대비 두 배 수준의 대역폭을 제공하며, 용량도 수십 기가바이트(GB) 수준까지 지원된다. 수직 적층 수(단수)와 TSV 설계 정밀도가 수율과 직결되기 때문에, 고난도의 패키징 기술력이 경쟁 우위의 핵심 요소다.
이러한 기술적 장벽 덕분에 HBM3 양산 능력을 갖춘 기업은 전 세계적으로 극소수에 불과하며, 삼성전자·SK하이닉스 등 국내 기업이 글로벌 공급의 대부분을 담당하고 있다.
AI 산업과의 연관성
엔비디아(NVIDIA) H100 등 최신 AI GPU는 HBM3를 기본 메모리로 채택하고 있어, AI 데이터센터 투자가 늘어날수록 HBM3 수요도 직접적으로 증가한다. 대규모 언어모델(LLM) 학습 및 추론 과정에서는 초당 수 테라바이트(TB)에 달하는 메모리 대역폭이 요구되는데, HBM3는 이 병목을 완화하는 핵심 부품이다. AI 가속기 한 개에 수 개의 HBM3 스택이 병렬 탑재되므로, AI 칩 수요 증가는 HBM3 수요 증가와 사실상 동조한다.
반도체 메가프로젝트(800조) 맥락
대한민국 정부가 추진하는 반도체 메가프로젝트는 첨단 메모리·시스템 반도체의 국내 생산 역량을 강화하고 관련 클러스터를 육성하는 것을 목표로 한다. HBM3는 이 전략의 최전선에 있는 품목으로, 팹(Fab) 투자·소부장 국산화·전문 인력 양성 모두 HBM 고도화와 직결된다. 정책 입안자 입장에서 HBM3는 단순한 부품을 넘어 AI 시대 국가 기술 경쟁력의 지표이자, 수출 고도화를 위한 핵심 전략 품목으로 이해할 필요가 있다.
※ 본 상세 설명은 용어집 데이터를 토대로 AI가 생성했습니다. 정확한 내용은 원문 출처를 우선하세요.