광대역폭메모리

정의와 배경

광대역폭메모리는 '고대역폭메모리(HBM)'와 동의어로 사용되는 용어로, 데이터가 오가는 통로(버스 폭)를 대폭 넓혀 단위 시간당 처리할 수 있는 데이터 양, 즉 대역폭(bandwidth)을 획기적으로 높인 메모리 반도체다. 기존 DRAM이 좁고 빠른 단일 통로에 의존하는 것과 달리, 광대역폭메모리는 여러 메모리 다이(die)를 수직으로 쌓아 연결한 구조를 통해 병렬로 데이터를 송수신한다. AI·딥러닝 연산이 폭발적으로 증가하면서 GPU가 처리해야 하는 데이터 규모가 급격히 커졌고, 이에 대응하기 위한 메모리 기술로서 주목받게 되었다.

작동 원리와 구조

광대역폭메모리의 핵심 기술은 'TSV(Through-Silicon Via, 실리콘 관통 전극)'다. 여러 장의 DRAM 다이에 미세한 구멍을 뚫어 수직으로 전기 신호를 연결함으로써, 다이를 높이 쌓을수록 대역폭이 비례적으로 증가한다. 이렇게 제조된 메모리 스택은 GPU 혹은 AI 가속기 칩과 함께 하나의 패키지로 묶이는데, 이 결합 방식을 2.5D 혹은 3D 패키징이라 부른다.

칩 간 거리가 극도로 짧아지므로 데이터 이동 지연(latency)이 줄고 전력 소비도 절감된다. 세대가 거듭될수록(HBM2→HBM2E→HBM3→HBM3E 등) 스택 단수와 대역폭이 향상되어 왔으며, 각 세대는 AI 가속기의 성능 도약과 긴밀하게 연동된다.

왜 중요한가

AI 모델의 규모가 커질수록 GPU는 방대한 파라미터 데이터를 끊임없이 읽고 써야 하는데, 메모리 대역폭이 부족하면 연산 성능이 병목에 걸린다. 광대역폭메모리는 이 병목을 해소하는 핵심 부품으로, 사실상 AI 가속기의 성능을 결정짓는 변수 중 하나다. 대한민국은 삼성전자와 SK하이닉스가 세계 HBM 시장의 주요 공급자로 자리 잡고 있어, 글로벌 AI 인프라 공급망에서 전략적 위치를 점하고 있다.

정부의 반도체 메가프로젝트(800조 규모)도 이 같은 맥락에서 광대역폭메모리 생산 능력 확충, 관련 소재·부품·장비 국산화, 그리고 클러스터 조성을 핵심 과제로 설정하고 있다. AI 수요가 지속 증가하는 한 광대역폭메모리의 전략적 중요성은 더욱 높아질 것으로 전망된다.

반도체 메가프로젝트 맥락

대한민국 반도체 메가프로젝트는 광대역폭메모리를 포함한 첨단 메모리 반도체의 설계·제조·패키징 전 주기를 국내에서 고도화하는 것을 목표로 한다. 팹(Fab) 증설, 소부장 기업 육성, 반도체 클러스터 거점 구축이 연계 추진되며, HBM 제조에 필수적인 TSV 공정 장비 및 특수 소재의 국산화도 주요 과제에 포함된다. 이를 통해 AI 반도체 수요 급증에 따른 공급망 안정성을 확보하고, 국내 산업 생태계 전반의 경쟁력을 높이려는 전략적 의도가 반영되어 있다.