티스토리 뷰
목차
HBM이란 고대역폭 메모리를 의미하며, 고성능 컴퓨팅과 그래픽 처리를 위해 설계된 차세대 메모리 기술입니다.
HBM 기술은 높은 대역폭, 낮은 전력 소비, 공간 효율성 및 높은 신뢰성과 같은 다양한 장점을 가지고 있어 최근 AI로 인한 데이터의 폭발적인 증가와 처리 속도에 대한 요구가 높아짐에 따라, HBM 기술은 고성능 컴퓨팅, 인공지능(AI), 그래픽 처리와 같은 분야에서 핵심적인 역할을 하게 되었습니다
HBM 기술의 선두 주자는 현재 SK하이닉스이고, 삼성전자가 추격을 하고 있는 모양새입니다.
얼마 전 엔비디아 CEO 젠슨 황이 삼성전자 HBM에 대한 기대감을 언급한 것만으로도, 삼성전자 주가가 오르는 등 HBM에 대한 중요성은 더욱 커지고 있는 상태입니다.
본문에서는 HBM의 기본 개념부터 시작하여 다양한 종류의 HBM, 그리고 이를 둘러싼 삼성과 하이닉스의 기술 경쟁까지 알아보도록 하겠습니다.
HBM이란? (High Bandwidth Memory)
HBM이란 고대역폭 메모리(High Bandwidth Memory)의 줄임말로 데이터 센터, 고성능 컴퓨팅(HPC), 고급 그래픽 카드와 같은 응용 프로그램에서 대량의 데이터를 빠르게 처리할 수 있도록 설계된 차세대 메모리 기술입니다.
HBM은 수직 적층 메모리 구조를 통해 기존의 평면 메모리 설계의 한계를 극복하고, 높은 데이터 전송 속도와 낮은 전력 소비를 갖고 있는 것이 특징입니다.
HBM은 메모리와 프로세서 간의 물리적 거리를 줄이고, 데이터 전송 경로를 감소시키는 인터포저(interposer) 실리콘 칩을 사용하여 연결되는데, 이러한 고급 연결 방식은 전체 시스템의 성능을 향상하지만, 제조 비용 증가의 원인이 되기도 합니다
HBM 원리
HBM 원리는 메모리 칩들을 수직적으로 적층 시키고, 이러한 적층 구조를 통해 높은 데이터 전송 속도와 낮은 전력 소비를 달성하는 데 있습니다.
기존의 메모리는 평면적인 구조로 설계되어 작동하기 때문에, 데이터는 메모리 칩 간, 그리고 프로세서와의 물리적 거리를 오가며 이동하게 됩니다.
이 과정에서 발생하는 지연 시간과 전력 소비는 컴퓨터의 성능을 제한하는 요소 중 하나였습니다.
HBM의 혁신적인 접근 방식
HBM은 이러한 문제를 해결하기 위해 메모리 칩을 수직으로 적층 하는 구조를 채택했습니다.
여러 개의 DRAM 칩을 위로 쌓아 올림으로써, 각 칩 사이의 물리적 거리를 대폭 줄일 수 있었습니다.
이러한 구조는 데이터의 이동 경로를 짧게 만들어, 데이터 전송 속도를 높이고 전력 소비를 줄여주었습니다.
결과적으로, HBM은 훨씬 높은 대역폭과 낮은 전력으로 데이터를 처리할 수 있게 되었습니다.
HBM에서의 TSV 기술의 역할
Through-Silicon Vias의 약어인 TSV 기술은 HBM의 핵심 기술로, 말 그대로 실리콘을 관통하는 수직 연결 경로를 의미합니다.
TSV 기술을 통해, 적층 된 메모리 칩들 사이에서 직접적이고 수직적인 데이터 전송 경로를 만들 수 있습니다.
TSV는 각 메모리 층을 연결하는 미세한 전기적 통로 역할을 하며, 데이터와 전력을 효율적으로 전달해 줍니다.
TSV 기술의 장점
속도 향상
데이터가 직접적이고 짧은 경로를 통해 이동하기 때문에 전송 속도가 향상됩니다.
소비 전력 절약
더 짧은 데이터 경로는 더 적은 전력을 사용하게 만들어줍니다. 따라서, HBM은 전력 효율이 매우 높습니다.
공간 절약
수직 적층 구조는 평면적인 메모리보다 더 적은 공간을 차지합니다.
이는 특히 공간이 제한적인 모바일 기기나 콤팩트한 컴퓨팅 시스템에서 큰 장점이 됩니다.
HBM, DRAM의 차이
HBM, DRAM의 주요 차이점은 구조와 성능에 있으며, 구조적으로는 HBM이 수직적인 구조로 적층 된 것에 비해 DRAM은 평면적으로 배치되었으며 성능적으로는 DRAM과 비교하여 HBM이 훨씬 더 높은 대역폭과 낮은 전력 소비를 제공한다는 차이점을 가지고 있습니다.
▶ 구조적 차이점
DRAM은 평면적인 구조로 메모리 칩을 배치하는 반면, HBM은 칩을 수직으로 적층 합니다.
▶ 성능적 차이점
위의 구조적 차이로 인해, HBM은 DRAM에 비해 월등히 높은 대역폭과 더 낮은 전력 소비를 실현할 수 있으며, 이러한 성능적 차이에 따라 HBM은 고성능 컴퓨팅, AI, 고급 그래픽 처리와 같은 데이터 집약적인 작업에 더 많이 쓰이게 되었습니다.
HBM 종류 및 차이점
HBM 기술도 시간이 지남에 따라 지속 발전하여, HBM2, HBM3 등 여러 버전이 개발되었으며, 최근에는 각 회사에서 HBM4에 대한 차세대 기술을 발표하고 있습니다.
HBM의 각 버전은 성능, 용량, 전력 효율성 측면에서 이전 버전들을 개선한 것입니다.
HBM3
HBM3는 기존의 HBM2 대비 향상된 데이터 전송 속도와 용량을 제공해 주었습니다.
1) HBM3 대역폭
HBM3는 단일 스택당 최대 819GB/s의 대역폭을 제공해 주는데, HBM2의 대역폭인 410GB/s보다 거의 두 배에 달하는 수치입니다.
2) HBM3 용량
HBM2 스택은 최대 24GB까지 지원하는 반면, HBM3 스택은 최대 48GB까지 지원할 수 있습니다.
3) 데이터 속도
HBM3는 데이터 핀당 최대 6.4GT/s의 데이터 속도를 지원하며, 이는 HBM2가 제공하는 3.2 GBps의 두 배에 해당합니다.
이러한 데이터 속도의 향상은 HBM3 메모리 스택이 더 많은 데이터를 더 빠르게 처리할 수 있게 해 주어 고성능 컴퓨팅과 그래픽 작업에서의 성능 개선을 기대할 수 있게 해 줍니다.
HBM3E
2023년에 개발된 HBM3E의 경우, 초기 HBM2E 제품이 8층 구조로 16GB 용량을 제공한 것에 비해, HBM3E는 8층 구조로 24GB, 12층 적용 시에는 최대 36GB까지 용량을 확장할 수 있게 되었습니다.
이러한 용량의 증가는 기존 모델 대비해서 더 많은 데이터를 빠르게 처리할 수 있음을 의미합니다
HBM3E는 2024년부터 고객에게 공급되기 시작하여 현재의 주력인 HBM 모델입니다.
HBM4
HBM4에 대한 구체적인 정보는 현재까지 제한적입니다.
삼성전자와 SK하이닉스는 HBM4 개발을 통해 HBM4 시장에서의 경쟁을 더욱 치열하게 이어갈 예정입니다. 각 회사 HBM4 관련 기사와 발표한 자료를 요약하면 다음과 같습니다.
SK하이닉스 HBM4
SK하이닉스는 3월 18일 열린 미국 캘리포니아주 새너제이에서 개막한 엔비디아 AI 개발자 행사에서 2026년 양산 예정인 HBM4를 처음 공개했으며, 최근 양산이 시작된 HBM3E 에 비해서 속도를 40% 올리고, 전력 소모량을 70% 떨어 뜨린 것이 특징이며 AI 서버뿐만 아니라 자동차 전장 등의 영역까지 확대하겠다고 밝혔습니다.
삼성전자 HBM4
삼성전자는 HBM4의 데이터 전송 속도를 이전 세대 대비 전송 속도를 66% 향상해 초당 2TB의 대역폭을 달성하는 것을 목표로 하여 2025년 완료를 목표로 개발하고 있습니다. 이러한 성과는 미국 샌프란시스코에서 열린 반도체 학술대회 'ISSCC 2024'에서 발표되었습니다.
하이브리드 본딩 기술 : HBM4 필수 조건
HBM4는 이전 세대와 비교하여 입출력단자(I/O)가 2배 많아 2024개로 집적되며, 최대 16개의 D램 적층을 지원하는 것이 특징입니다.
이러한 증가된 I/O는 고도화된 패키징 기술을 절대적으로 필요하게 만들었고, 삼성전자와 SK하이닉스 모두 이에 대한 해결책으로 하이브리드 본딩 기술을 고려 중인 것으로 알려지고 있습니다.
하이브리드 본딩은 칩과 웨이퍼의 구리 배선을 직접 붙이는 고급 기술로, 패키지 두께를 줄이는 데 매우 유리합니다.
그러나 이 기술은 기존의 TC(열압착) 본딩 기술에 비해 장비 가격이 4배가량 비싼 단점이 있으며, 공정 변경에 따른 초기 수율 조정이 필요한 등의 리스크가 따릅니다.
이런 기술적 난이도와 비용 문제로 인해 삼성전자와 SK하이닉스 모두 하이브리드 본딩과 기존 TC 본딩을 병행 개발하는 전략을 취하고 있습니다.
HBM 기술 경쟁 : SK하이닉스 및 삼성전자
현재 SK하이닉스가 HBM 기술에서 가장 앞서 나가고 있으며, 삼성전자가 뒤쫓고 있는 상황입니다.
삼성전자와 SK하이닉스는 HBM 기술의 개발과 양산에서 주요한 역할을 하고 있습니다.
SK하이닉스 HBM
SK하이닉스는 HBM2E 및 HBM3 제품을 개발하여, 고성능 컴퓨팅 및 AI 서버 시장에서 가장 중요한 역할을 하고 있습니다
SK하이닉스는 HBM3 제품을 2022년 4분기부터 양산하기 시작하였으며, HBM2E 및 HBM3을 포함한 다양한 HBM 제품을 개발하여 공급하고 있습니다.
SK하이닉스의 HBM 기술
SK하이닉스는 몰디드 언더필(MR-MUF) 기술을 HBM 제조에 적용하며 기술적 우위를 확보했습니다.
MR-MUF 기술은 높은 생산성, 우수한 방열 특성, 그리고 웨이퍼 Warpage(휘어짐) 현상 최소화와 같은 장점을 갖고 있습니다.
MR-MUF 기술은 SK하이닉스의 HBM2E 및 HBM3 제품에 적용되었으며, SK하이닉스는 HBM3E와 향후 양산 예정인 BM4에도 이 기술을 계속 사용할 계획이라고 밝혔습니다
삼성전자 HBM
삼성전자 HBM 기술
삼성전자는 AI 가속기 시스템의 성능과 에너지 효율을 높이기 위해 HBM-PIM(Processing-In-Memory) 기술을 세계 최초로 고성능 DRAM에 적용했습니다.
이 기술은 데이터 연산 기능을 메모리 내부에 구현하여, 프로세서와 메모리 간의 데이터 이동을 줄이고 시스템의 전반적인 효율성을 개선해 주는 역할을 합니다.
HBM2 Aquabolt에 인공지능 엔진을 탑재한 HBM-PIM을 개발하여, 기존 HBM2를 사용한 시스템 대비 성능을 2배 이상, 에너지 효율을 70% 이상 향상했다고 발표했습니다.
또한, 삼성전자는 업계 최초로 36GB HBM3E D램을 개발, 올해 상반기 중 HBM3E 양산에 나설 계획이라고 발표했습니다.. 이는 기존 HBM3 대비 성능과 용량을 50% 이상 향상한 것으로, 최대 1,280GB/s의 대역폭을 제공하는 것으로 알려져 있습니다.
[ 함께 읽으면 좋은 글 ]
GAAP와 Non-GAAP 뜻과 차이점 : 어떤 것이 더 중요한가?
주식 베타 계수 조회 방법 : 초보자를 위한 투자 위험도 가이드
배당 투자의 핵심 : 배당률 vs 배당수익률 vs 시가배당률 차이점 이해
재무 건전성 체크리스트 : 부채비율, 당좌비율, 유보율
영업이익, 당기순이익 정의 및 차이점 : 영업이익보다 당기순이익이 큰 경우
물가 변동의 두 얼굴 : 디스인플레이션, 디플레이션 개념 및 차이