삼성전자가 업계 최초로 36GB HBM3E 12H(12단 적층) 개발에 성공했다고 27일 밝혔다. 이는 AI반도체 시장의 핵심 D램 제품인 고대역메모리(HBM)에서 SK하이닉스와 미국 마이크론 등과 치열한 시장 경쟁이 벌어지는 상황에서, 앞선 기술 개발을 통해 시장 리더십을 가져가겠다는 것으로 풀이된다.

삼성전자의 이번 신제품은 24Gb D램을 실리콘 관통 전극(TSV)로 12단까지 적층해 업계 최대 용량인 36GB로 구현한 것으로, 이전 세대 제품인 HBM3 8H 대비 성능과 용량에서 모두 50% 이상 개선됐다.

특히, 이번 HBM3E 12H는 HBM 패키지 규격을 만족시키기 위해 '어드밴스드 TC NCF(Thermal Compression Non Conductive Film, 열압착 비전도성 접착필름) 을 사용해 12H 제품을 기존 8H 제품과 동일한 높이로 구현됐다고 회사측은 설명했다. '어드밴스드 TC NCF 기술은 HBM의 적층수가 증가하고 칩 두께가 얇아지면서 발생할 수 있는 '휘어짐 현상'을 최소화할 수 있는 패키징 기술로, 고단 적층에 유리하다.

삼성전자는 또한 NCF 소재 두께도 낮춰, 업계 최소 칩간 간격인 7um(마이크로 미터)를 구현해, HBM3 8H 대비 20% 이상 향상된 수직 직접도를 실현했다. D램 칩의 적층 공정에서도 신호 특성이 필요한 곳은 작은 범프를, 열 방출 특성이 필요한 곳은 큰 범프를 적용하는 등 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화 했다는 설명이다.

이같은 기술 특성 등으로 HBM3E 12H는 갈수록 고용량 메모리를 필요로 하는 AI 플랫폼의 수요에 대응할 제품으로, 사용 기업들에게도 최고의 솔루션이 될 것으로 기대된다.  기업의 총소유비용(TCO)을 크게 줄일 수 있기 때문으로, 예를 들어 서비스 시스템에 HBM3E 12H 신제품을 적용할 경우 HBM3 8H 대비 성능과 용량 증가로 평균 34% AI학습 훈련 속도의 향상이 예상된다. 추론의 경우는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 기대된다.

삼성전자 메모리사업부 상품기획실장 배용철 부사장은 “삼성전자는 AI 서비스를 제공하는 고객사의 고용량 솔루션 니즈에 부합하는 혁신 제품 개발에 힘쓰고 있다”며 “앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나갈 것”이라고 밝혔다.

삼성전자는 HBM3E 12H의 샘플을 고객사에게 제공했으며, 상반기 양산할 예정이다.

한편, 업계는 이번 고용량 5세대 HBM3E 개발로 HBM 시장에서 SK하이닉스에 뒤처져 있던 상황을 어느 정도 개선할 수 있을지 주목하고 있다. HBM 최대 고객사인 엔비디아의 삼성전자 HBM3 제품에 대한 승인(퀄) 상황도 관심사다.

삼성전자는 엔비디아로부터 이전 세대 HBM3에 대한 퀄을 받아 양산 공급을 시작하고, 차세대 HBM3E에서 앞선 패키징 기술로 시장 선점을 한다면 D램과 같은 삼성전자 SK하이닉스 마이크론의 5대3대2의 구도를 가져갈 수 있을 것으로 기대하고 있다.

현재는 SK하이닉스가 HBM3를 엔비디아에 먼저 양산 공급하며, 시장을 선점한 상태이고 마이크론이 최근 HBM3E 8H 제품의 양산을 시작했다. 마이크론은 올해 2분기 HBM3E 8H 제품을 출하해 엔비디아 H200 GPU에 탑재된다고 밝혔다.