[비즈니스포스트] 삼성전자가 4세대 고대역폭메모리(HBM) HBM3를 엔비디아에 공급하는 데 성공했지만, 5세대 HBM3E는 아직 품질 인증 테스트를 통과하지 못하고 있다.

이미 지난 3월부터 5세대 HBM3E를 공급하고 있는 SK하이닉스와 격차를 좁히지 못하고 있는 것인데, 이 같은 두 회사의 격차는 미세공정 기술과 본딩(회로기판과 D램 칩을 결합하는 것) 기술방식 차이에서 비롯된 것이란 분석이 나온다.

전영현 삼성전자 반도체(DS) 부문장 부회장은 신설한 HBM 전담팀을 중심으로, 6세대인 HBM4에 새로운 공정과 본딩 기술방식을 적용해 단 번에 판 뒤집기에 나설 것으로 보인다.

28일 반도체 업계 취재를 종합하면 삼성전자가 인증 테스트를 통과해 엔비디아에 공급하는 HBM3는 중국 수출용 인공지능(AI) 반도체 ‘H20’에 사용될 것으로 예상된다.

H20은 엔비디아의 고성능 AI 반도체 ‘H100’과 비교해 컴퓨팅 성능이 5분의 1 수준인 제품이다. 지금까지 SK하이닉스가 H20에 들어가는 HBM3를 독점 공급해왔는데, 삼성전자가 새롭게 공급업체로 진입하게 된 것이다.

하지만 엔비디아 주력 제품인 H100과 H200에 들어가는 HBM3E는 여전히 대부분 물량을 SK하이니스가 공급하고 있으며, 삼성전자는 아직까지 품질 테스트를 통과하지 못했다.

삼성전자는 HBM3E에서 발열과 수율(완성품 비율)을 잡는 데 어려움을 겪고 있는 것으로 알려졌다.

이처럼 HBM3E에서 SK하이닉스와 삼성전자의 희비가 엇갈린 것은 두 회사의 미세 공정 기술 차이에서 비롯된 것이란 분석이 제기된다.

SK하이닉스가 HBM3E에 12~13나노(1b) 공정을 활용하는 반면 삼성전자는 이보다 한 세대 뒤진 14나노(1a) 공정을 사용해 소비전력 효율에서 차이가 난다는 것이다.

미국 마이크론도 HBM3E 생산에 12~13나노(1b) 공정을 적용하고 있다.

김선우 메리츠증권 연구원은 “삼성전자가 HBM3E에 있어서 1a 공정이라는 상대적 비교 열위에 있다”며 “주요 고객사 품질인증을 완료하지 못한 상황으로, 2024년 3분기 내 통과를 위해 노력하고 있는 것으로 파악된다”고 말했다.

HBM 본딩 방식에도 차이가 있다.

삼성전자가 ‘비전도성-접착필름(TC-NCF)’ 본딩 방식을 사용하는 반면 SK하이닉스는 ‘매스리플로우-몰디드언더필(MR-MUF)’ 방식을 채택하고 있다.

MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입한 뒤 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 TC-NCF과 달리, 접합 공정이 생략돼 생산 속도가 높고 불량률을 낮출 수 있는 장점이 있다. 또 칩 사이에 빈 공간이 없어 방열 효과가 우수한 것으로 알려져 있다.
  반면 삼성전자의 TC-NCF 방식은 열과 압력을 이용해 칩과 기판을 직접 접합하는 만큼, 적층 단수가 높은 HBM을 만드는 데 유리한 것으로 알려져 있다. 하지만 아직까지 생산 효율성 측면에서는 MR-MUF에 비해 떨어진다는 평가를 받는다.

SK하이닉스는 현재 일본 전자부품 재료 기업 나믹스로부터 MR-MUF 핵심 소재를 독점 공급받고 있다.

이민희 BNK투자증권 연구원은 “SK하이닉스는 MR-MUF 기술의 우수성을 입증하고 있는데, 최소 HBM3E까지는 경쟁사 진입이 제한적일 것”이라며 “SK하이닉스가 핵심 소재 공급선을 독점 계약했기 때문”이라고 분석했다.

전영현 삼성전자 부회장은 '와신상담', 2025년 차기 HBM4부터 시장 지각변동을 일으키기 위한 준비를 하고 있다.

HBM4에서는 기존 본딩 방식이 아닌 '하이브리드 본딩' 방식을 적용한다는 계획을 세운 것이다.  

그동안 HBM은 D램과 D램 사이를 연결할 때 ‘범프’라는 소재를 사용해왔다. 하지만 하이브리드 본딩 기술을 활용하면 범프 없이 칩과 칩을 접착하고, 데이터 통로를 곧바로 연결해 칩 두께를 획기적으로 줄일 수 있다. 또 열 방출이 쉽고 전기저항이 감소한다는 장점도 있다.

SK하이닉스가 HBM4까지 기존 MR-MUF 방식을 유지하는 것과 다른 길을 선택한 것이다.

또 삼성전자는 가장 먼저 11~12나노(1c) 공정을 HBM4에 도입해 미세공정 측면에서도 앞서나가겠다는 계획이다. SK하이닉스는 HBM4까지는 12~13나노(1b) 공정을 활용하고 6세대 HBM4E부터 11~12나노(1c)를 적용할 예정이다.

전 부회장은 지난 7월 초 흩어져 있던 HBM을 담당하는 조직들을 모두 합쳐 HBM 전담 개발팀을 신설했다. DS부문장에 취임한지 한 달 만에 이뤄진 조직개편으로, HBM에서 승부를 보겠다는 뜻으로 읽힌다.

김동원 KB증권 연구원은 “전 부회장은 보수적 성향의 기존 DS부문장과 달리 신기술의 선제적 개발과 기술 경쟁력을 최우선시 하는 것으로 널리 알려져 있다”며 “향후 HBM 신제품 개발, 수율 향상에 주력할 것”이라고 전망했다. 나병현 기자