더 적은 수의 서버로 LLM 서비스
"맞춤형 메모리 생태계 열어갈 것"

미국 정부가 삼성전자에 반도체 보조금 64억달러를 지원키로 하면서, 삼성전자의 미래 반도체 기술에 관심이 집중되고 있다.

삼성전자가 선도하는 K반도체의 핵심 중 하나는 HBM이다. HBM은 D램 칩을 수직으로 쌓아 올려 용량과 대역폭을 크게 늘린 반도체다. AI(인공지능) 기술이 갈수록 고도화되는 가운데 초거대 AI 모델이 가동되려면 이를 뒷받침할 메모리 성능과 용량이 필수적이라 단연 HBM이 주목받고 있다.

HBM은 공정이 어려워 뛰어난 기술력이 필수다. 2016년 업계 최초로 고성능 컴퓨팅용 HBM2를 상용화한 삼성전자는 칩 사이에 적용하는 소재의 두께를 얇게 해 칩간 간격을 줄이는 등 그동안의 반도체 제조 기술력과 노하우를 바탕으로 점점 HBM의 성능을 높여가고 있다.

가장 최근엔 초당 최대 1천280GB의 데이터를 처리하고 현존 최대인 36GB의 용량을 제공하는 5세대 HBM을 개발하는데 이르렀다. 이를 토대로 AI 학습 훈련 속도는 평균 34% 빨라지고 서비스는 최대 11.5배 많이 제공할 수 있다.

이에 대해 삼성전자 상품기획실 김경륜 상무는 최근 삼성전자 뉴스룸에 공개된 인터뷰에서 "다수의 빅테크 기업이 경쟁적으로 AI 모델을 고도화하고 있다. 삼성전자의 5세대 HBM은 상용화되면 기존보다 더 적은 수의 AI 서버로 동일한 초거대 언어 모델(LLM)을 서비스할 수 있어 비용이 절감되는 효과가 있다"고 설명했다. 맞춤형 HBM 제조에 대한 빅테크 업계의 수요가 높아지는데 대해 차세대 HBM 전담팀을 구성했다는 것도 부연했다.

삼성전자는 내년에 한 단계 발전한 6세대 HBM 개발을 목표로 하고 있다. D램 개발실 윤재윤 상무는 "최근 갤럭시 AI가 구현한 동시 통역 역시 삼성전자 메모리 반도체의 발전이 가져온 성과다. 삼성전자의 HBM은 삶의 스펙트럼을 확장하고 세상을 통합하는 역할을 수행하고 있다"며 "차세대 HBM을 토대로 생성형 AI 시대에 걸맞은 최고의 설루션을 지속 선보이고, 업계 경쟁력을 좌우할 맞춤형 메모리 생태계를 열어갈 것"이라고 강조했다.

/강기정기자 kanggj@kyeongin.com