경제타임스 김은국 기자 | 차세대 고대역폭메모리(HBM, High Bandwidth Memory, 대역폭을 극단적으로 높인 3D 적층 메모리 기술)에 그래픽처리장치(GPU, Graphics Processing Unit, 그래픽·병렬 연산 처리에 특화된 연산장치) 코어를 직접 탑재하는 기술이 글로벌 빅테크를 중심으로 현실화 단계에 들어섰다.
AI 성능 향상을 위해 메모리와 연산 기능을 하나의 아키텍처로 통합하는 시도가 본격화되면서, 메모리 기업과 시스템 반도체 기업 간 경계가 빠르게 허물어지고 있다는 분석이다.
최근 업계에 따르면 메타와 엔비디아가 HBM 하단의 ‘베이스다이(Base Die or Base Layer Die, HBM 적층 구조의 가장 아래 위치한 기저 칩)’에 GPU 코어를 내장하는 구조를 검토하고 있으며, 이 기술 구현을 위해 SK하이닉스와 삼성전자에 협력 방안을 타진한 것으로 알려졌다. 복수의 반도체 관계자는 “차세대 맞춤형 HBM 아키텍처 논의가 진행 중이며, 그중 GPU 코어의 직접 통합이 핵심 기술 과제로 부상했다”고 설명했다.
HBM은 여러 장의 D램을 수직 적층해 만든 고성능 메모리로, 방대한 데이터를 실시간 처리해야 하는 생성형 AI 시대의 핵심 부품이다. 현재 베이스다이는 메모리와 외부를 연결하는 통신 기능을 수행하며, 내년 양산 예정인 HBM4에서는 이 베이스다이에 메모리 컨트롤러가 탑재된다.
GPU 코어 통합은 이를 한 단계 넘어선 기술적 도전이다. GPU·CPU에서 코어는 독립적으로 연산 가능한 최소 단위로, 코어 수가 늘수록 연산 능력이 증가한다. GPU의 일부 코어를 HBM 쪽으로 이동시키면 연산 기능이 메모리로 분산돼 데이터 이동이 줄어들고, 결과적으로 속도와 전력 효율 모두 개선된다.
업계의 관심이 높은 이유도 여기에 있다. 한 반도체 관계자는 “AI 연산은 속도보다 에너지 효율이 더 중요해지고 있다”며 “메모리와 연산 유닛의 거리를 물리적으로 줄이면 지연(Latency)과 소비전력을 동시에 낮출 수 있다”고 말했다.
그러나 해결해야 할 난제도 적지 않다. TSV(Through-Silicon Via, 실리콘 관통 전극, 3D 적층 칩 간 전기 연결을 위한 구멍·배선 기술) 구조를 갖는 베이스다이는 면적이 매우 제한적이어서 GPU 코어를 담기 어렵고, 고전력·고발열 특성의 GPU 코어를 적층 구조 안에 배치하는 것은 열 관리 측면에서 더 큰 도전이다.
국내 반도체 업계에는 기회이자 위기라는 평가가 동시에 나온다. 메모리 강자인 SK하이닉스·삼성전자가 패키징과 로직 설계 역량까지 확보하면 AI 반도체 주도권을 강화할 수 있지만, 반대로 대응 속도가 늦어질 경우 시스템 반도체 중심 기업에 종속될 수 있다는 우려도 있다.
김정호 KAIST 전기·전자공학부 교수는 “AI 고도화 속도에 맞춰 메모리·로직 경계가 사실상 사라지고 있다”며 “국내 기업들이 메모리 기술을 넘어 로직 생태계까지 확장해야 차세대 HBM 시장을 선점할 수 있다”고 강조했다.
