15일 서울 강남구 코엑스에서 열린 '반도체대전(SEDEX 2026)' 삼성전자 전시장에 AI 서버 내부의 반도체와 메모리 배치를 구현한 모형이 설치돼 있다. GPU 주변의 HBM부터 CPU용 D램, SSD와 CXL 기반 확장 메모리까지 데이터 저장·공급을 담당하는 영역이 서버 곳곳에 배치된 모습이다. /이상헌 기자 인공지능(AI) 시대의 반도체 전쟁이 서버 내부의 영토 싸움으로 번졌다. 그래픽처리장치(GPU)가 아무리 빠르게 계산해도 데이터를 공급할 메모리가 부족하면 연산은 멈춘다. 모델이 커질수록 저장해야 할 데이터가 늘어나고 연산량이 증가할수록 데이터를 옮기는 데 더 많은 전력과 시간이 들어간다. 삼성전자와 SK하이닉스가 차세대 D램과 낸드 기술을 총동원하는 이유다. 두 회사가 겨냥한 것은 AI 서버 안에서 데이터가 저장되고 이동하는 거대한 영역이다. 15일 서울 강남구 코엑스에서 열린 반도체대전(SEDEX 2026)에서 삼성전자 전시장에 설치된 AI 서버 구조물이 눈길을 끌었다. 중앙의 GPU를 고대역폭메모리(HBM)가 둘러싸고 중앙처리장치(CPU) 옆에는 D램이 배치됐다. 솔리드스테이트드라이브(SSD)와 컴퓨트익스프레스링크(CXL) 메모리까지 더하면 메모리 관련 영역이 전시 모형의 절반가량을 차지했다. 실제 서버의 물리적 면적 비율을 그대로 나타낸 모형은 아니지만 삼성전자와 SK하이닉스가 어느 시장을 놓고 경쟁하는지 보여주는 장면이었다. 삼성전자와 SK하이닉스가 맞붙은 영역은 HBM에 한정되지 않았다. GPU에 데이터를 공급하는 HBM부터 CPU가 사용하는 D램, 대용량 데이터를 저장하는 낸드 기반 SSD까지 AI 서버의 여러 계층에 두 회사의 제품이 들어간다. 삼성전자는 차세대 적층 메모리 기술인 zHBM을, SK하이닉스는 낸드 기반 고대역폭플래시(HBF)를 앞세웠다. HBM의 속도와 적층 기술을 둘러싼 경쟁이 서버 전체의 데이터 저장·공급 영역으로 확대되고 있었다. GPU 옆 HBM, CPU 옆에는 D램 모바일 온라인바다이야기릴게임 SSD·CXL까지 메모리 영역 확대 삼성 서버 모형에 드러난 경쟁 구도 삼성전자 전시장에 설치된 서버 모형에서 GPU와 가장 가까운 위치에는 HBM이 있었다. HBM은 여러 장의 D램을 수직으로 쌓고 넓은 데이터 통로로 연결한 메모리다. GPU가 대량의 연산을 수행할 때 필요한 데이터를 빠르게 공급한다. GPU의 계산능력이 높아져도 메모리에서 데이터가 제때 도착하지 않으면 연산장치가 대기하게 된다. CPU 옆에 배치된 서버 D램은 운영체제와 응용프로그램, 데이터 전처리 등에 필요한 작업공간을 제공한다. HBM과 서버 D램은 모두 D램 기술을 기반으로 하지만 연결 방식과 요구 성능이 다르다. HBM은 GPU와 가까운 위치에서 높은 대역폭을 제공하고 서버 D램은 CPU가 수행하는 다양한 작업을 지원한다. 모형의 외곽에는 SSD와 CXL 메모리 영역이 이어졌다. SSD는 낸드 플래시를 사용해 대용량 데이터를 저장한다. 전원이 꺼져도 데이터가 유지되기 때문에 AI 학습 데이터와 모델 파일, 각종 서버 데이터를 보관하는 데 활용된다. CXL은 CPU와 메모리 확장장치 등을 연결하는 인터페이스 기술로 메모리 자원의 확장과 공유를 지원한다. 삼성전자가 전시 모형에서 메모리 관련 영역을 시각적으로 절반가량 배치한 것도 이러한 역할의 분화를 보여준다. 실제 서버에서 메모리가 물리적 면적이나 제조원가의 50%를 차지한다는 의미는 아니다. GPU와 CPU를 제외한 데이터 저장·공급 영역에 다양한 메모리가 필요하다는 .이 핵심이다.?[2026 산업포럼] AI칩 하나가 '초미니 데이터센터'···한국은 'HBM 다음'을 봐야 삼성전자와 SK하이닉스는 HBM 시장에서 경쟁하고 있지만 AI 서버 전체로 범위를 넓히면 서버 D램과 기업용 SSD, 차세대 메모리까지 경쟁 영역이 확대된다 릴게임임대 . AI 인프라 투자가 늘어날수록 메모리의 대역폭과 용량, 전력효율에 대한 요구도 커진다. 삼성전자는 전시장에 HBM4용 4나노 로직 베이스다이 웨이퍼도 소개했다. 베이스다이는 여러 장의 D램 아래에 배치돼 데이터 입출력과 제어 기능을 수행한다. 첨단 로직 반도체 제조기술을 HBM에 결합하는 구조다. HBM의 성능 경쟁이 D램 자체의 제조기술을 넘어 로직 반도체와 패키징 기술까지 확대되고 있음을 보여준다. 삼성 zHBM으로 적층 구조 고도화 SK HBF로 낸드 기반 용량 확대 AI 추론 메모리 병목 해소 경쟁 삼성전자가 제시한 차세대 기술 가운데 하나는 zHBM이다. 기존 HBM이 AI 가속기 옆에 메모리를 배치하는 방식이라면 zHBM은 가속기 위에 메모리를 수직으로 쌓는 구조다. 연산장치와 메모리 사이의 데이터 이동 거리를 줄여 대역폭과 전력효율을 높이려는 기술이다. 기존 HBM은 여러 장의 D램을 수직으로 쌓고 실리콘관통전극(TSV) 등을 통해 데이터를 전달한다. zHBM은 여기서 한 단계 나아가 메모리와 연산장치를 입체적으로 연결한다. 이를 구현하려면 하이브리드 본딩 기술과 정밀한 접합 공정, 발열 제어가 중요해진다. 삼성전자는 HBM4와 후속 제품에서 이러한 적층 기술을 발전시키고 있다. 전시된 4나노 로직 베이스다이 웨이퍼도 HBM 구조의 변화를 보여주는 사례다. zHBM의 상용화 경쟁력은 기존 HBM 대비 대역폭과 용량, 전력효율을 얼마나 개선하는지에 따라 평가될 전망이다. SK하이닉스는 고대역폭플래시(HBF)를 통해 낸드의 활용 범위를 확대하려 한다. HBF는 낸드 플래시의 높은 저장밀도를 활용해 대용량 데이터를 공급하려는 기술이다. D램 기반 HBM과 데이터 접근 특성은 다르지만 AI 추론 시스템에서 더 큰 데이터 공간을 제공하는 새로운 메모리 계층으로 개발되고 있다. 달팽이게임 AI 추론에서는 모델 가중치와 KV 캐시 등 메모리에 유지해야 할 데이터의 양이 늘어난다. 특히 긴 문맥과 다수의 동시 요청을 처리할수록 메모리 용량에 대한 부담이 커진다. HBF는 이처럼 대용량 데이터를 효율적으로 관리하기 위해 개발되는 새로운 메모리 계층이다. 서버 설계자는 데이터의 사용 빈도와 접근속도에 따라 HBM과 서버 D램, 확장 메모리, SSD 등에 데이터를 배치한다. HBF는 이러한 계층 사이에서 대용량 데이터를 공급하는 기술로 개발되고 있다. 삼성 zHBM과 SK HBF는 동일한 규격의 직접적인 대체 제품은 아니다. 삼성전자는 고속 메모리의 집적과 연결 구조를 고도화하고 SK하이닉스는 낸드의 저장밀도를 활용해 대용량 메모리 계층을 확보하려 한다. 두 회사 모두 AI 서버에서 데이터 공급과 저장이 차지하는 영역을 넓히려는 전략이다. 美 OCP서 베라 루빈 랙 설계 개방 AMD 헬리온·메타 102.4Tbps 공개 서버 전쟁, 전력·냉각·통신까지 한국에서 메모리 경쟁이 펼쳐지는 동안 미국에서는 AI 서버의 설계 규격을 둘러싼 경쟁이 진행되고 있었다. 12일부터 15일까지 미국 새너제이에서 열리는 오픈컴퓨트프로젝트(OCP) 글로벌 서밋이다. OCP는 메타가 2011년 출범에 참여한 개방형 데이터센터 하드웨어 협력체로 서버와 랙, 네트워크, 전력 공급, 냉각장치 등의 공통 설계 규격을 논의한다. 올해 행사에서 엔비디아는 차세대 베라 루빈(Vera Rubin) 플랫폼의 랙과 컴퓨트 트레이 설계 일부를 OCP에 기여했다. 베라 루빈 NVL72는 GPU 72개와 CPU 36개를 하나의 랙에 통합하는 구조다. 엔비디아는 MGX 1.2를 통해 최대 250kW급 랙에 필요한 전력 공급과 액체냉각, 기구 설계의 공통 기반도 제시했다. 250kW는 랙 하나가 사용하는 전력의 규모를 나타낸다. AI 가속기의 성능이 높아질수록 랙 내부에 공급해야 하는 전력과 외부로 배출해야 하는 열도 증가한다. 알라딘릴게임오락실 엔비디아가 전력·냉각 구조를 포함한 설계 일부를 개방한 것은 서버 제조사와 부품 공급사가 공통 규격에 맞춰 장비를 생산하도록 하기 위한 전략이다. GPU 아키텍처와 CUDA, NVLink 등 핵심 기술까지 모두 개방한 것은 아니다. AMD는 헬리온(Helion)이라는 개방형 랙 설계를 발표했다. OCP ORv4 기반 구조로 CPU 전용 구성에서는 최대 128개의 EPYC CPU와 3만2768개 코어를 수용하도록 설계됐다. GPU를 결합하는 구성도 지원하며 2027년 상반기 제품화를 목표로 한다. 엔비디아 중심의 AI 서버 생태계에 대응하는 대안 설계다. 메타는 GPU 간 데이터 이동과 냉각 기술을 공개했다. 액체냉각 네트워크 랙 아이스팩(IcePack), 102.4Tbps급 스위치 아이스큐브(IceCube), GPU 간 통신 경로를 개선하는 네트워크 구조와 전송 프로토콜을 제시했다. GPU를 많이 설치하더라도 GPU 사이에서 데이터를 주고받는 속도가 느리면 전체 시스템의 처리량이 제한된다. 메타는 네트워크 구조를 개선해 이러한 병목을 줄이려 한다. OCP에서는 800V 직류 배전과 데이터센터 전력·냉각 설계의 표준화도 논의되고 있다. AI 서버의 경쟁 단위가 개별 GPU에서 랙과 데이터센터 전체로 확대되고 있다는 의미다. 연산장치와 메모리, 네트워크, 전력·냉각을 하나의 시스템으로 통합하는 능력이 중요해지고 있다. 미국 기업들이 서버의 구조를 바꾸면 메모리 제조사에도 새로운 요구가 발생한다. GPU와 연결되는 HBM의 용량과 대역폭, CPU용 D램의 전력효율, SSD의 데이터 처리 속도와 저장밀도 등이 서버 설계의 핵심 조건이 된다. 메모리 제조사가 개발한 제품이 실제 서버에 채택되려면 시스템 전체의 성능과 비용에 기여해야 한다. 메모리 성능, 서버 설계 조건으로 대역폭·용량·전력효율 동시 경쟁 양산 수율과 고객사 채택이 관건 삼성전자와 SK하이닉스의 경쟁은 HBM4와 후속 제품의 성능을 높이는 데서 계속된다. 동시에 AI 추론과 대용량 데이터 처리를 위한 새로운 메모리 기술도 개발하고 있다 인터넷야마토릴게임 . 고속 메모리와 대용량 저장장치의 역할이 분화되면서 서버 내부에 필요한 메모리 종류도 다양해지고 있다. 차세대 메모리의 사업적 가치는 실제 서버 적용을 통해 검증된다. HBM은 GPU 패키지와의 연결 구조, 대역폭, 용량, 발열을 고려해야 한다. 서버 D램은 CPU 플랫폼과의 호환성과 전력효율이 중요하다. SSD와 낸드 기반 차세대 메모리는 처리 속도와 저장밀도, 내구성, 시스템 소프트웨어와의 결합이 핵심이다. 삼성의 zHBM과 SK의 HBF도 이러한 검증을 거쳐야 한다. 기술 개발 단계에서 제시한 성능이 실제 AI 작업에서 어느 정도의 처리량과 비용 절감으로 이어지는지 확인해야 한다. 고객사의 채택 여부와 양산 수율, 공급능력도 경쟁력을 결정한다. 이날 삼성전자 전시장에 설치된 AI 서버 모형은 메모리 경쟁의 범위를 압축해서 보여줬다. GPU 주변 HBM과 CPU 옆 D램, 외곽의 SSD와 CXL 메모리까지 서버 내부의 여러 영역에 메모리가 배치돼 있었다. 삼성전자는 zHBM으로 고속 메모리의 집적 기술을 발전시키고 SK하이닉스는 HBF로 낸드 기반 대용량 메모리 영역을 개척하려 한다. 미국 새너제이에서 AI 서버의 설계 규격을 둘러싼 경쟁이 진행되는 동안 서울 코엑스에서는 그 서버에 들어갈 메모리의 구조를 바꾸는 경쟁이 펼쳐졌다. ☞ zHBM(z-High Bandwidth Memory) = 기존 HBM의 수직 적층 구조를 발전시켜 AI 가속기 위에 메모리를 입체적으로 연결하는 차세대 고대역폭메모리 기술이다. 연산장치와 메모리 사이의 데이터 이동 거리를 줄여 대역폭과 전력효율을 높이는 것이 목표로, 정밀한 접합과 발열 제어 기술이 핵심이다. ☞ HBF(High Bandwidth Flash·고대역폭플래시) = 낸드플래시의 높은 저장밀도를 활용해 AI 시스템에 대용량 데이터를 공급하도록 개발 중인 차세대 메모리 기술이다. D램 기반 HBM보다 데이터 접근속도는 느리지만 더 큰 저장공간을 제공하는 방향으로 개발되며, AI 추론에서 증가하는 모델 가중치와 데이터 처리 수요에 대응하는 것이 목적이다. ┏ 68.cia5