HBM이 전부 아니다…에이전틱 AI에 필요한 대역폭 제공하는 MRDIMM 메모리 [고든 정의 TECH+]

인공지능(AI) 피크아웃에 대한 우려로 인해 주식 시장이 출렁이고 있지만, 기본적으로 메모리는 AI뿐 아니라 정보통신기술(IT) 인프라를 유지하기 위해 필수적인 제품이고 결국 장기적으로는 더 빠르고 더 용량이 큰 메모리에 대한 수요가 늘어날 수밖에 없습니다. 따라서 업계에서는 현재 범용 D램 제품인 DDR5 및 LPDDR5/5x 제품을 대신하기 위한 DDR6 및 LPDDR6 제품을 준비 중에 있습니다. 이 가운데 LPDDR6는 올해 양산에 들어갈 예정이고 DDR6는 2~3년 후 본격 보급될 것으로 예상됩니다.

하지만 최근 에이전틱 AI의 수요가 늘어나면서 고성능 CPU와 이 CPU를 뒷받침할 고성능 서버 메모리에 대한 수요 역시 증가하고 있습니다. 이를 위해 LPDDR5x 메모리를 서버에서 사용할 수 있게 해주는 규격인 소캠 2 (SOCAMM2) 메모리 모듈이 본격적으로 양산에 들어가 엔비디아의 베라 루빈 시스템에 사용되고 있으며 기존의 범용 서버 CPU를 위해서는 DDR5 메모리의 속도와 용량을 늘린 MRDIMM 규격이 보급되고 있습니다.

MRDIMM(Multiplexed Rank Dual Inline Memory Module)은 하나의 메모리 모듈에 2개의 메모리 랭크를 멀티플렉싱해 실효 대역폭을 거의 두 배로 높이는 구조로 DDR5 메모리의 속도를 두 배로 늘릴 수 있습니다. 그러면서도 기존의 DDR5 DIMM에 호환돼 별도의 인터페이스 변화 없이 중앙처리장치(CPU)에서 지원하면 바로 서버에서 사용할 수 있습니다. 현재 제온 6 CPU가 이를 지원하고 있으며 AMD 역시 에픽 6 CPU에서 MRDIMM을 지원할 예정입니다.

기본적으로 MRDIMM 메모리는 DDR5보다 대역폭이 두 배이기 때문에 속도가 8800MT/s에서 17,600MT/s까지 지원할 수 있습니다. 이는 미래 규격인 DDR6와 같은 속도로 DDR6의 속도를 현재 하드웨어로 사용할 수 있는 셈입니다. 다만 1만 2800MT/s 이상의 속도에서는 MRDIMM 메모리도 빠른 속도에서 정확한 신호 전달과 제어를 위해 새로운 칩이 필요합니다.

따라서 1만 2800MT/s 이상의 속도를 지닌 MRDIMM 메모리에서는 MRCD(Multiplexed Rank Registering Clock Driver)라는 새로운 칩이 필요한데, 기존 서버용 RCD(Registering Clock Driver)의 기능을 크게 확장한 칩입니다. MRCD는 명령, 주소, 클럭, 제어 신호를 모두 버퍼링·재구동합니다. 1만 2800MT/s 이상의 MRDIMM 메모리에서는 1개의 MRCD 칩이 여러 개의 데이터 트래픽 관리 칩인 MDB/MBD (Multiplexed Rank Data Buffer/Multiplexing Data Buffer)와 함께 신호를 관리합니다. (아래 사진 참조)









마이크론은 이미 32GB, 48GB, 64GB, 96GB, 128GB 용량의 12,800MT/s 2세대 MRDIMM 메모리를 출시했으며 여기에 추가로 1만 4400MT/s 96GB 모듈도 추가했습니다. 여기에 더해 관련 컨트롤러 제조사인 르네사스는 3세대 MRCD + MDB/MBD를 미리 선보였는데 1만 6000MT/s의 속도를 구현할 수 있습니다. 따라서 내년에는 3세대 MRDIMM 메모리가 서버 시장에 보급될 것으로 보입니다.

다만 1만 7600MT/s에 이르면 사실상 DDR5 스펙의 한계에 근접하는 만큼 제조사들은 DDR6를 고민하지 않을 수 없습니다. DDR6는 기본 대역폭이 최대 1만 7600MT/s로 논의되고 있기 때문에 MRDIMM 형태로 제조할 경우 그 두 배인 최대 3만 5200MT/s도 가능할 것으로 보입니다. 이와 같은 메모리 대역폭 증가는 AI 시대에 필요한 충분한 대역폭을 제공해 AI 반도체 성장을 견인할 것으로 기대합니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com