Meta는 왜 구형 DDR4를 새 AI 서버에 다시 붙였을까요

Meta는 왜 구형 DDR4를 새 AI 서버에 다시 붙였을까요

Meta CXL 메모리 서버 썸네일

새 서버는 DDR5를 쓰지만, 퇴역 서버에서 떼어 낸 DDR4까지 버릴 필요는 없어요. Meta는 자체 CXL 브리지 칩 ‘Vistara’를 만들어 두 세대의 메모리를 한 서버에서 함께 쓰고 있어요. 일부 분리형 AI 추론 작업에서는 필요한 서버 수를 최대 25% 줄였어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
문제	서버보다 오래 쓸 수 있는 DDR4가 세대교체 때 남아요	메모리 수명과 서버 교체 주기가 맞지 않는 비용 문제를 보여줘요
해법	Vistara가 DDR4를 CXL로 새 DDR5 서버에 연결해요	기성 확장 카드로 풀지 못한 조건을 전용 칩으로 해결했어요
운영	DDR4를 CPU가 없는 별도 NUMA 노드로 노출해요	빠른 로컬 메모리와 느린 확장 메모리의 역할을 나눌 수 있어요
효과	일부 AI 추론 작업의 서버 수를 최대 25% 줄였어요	메모리 부족 때문에 서버를 더 배치하던 비용을 낮출 수 있어요

1. DDR4를 버리는 대신 CXL 메모리 계층으로 바꿨어요

Meta 서버의 기대 수명은 3~5년인데, 메모리는 7~10년 동안 쓸 수 있어요. 서버를 교체할 때 정상 DDR4 DIMM이 함께 남는 이유예요. 더구나 기존 서버 플릿의 약 40%는 메모리를 추가할 수 없어, 메모리 용량이 큰 작업을 맡기기 어려웠어요. Meta는 구형 장비에서 회수한 DDR4를 새 DDR5 서버에 연결해 이 수명 차이를 비용 절감 기회로 바꿨어요. 2

CXL은 PCIe 기반으로 CPU와 메모리 장치를 연결하는 표준이에요. 다만 메모리를 멀리 붙이면 대역폭과 지연 시간이 로컬 DRAM보다 불리해요. 메모리 계층이 늘어나면서 운영체제와 애플리케이션이 어느 데이터를 어디에 둘지도 결정해야 해요. 기성 CXL 장비는 컨트롤러와 새 DRAM을 묶어 판매하거나 DDR4를 지원하지 않는 경우가 많아, 회수 DIMM을 다시 쓰려는 Meta의 조건과 맞지 않았어요.

728x90

Vistara는 DDR4와 최신 서버 사이의 전용 다리예요

Meta가 만든 Vistara ASIC은 DDR4를 CXL 2.0·1.1 호환 PCIe Gen5 x16 인터페이스에 연결해요. 칩 하나에는 독립된 72비트 DDR4 채널 2개가 들어가고, 최대 3,200MT/s와 256GB를 지원해요. 제어에는 맞춤형 RISC-V 프로세서 2개를 써요. 범용 CXL 카드를 도입한 게 아니라, 이미 보유한 DIMM을 다시 꽂을 수 있도록 브리지 자체를 설계한 셈이에요. 3

Vistara가 들어간 MemServer는 AMD Turin 프로세서와 768GB DDR5, 256GB DDR4를 결합해요. 운영체제에서는 CXL로 연결된 DDR4가 CPU 없는 별도 NUMA 노드로 보여요. 애플리케이션은 빠른 로컬 메모리를 먼저 쓰고, 용량이 더 필요할 때 확장 메모리를 활용할 수 있어요. Linux CXL 드라이버 수정분은 이미 업스트림 커널에 들어갔거나 반영 절차를 밟고 있어요.

모든 작업을 CXL 메모리로 옮긴 것은 아니에요

이 구조는 용량이 중요하고 메모리 접근 지연을 어느 정도 감수할 수 있는 작업에 맞아요. 추천 시스템의 임베딩 테이블, 빅데이터 처리, 데이터베이스, 분산 캐시, CI/CD 빌드가 실제 적용 대상으로 소개됐어요. 반대로 지연 시간에 아주 민감하거나 메모리 대역폭을 계속 가득 쓰는 작업이라면 로컬 DDR5가 더 적합할 수 있어요.

성과 수치도 범위를 나눠서 봐야 해요. 일부 분리형 추론 작업에서는 필요한 서버 수가 최대 25% 줄었고, CXL 메모리를 쓴 서버에서는 메모리 부족으로 발생하는 작업 실패와 재시작, 자원 단편화 오버헤드가 33% 감소했어요. 모든 서버와 모든 AI 작업에서 같은 절감률이 나온다는 뜻은 아니에요. 워크로드의 메모리 접근 패턴과 배치 방식이 효과를 좌우해요.

왜 중요한가요

AI 인프라 비용은 GPU 가격만으로 결정되지 않아요. 추천 시스템처럼 큰 임베딩 테이블을 다루는 작업은 연산 자원이 남아 있어도 메모리가 부족하면 서버를 추가해야 해요. Vistara는 새 서버를 더 사는 대신 이미 보유한 DDR4를 별도 메모리 계층으로 붙여 이 불균형을 줄였어요. 3

이번 사례는 CXL의 쓰임새도 구체적으로 보여줘요. 단순히 메모리 용량을 늘리는 장치가 아니라, 수명이 다른 하드웨어 자산을 한 시스템에서 다시 조합하는 수단으로 썼어요. 다만 전용 ASIC, 섀시 냉각, 커널 지원, 워크로드 배치까지 함께 설계했기 때문에 가능한 결과예요. 일반 기업이 카드 한 장을 꽂아 같은 절감률을 얻는 사례로 받아들이면 안 돼요.

서버를 운영하는 팀이라면 메모리 용량만 보지 말고 접근 지연과 데이터 배치 정책을 함께 봐야 해요. CXL 계층에 둘 데이터가 명확하고, 메모리 부족 때문에 작업 재시작이나 서버 과다 배치가 자주 생길 때 경제성이 커져요. 회수 DIMM의 상태 검사와 장애 격리, 전력 소비까지 포함해야 실제 절감액을 계산할 수 있어요.

참고 자료

1. Meta, 맞춤형 CXL 브리지 칩으로 구형 RAM을 새 서버에서 재사용 — GeekNews
2. Zuck saves Meta bucks by reusing memory from old servers with a custom CXL ASIC — The Register
3. Vistara: A CXL-Based Memory System for Reusing DDR4 at Hyperscale — ISCA 2026 논문