메모리 부족 사태가 지속 중인 가운데, 에 이어 구글도 퇴역 서버의 DDR4 메모리를 신형 AI 서버에 재활용하는 방식으로 대응에 나섰다.
메타는 앞서 자체 개발한 Vistara 기술을 통해 기존 서버에서 회수한 DDR4 메모리를 최신 DDR5 기반 서버에 연결하는 방식을 공개했다. Vistara는 CXL 2.0 기반의 자체 ASIC을 이용해 DDR4 메모리를 별도 메모리 자원으로 활용하는 방식으로, 메타는 이를 통해 기존 메모리 자산을 재사용하고 서버당 메모리 용량을 늘리는 효과를 얻었다고 설명했다. 일부 워크로드에서는 필요한 서버 수를 최대 25% 줄이는 효과도 확인됐다.
CFM 플래시마켓에 따르면 구글 공급망 인프라 부문 수석 디렉터 니킬 체리안은 최근 한 포럼에서 현재 DRAM 공급이 상당히 빠듯한 상황이라며, 구글이 퇴역 서버에서 DDR4 메모리를 회수해 최신 AI 서버에 재활용하고 있다고 전했다.
구글은 기존 DDR4 메모리를 신형 AI 서버에 연결하기 위해 전용 하드웨어 어댑터까지 자체 설계, 구형 서버에서 사용 가능한 메모리를 회수한 뒤 다시 AI 인프라에 투입하는 일종의 내부 순환 공급망을 구축한 셈이다.
이같은 대응의 배경에는 대형 AI 모델에서 MoE와 에이전틱 AI, 긴 컨텍스트 활용이 확대되고 KV 캐시 규모까지 커지면서 서버가 요구하는 메모리 용량이 빠르게 증가하고 있는 현실이 반영된 것으로 풀이된다.
구글은 메모리 가격보다 필요한 물량을 제때 확보할 수 있는지가 더 큰 문제라고 지적하며, DDR4 재활용 외에도 메모리 업체와 장기 공급 협력을 확대하고 생산능력 투자에도 직접 참여하는 방안을 추진 중이라고 전했다. |
