마이크론(Micron)이 AI 데이터 센터 내 저전력 메모리 도입을 지원하기 위해 업계 최고 용량 129GB SOCAMM2의 고객 샘플링을 발표했다.
SOCAMM2(Small Outline Compression Attached Memory Module)은 마이크론이 최초로 출시한 LPDRAM SOCAMM의 기능을 확장하여 동일한 소형 풋프린트에서 50% 더 많은 용량을 제공한다. 이렇게 추가된 용량은 실시간 추론 워크로드에서 TTFT(Time To First Token)까지의 시간을 80% 이상 크게 단축할 수 있다.
192GB SOCAMM2는 마이크론의 최첨단 1-감마 DRAM 공정 기술을 사용하여 전력 효율을 20% 이상 향상시켜 대규모 데이터 센터 클러스터의 전력 설계 최적화를 더욱 강화하며, 이러한 절감 효과는 40TB 이상의 CPU 연결 저전력 DRAM 메인 메모리를 포함할 수 있는 풀 랙 AI 설치에 상당히 중요하다. SOCAMM2의 모듈식 설계는 서비스 편의성을 향상시키고 향후 용량 확장을 위한 기반을 마련한다.
마이크론 SOCAMM2 제품은 특수 설계 기능과 향상된 테스트를 통해 스마트폰용으로 설계된 저전력 DRAM을 데이터 센터급 솔루션으로 탈바꿈시키며 고품질 데이터 센터 DDR 메모리 분야에서 축적된 경험을 바탕으로 SOCAMM2가 데이터 센터 고객의 엄격한 품질 및 안정성 요건을 충족하도록 보장한다.
SOCAMM2는 동급 RDIMM 대비 전력 효율을 2/3 이상 향상 개선하는 동시에 1/3 크기의 모듈에 성능을 집약하여 데이터 센터 설치 공간을 최적화하고 용량과 대역폭을 극대화한다. SOCAMM의 모듈형 설계와 혁신적인 스태킹 기술은 서비스 편의성을 향상시키고 수랭식 서버 설계를 지원한다.
마이크론은 엔비디아(NVIDIA)와의 5년 간의 협업을 바탕으로 데이터 센터에서 저전력 서버 메모리를 사용하는 선구적인 기업으로 SOCAMM2는 LPDDR5X의 고유한 장점인 탁월한 저전력 소비와 높은 대역폭을 AI 시스템의 메인 메모리에 제공한다고 밝혔다.
또한 대규모 컨텍스트 AI 플랫폼의 끊임없이 변화하는 요구를 충족하도록 설계된 SOCAMM2는 AI 워크로드에 필요한 높은 데이터 처리량을 제공하는 동시에 새로운 차원의 에너지 효율을 제공하여 AI 학습 및 추론 시스템의 새로운 기준을 제시하며, 이러한 장점을 바탕으로 SOCAMM2는 향후 수년 간 최첨단 AI 플랫폼을 위한 핵심 메모리 솔루션으로 자리매김할 거라고 설명했다.
마이크론 SOCAMM2 고객 샘플은 현재 모듈당 최대 192GB 용량과 최대 9.6Gbps 속도로 출하되고 있으며, 대량 생산은 고객 출시 일정에 맞춰 진행된다.
마이크론은 JEDEC SOCAMM2 사양 정의에 적극적으로 참여해왔으며, 업계 파트너들과 긴밀히 협력하여 AI 데이터 센터 저전력 도입을 가속화하고 산업 전반의 전력 효율을 향상시키는 표준을 개발하고 있다고 덧붙였다. |
