마이크론(Micron)이 자사의 고대역폭 메모리(HBM)이 AMD 최신 AI 플랫폼에 적용된다고 밝혔다.
마이크론은 12일(현지시간) 보도자료를 통해 HBM3E 36GB12-high 제품이 출시 예정인 AMD Instinct MI350 시리즈 솔루션에 통합된다고 발표했다ㅣ.
AMD 고급 CDNA 4 아키텍처를 기반으로 구축된 AMD Instinct MI350 시리즈 GPU 플랫폼은 288GB 고대역폭 HBM3E 메모리 용량을 통합하여 최대 8TB/s의 대역폭을 제공하며, 방대한 메모리 용량 덕분에 단일 GPU에서 최대 5,200억 개의 매개변수를 가진 AI 모델을 효율적으로 지원할 수 있다.
전체 플랫폼 구성에서 Instinct MI350 시리즈 GPU는 최대 2.3TB의 HBM3E 메모리를 제공하고 FP4 정밀도에서 최대 161 FLOPS의 이론 성능을 달성하여 고밀도 AI 워크로드를 위한 에너지 효율성과 확장성을 제공한다.
마이크론은 자사의 전력 효율적인 HBM3E와 결합된 Instinct MI350 시리즈의 아키텍처가 대규모 언어 모델(LLM) 학습, 추론 및 과학 시뮬레이션 작업에 탁월한 처리량을 제공하여 데이터 센터가 와트당 컴퓨팅 성능을 극대화하는 동시에 원활하게 확장할 수 있도록 지원하며, AMD와의 공동 노력을 통해 AI 솔루션 출시 기간이 단축되었다고 설명했다. |
