인텔에서 P-코어 기반의 제온(Xeon) 6 프로세서와 가우디 3 AI 가속기 출시를 공식 발표했다.
코드 네임 Granite Rapids인 제온 6 프로세서는 최대 128 코어, 최대 2.3배 확장된 메모리 대역폭, 최대 1.8배 증가한 내부 소켓 대역폭, CXL 2.0 타입 1/ 2/ 3, 지원, AI 가속기 탑재를 통해 엣지에서부터 클라우드까지, 전 세대 보다 AI 어플리케이션에서 두 배의 성능을 발휘한다.
가우디 3 AI 가속기의 경우 64 텐서 프로세서 코어와 8개의 매트릭스 멀티플리케이션 엔진(MMEs, Matrix Multiplication Engines), 128GB HBM2e 메모리를 통해 라마(LLaMa) 2 70B 추론에서 엔비디아 H100 대비 최대 20% 더 많은 스루풋과 두 배의 가성비를 제공한다.
인텔은 IBM 클라우드에 가우디 3 AI 가속기 서비스를 위해 IBM과 협력 중이며, 추가로 효과적인 AI 배포를 위해 델 및 수퍼마이크로 등의 주요 OEM과 협력해 공동 엔지니어링 시스템 개발을 추구하고 있다. |
