관련 업체들과 미국을 포함한 일부 규제 당국의 독점적 지위 남용에 대한 우려로 엔비디아의 ARM 인수는 무산되었지만 양사의 협력은 계속될 것이라 이야기되었는데, 올해 GTC를 통해 엔비디아에서 ARM 아키텍처 기반의 그레이스 CPU 슈퍼칩(Grace CPU Superchip)을 발표했다.
엔비디아는 해당 칩에 대해 AI 인프라와 HPC를 위해 ARM 네오버스 기반으로 설계된 데이터 센터용 CPU로 온 칩 캐시만 396MB에 달하며, 오늘날의 서버용 칩 대비 두 배에 달하는 메모리 대역폭과 뛰어난 에너지 효율을 제공한다고 소개했다.
그레이스 CPU 슈퍼칩은 새로운 고속 저지연의 칩간 연결을 위한 인터커넥트 기술인 NVLink-C2C를 통해 2개의 CPU가 연결된 구조로 싱글 소켓에서 최대 144 ARM 코어가 제공된다. SPECrate 2017 기준 듀얼 CPU 기반 DGX A100보다 1.5배 높은 성능을 발휘한다.
그레이스 CPU 슈퍼칩은 ECC 기능을 갖춘 LPDDR5X 메모리와 결합되어 1TB/s에 달하는 대역폭을 구현하였으며, 호퍼 GPU와 결합된 그레이스 호퍼 슈퍼칩의 경우 통합된 PCIe 5.0 스위치와 ConnectX-7 SmartNICs를 통해 CPU와 GPU간 900GB/s에 달하는 인터커넥트 대역폭을 확보한다.
한편, 메모리를 포함한 그레이스 CPU 슈퍼칩의 최대 소비 전력은 500W에 달하며, 그레이스 CPU 슈퍼칩과 엔비디아 ConnectX-7 NIC를 통해 독립 CPU 전용 시스템 또는 1개, 2개, 4개 또는 8개의 호퍼 기반 GPU를 탑재한 GPU 엑셀러레이티드 서버 구성이 가능하다.
그레이스 CPU 슈퍼칩과 그레이스 호퍼 슈퍼칩 모두 2023년 상반기에 출시될 예정이다. |