슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)는 엔비디아 암페어 아키텍처 GPU 및 AI 액셀러레이터(슈퍼마이크로 X12 시리즈)가 탑재된 3세대 인텔 제온 스케일러블 프로세서를 기반으로 하는 새로운 시스템을 발표했다.
이번에 새롭게 발표된 서버는 로우 레이턴시와 뛰어난 애플리케이션 성능을 요구하는 까다로운 AI 애플리케이션을 위해 설계됐다. 2U 엔비디아 HGX A100 4-GPU 시스템은 고속 CPU-GPU 및 GPU-GPU 상호연결을 통해 최신 AI 훈련 클러스터를 대규모로 배포하는 데 적합하다. 슈퍼마이크로 2U 2-노드 시스템은 전원 공급 장치와 냉각 팬을 공유함으로써 탄소 배출량뿐만 아니라 에너지 사용량 및 비용을 절감한다. 또한 각 워크로드에 적합한 다양한 개별 GPU 액셀러레이터를 지원한다. 이 두 시스템은 최신 인텔 소프트웨어 가드 익스텐션(Intel Software Guard Extensions, Intel SGX)에 의해 활성화되는 고급 하드웨어 보안 기능을 포함한다.
2U 엔비디아 HGX A100 서버는 인텔 딥러닝 부스트 기능이 탑재된 3세대 인텔 제온 스케일러블 프로세서를 기반으로 하며 분석, 훈련, 추론 워크로드에 최적화돼 있다. 이 시스템은 4개의 A100 GPU가 엔비디아 NV링크와 완전히 상호 연결되어 최대 2.5 페타플롭의 AI 성능을 제공할 수 있으며, 최대 320 GB의 GPU 메모리를 제공go 엔터프라이즈 데이터 사이언스 및 AI 분야 혁신을 가속화한다. 이 시스템은 BERT 라지 인퍼런스(large inference)와 같은 복잡한 대화형 AI 모델을 위한 이전 세대 GPU 보다 최대 4배 빠르며, BERT 라지 AI 훈련에 대해 최대 3배 향상된 성능을 제공한다.
또한, 해당 시스템은 고급 열 및 냉각 설계로 노드 밀도와 전력 효율성이 우선시되는 고성능 클러스터에 이상적이며, 액체 냉각도 가능해 훨씬 더 많은 운영비용을 절감할 수 있다. 뿐만 아니라, 인텔 옵테인 영구 메모리도 지원해 GPU에서 처리하기 전, 훨씬 더 큰 모델을 CPU와 가까운 메모리에 보관할 수 있다. 멀티 시스템 인터랙션이 필요한 애플리케이션의 경우, 시스템에 4개의 엔비디아 커넥트X-6 200Gb/s 인피니밴드 카드를 탑재해 GPU와 DPU 비율이 1:1인 GPUDirect RDMA를 지원할 수도 있다.
새로운 슈퍼마이크로 2U 2-노드 시스템은 각 노드가 최대 3개의 더블 슬롯 GPU를 지원하도록 설계된 에너지 효율적인 리소스 절약형 아키텍처다. 각 노드는 최대 40개의 코어와 AI 및 HPC 액셀러레이터가 탑재된 싱글 3세대 인텔 제온 스케일러블 프로세서가 특징이며, 이러한 CPU와 GPU의 균형은 다양한 AI, 렌더링 및 VDI 애플리케이션에 큰 이점을 줄 수 있다.
또, 빠르고 유연한 네트워킹 기능을 위해 슈퍼마이크로의 고급 I/O 모듈(AIOM) 확장 슬롯이 탑재돼 있어 워크로드 및 학습 모델을 보호하면서 까다로운 AI/ML 애플리케이션, 딥러닝 훈련 및 추론을 위한 대규모 데이터도 처리할 수 있다. 멀티 인스턴스를 사용하는 하이엔드 클라우드 게임과 기타 많은 컴퓨팅 집약적인 VDI 애플리케이션에도 이상적이다. 해당 시스템을 사용해 버추얼 콘텐츠 딜리버리 네트워크(vCDNs) 또한 스트리밍 서비스에 대한 증가하는 수요를 충족시킬 수 있다. 리던던시형 전원 공급 장치가 탑재되어 장애 발생 시 어떤 노드든지 인접 노드의 전원 공급 장치를 사용할 수 있다.
|
