인텔은 델(Dell)이 델 AI 팩토리(Dell AI Factory) 최신 포트폴리오에 인텔 가우디 3(Intel Gaudi 3) AI 가속기를 탑재한 인텔 기반 델 AI 플랫폼(Dell AI platform with Intel)을 공개했다고 밝혔다.
완벽하게 검증된 엔드 투 엔드 솔루션인 이번 플랫폼은 기업이 AI 기술을 손쉽게 도입·통합·확장할 수 있도록 설계되었으며, 인텔 가우디 3 하드웨어와 오픈 소스 소프트웨어의 스택 및 델의 신뢰할 수 있는 인프라 전문성을 결합해 다양한 산업 전반에서 AI 전환을 가속화할 수 있는 원활한 경로를 제공한다.
기업은 AI 도입 과정에서 고성능·확장성·유연성·비용효율성 등을 종합적으로 고려해야 한다. 인텔 기반 델 AI 플랫폼에 탑재된 인텔 가우디 3는 생성형 AI 워크로드에서 경쟁력 있는 가격 대비 우수한 성능이 강점으로, 실제로 엔비디아 H100 보다 Llama 3 80B 모델 추론 처리량에서 70%1 가량 우수한 가격대 성능비를 보여준다. 인텔 기반 델 AI 플랫폼의 확장형 아키텍처는 비즈니스의 성장과 함께 유연하게 확장 가능하며, 개방형 네트워킹 및 소프트웨어 스택을 제공해 특정 벤더 종속을 방지한다. 이를 통해 개발자, IT팀, 비즈니스 리더는 모든 여정의 단계에서 AI 가치를 극대화할 수 있다.
AI 워크로드를 위한 맞춤형 설계
인텔 기반 델 AI 플랫폼의 중심에는 AI 워크로드에 최적화된 고성능 서버인 파워엣지 XE9680(PowerEdge XE9680)가 있으며, 주요 특징은 다음과 같다:
• 8개의 인텔 가우디 3 가속기: 대규모 언어 모델(LLM) 및 컴퓨터 비전 작업에 적합한 128GB 고대역폭메모리(HBM) 및 3.7TB/s 대역폭을 탑재한 8개의 인텔 가우디 3 가속기
• 5세대 인텔 제온 (5th Gen Intel Xeon) 프로세서: 복잡한 연산을 원활히 처리할 수 있도록 최대 64코어 및 PCIe Gen 5 슬롯을 탑재한 5세대 인텔 제온 프로세서
• 확장 가능한 스토리지 및 네트워킹: 원활한 데이터 흐름과 스토리지 및 연결 병목 현상 방지를 위한 32개의 DIMM 슬롯, 16개의 드라이브 지원, 800GbE 기반의 확장 가능한 스토리지 및 네트워킹
• 에너지 효율적인 공랭식 시스템: 생성형 AI 및 머신러닝 등 대규모 AI 워크로드를 지원하도록 최적화된 에너지 효율적인 공랭식 시스템
개발자 최적화 방안
사전 검증된 오픈소스 소프트웨어 스택이 포함된 이 플랫폼은 다음과 같은 기능을 지원한다:
• 손쉬운 모델 미세 조정을 위한 파이토치(PyTorch) 및 허깅 페이스(Hugging Face)와 같은 프레임워크
• 유연한 리소스 스케줄링 및 오케스트레이션 제공을 위한 쿠버네티스(Kubernetes)
• 실시간 옵저버빌리티 및 모니터링을 위한 그라파나(Grafana) 및 프로메테우스(Prometheus)
또한, 델 엔터프라이즈 허브(Dell Enterprise Hub)는 인텔 가우디 3에 최적화된 모델 카탈로그를 제공해 개발자가 신속하게 구현할 수 있도록 지원한다.
간소화된 클러스터 관리
고성능 클러스터를 구축하고 관리할 수 있도록 지원하는 오픈소스 툴킷인 ‘델 옴니아(Dell Omnia)’는 인텔 기반 델 AI 플랫폼에서 핵심적인 역할을 수행한다. 해당 툴킷은 유연한 리소스 할당을 통해 IT 팀 및 개발자가 변화하는 워크로드에 빠르게 대응하고 최적화할 수 있도록 지원하고, 이를 통해 구축 시간 단축 및 전반적인 생산성 향상을 이끌어낸다. 또한 다양한 툴 및 프레임워크와의 매끄러운 통합을 통해, 인텔 기반 델 AI 플랫폼은 엔터프라이즈급 신뢰성과 개발자 민첩성이 조화를 이루는 최적의 환경을 제공한다.
향후 계획: 인텔 가우디 3 AI 가속기의 성능을 직접 경험할 수 있도록, 5월 19일부터 22일까지 라스베이거스에서 열리는 델 테크놀로지스 월드 2025(Dell Technologies World 2025)에서 인텔(#654)와 델 부스(#833)에서 인텔 기반 델 AI 플랫폼을 만나볼 수 있다.
|
