HPE는 전체 AI 수명주기를 지원하고 기업, 서비스 제공업체, 공공기관, 연구기관 등 다양한 고객의 요구를 충족하는 'HPE 기반 엔비디아 AI 컴퓨팅(NVIDIA AI Computing by HPE)' 솔루션 포트폴리오를 강화한다고 발표했다.
이번 업데이트는 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)와의 통합을 강화하고, 가속 컴퓨팅을 통해 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)에 대한 지원을 확대했다. 또한 엔비디아 AI 데이터 플랫폼(NVIDIA AI Data Platform)용 HPE 알레트라 스토리지 MP X10000(HPE Alletra Storage MP X10000) 소프트웨어 개발 키트(SDK)를 새롭게 출시했다. 이와 함께 HPE는 엔비디아 RTX PRO 6000 블랙웰 서버 에디션(NVIDIA RTX PRO 6000 Blackwell Server Edition) GPU 및 엔비디아 엔터프라이즈 AI 팩토리(NVIDIA Enterprise AI Factory) 검증된 설계 기반의 컴퓨팅 및 소프트웨어 제품도 출시했다.
HPE 프라이빗 클라우드 AI, 엔비디아 AI 엔터프라이즈 위한 피쳐 브랜치 지원 추가
엔비디아와 공동 개발한 턴키 방식의 클라우드 기반 AI 팩토리 ‘HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)’는 통합된 AI 전략을 비즈니스 전반에 확산하고 수익성 높은 워크로드를 지원하며 리스크를 대폭 줄일 수 있도록 지원하는 전용 개발자 솔루션을 포함하고 있다. 또한, 이는 AI 프레임워크, 사전 훈련 모델을 위한 엔비디아 NIM 마이크로서비스(NVIDIA NIM microservices) 및 SDK를 포함하는 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)의 피쳐 브랜치(Feature Branch) 모델 업데이트를 지원할 예정이다.
피쳐 브랜치 모델 지원을 통해 개발자는 AI 워크로드를 위한 소프트웨어 기능과 최적화 사항을 테스트하고 검증할 수 있다. 가드레일이 내장된 프로덕션 브랜치 모델에 대한 기존 지원과 더불어, HPE 프라이빗 클라우드 AI는 모든 규모의 기업이 개발자 시스템을 구축하고 이를 프로덕션-레디 에이전틱 및 생성형 AI 애플리케이션으로 확장하는 한편, 기업 전반에 걸쳐 안전한 다계층 접근 방식을 도입할 수 있도록 지원한다.
에이전틱 및 생성형 AI 워크로드를 위한 풀스택 솔루션인 HPE 프라이빗 클라우드 AI는 엔비디아 엔터프라이즈 AI 팩토리 검증 설계를 지원한다.
HPE, 엔비디아 AI 데이터 플랫폼 지원하는 최신 스토리지 솔루션 공개
HPE 알레트라 스토리지 MP X10000은 엔비디아 AI 데이터 플랫폼 레퍼런스 설계와 연동되는 SDK를 선보일 예정이다. HPE의 최신 데이터 플랫폼과 엔비디아의 맞춤형 레퍼런스 설계를 연결함으로써, 고객은 에이전틱 AI 구현을 위한 가속화된 성능과 인텔리전트 파이프라인 오케스트레이션을 활용할 수 있다.
이번 X10000 SDK는 HPE의 데이터 인텔리전스 전략 확대의 일환으로, 컨텍스트 기반의 AI-레디 데이터를 엔비디아 AI 생태계에 직접 통합할 수 있도록 지원한다. 이를 통해 기업은 엔비디아 가속 인프라 전반에서 수집, 추론, 훈련 및 지속적인 학습을 위한 비정형 데이터 파이프라인을 간소화할 수 있습니다.
SDK 통합을 통해 제공되는 주요 이점은 다음과 같다:
• 데이터 가치 극대화: 유연한 인라인 데이터 프로세싱, 벡터 인덱싱, 메타데이터 강화, 데이터 관리 기능을 통해 데이터 가치 극대화
• 효율성 향상: GPU 메모리, 시스템 메모리 및 X10000 간의 RDMA(Remote Direct Memory Access) 전송을 통해 데이터 경로를 가속화하고 AI 데이터 플랫폼 효율 향상
• 구축 최적화: X10000의 모듈식 컴포저블 빌딩 블록으로 구축 규모를 적절하게 조정하여 고객이 워크로드 요구사항에 맞게 용량 및 성능을 독립적으로 확장 가능
고객은 RDMA 전송을 통해 스토리지 및 인텔리전스 계층을 유기적으로 통합함으로써, 원시 엔터프라이즈 데이터를 기반으로 에이전틱 AI 애플리케이션 및 툴을 보다 효율적으로 활용할 수 있다. HPE는 엔비디아와 협력해 엣지에서 코어 및 클라우드까지 전 영역에서 실시간 인텔리전트 데이터 액세스가 가능한 새로운 시대를 열어가고 있다.
이번 통합에 대한 자세한 내용은 2025년 HPE 디스커버 라스베이거스(HPE Discover Las Vegas) 2025에서 공개될 예정이다.
엔비디아 RTX PRO 6000 블랙웰 지원으로 한 단계 더 발전된 업계 최고 수준의 AI 서버
NVIDIA H100 NVL, H200 NVL 및 L40S GPU를 탑재한 HPE 프로라이언트 컴퓨트 DL380a Gen12(HPE ProLiant Compute DL380a Gen12) 서버는 최근 MLPerf Inference: Datacenter v5.0 벤치마크의 GPT-J, Llama2-70B, ResNet50 및 RetinaNet을 포함한 10개 테스트에서 최고 성능을 기록했다. 업계 최고 수준의 해당 AI 서버는 곧 최대 10개의 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 탑재하여 출시될 예정이며, 이를 통해 향상된 기능과 함께 에이전틱 멀티모달 AI 추론, 피지컬 AI, 모델 미세조정 뿐만 아니라 디자인, 그래픽 및 비디오 애플리케이션을 포함한 엔터프라이즈 AI 워크로드를 위한 탁월한 성능을 제공할 예정이다.
주요 특징은 다음과 같다:
• 첨단 냉각 옵션: HPE 프로라이언트 컴퓨트 DL380a Gen12는 공랭식 및 직접 수냉 방식(DLC)으로 제공되며, HPE의 업계 최고 수준의 수냉 전문성1을 기반으로 과중한 워크로드에서도 최적의 성능을 유지한다.
• 강화된 보안: HPE 프로라이언트 컴퓨트 Gen12 포트폴리오에 탑재된 HPE iLO(Integrated Lights Out) 7은 실리콘 RoT(Root of Trust) 기반으로 한 내장된 보호 기능을 갖추고 있으며, 양자 내성 암호(Post-Quantum Cryptography)를 지원하고 높은 수준의 암호화 보안 표준인 FIPS 140-3 레벨 3 인증 요구사항을 충족하는 최초의 서버를 구현한다.
• 운영 관리: HPE 컴퓨트 옵스 매니지먼트(HPE Compute Ops Management)는 사전 알림 기능 및 예측적 AI 기반 인사이트를 통해 에너지 효율성 향상 및 전반적인 시스템 상태 정보를 제공하여 서버 환경을 위한 안전하고 자동화된 수명 주기 관리를 지원한다.
MLPerf Inference v5.0 벤치마크에서 두 대의 추가 서버들이 최고 성능을 기록하며, HPE AI 팩토리의 뛰어난 역량을 입증하고 AI 혁신 분야에서 HPE의 리더십을 제3자를 통해 검증받았다. 또한 HPE 프로라이언트 컴퓨트 DL380a Gen12와 함께 이 시스템들은 50개 이상의 시나리오에서 선두를 달리고 있다.
주요 내용은 다음과 같다:
• HPE 프로라이언트 컴퓨트 DL384 Gen12: 듀얼 소켓 NVIDIA GH200 NVL2를 탑재해 Llama2-70B와 Mixtral-8x7B를 포함한 4개 테스트에서 1위 기록
• HPE 크레이 XD670(HPE Cray XD670): 8개의 NVIDIA H200 SXM GPU를 장착해 대규모 언어 모델(LLM) 및 컴퓨터 비전 작업 등 총 30개 시나리오에서 최고 성능 달성
새로운 가속 컴퓨팅 최적화로 AI 인프라 발전
HPE 옵스램프 소프트웨어(HPE OpsRamp Software)는 AI 워크로드 모니터링을 위한 차세대 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU까지 지원할 수 있는 AI 인프라 최적화 솔루션으로 확장됐다. HPE 그린레이크 플랫폼(HPE GreenLake Platform) SaaS(Software-as-a-Service)방식으로 구성되는 이 솔루션은 기업 내 IT 팀이 하이브리드 환경 전반에 분산된 AI 인프라를 모니터링하고, 최적화를 통해 AI인프라 운영을 효율적으로 관리, 지원한다. HPE 옵스램프는 풀스택 AI 워크로드에서 인프라 옵저버빌리티, 워크플로우 자동화, AI 기반 분석 및 이벤트 관리를 가능하게 하고, 엔비디아 가속 컴퓨팅, NVIDIA BlueField, NVIDIA Quantum InfiniBand 및 Spectrum-X Ethernet 네트워킹, NVIDIA Base Command Manager를 포함한 엔비디아의 모든 인프라를 정밀하게 모니터링 하고, 솔루션 통합을 통해 AI 인프라의 성능과 복원력을 모니터링할 수 있는 세분화된 측정 지표들을 제공한다.
HPE 옵스램프는 IT 팀에게 다음과 같은 기능을 제공한다:
• GPU 온도, 사용률, 메모리 사용량, 전력 소비량, 클럭 속도 및 팬 속도를 모니터링하여 AI 인프라의 전반적인 운영 상태와 성능 지표 제공
• 클러스터 전반의 GPU 및 CPU 사용률을 추적하여 작업 스케줄링 및 리소스 최적화
• 손상 방지를 위한 클럭 속도를 조정과 GPU 전원을 차단하는 등의 특정 이벤트에 대한 응답 자동화
• 과거 성능 및 사용률 데이터를 분석하여 AIOps기반으로 미래의 리소스 수요를 예측하고, 추가 리소스 할당을 위한 운영 최적화
• 대규모 AI 배포 시 전력 소비량 및 리소스 사용률 모니터링하고 비용을 최적화하기 위한 다양한 지표 제공
출시 일정
• HPE 프라이빗 클라우드 AI는 여름까지 엔비디아 AI 엔터프라이즈를 위한 피쳐 브랜치 지원을 추가할 예정이다.
• HPE 알레트라 스토리지 MP X10000 SDK 및 엔비디아 가속 컴퓨팅 인프라에 대한 다이렉트 메모리 액세스(DMA)는 2025년 여름부터 제공될 예정이다.
• 엔비디아 RTX PRO 6000 서버 에디션을 탑재한 HPE 프로라이언트 컴퓨트 DL380a Gen12는 2025년 6월 4일부터 주문 가능하다.
• HPE 옵스램프 소프트웨어는 엔비디아 RTX PRO 6000 서버 에디션 출시 시점에 함께 제공될 예정이다.
|
