레드햇(Red Hat)이 AI반도체 스타트업 리벨리온(Rebellions)과 함께 ‘리벨리온 NPU 기반 레드햇 오픈시프트 AI(Red Hat OpenShift AI powered by Rebellions NPUs)’를 공개했다고 발표했다.
이 솔루션은 ‘레드햇 오픈시프트 AI(Red Hat OpenShift AI)’와 리벨리온의 에너지 효율적인 NPU(Neural Processing Unit), 그리고 고효율 추론 엔진인 vLLM을 결합해 검증된 풀스택 엔터프라이즈 AI 플랫폼을 제공한다.
이번 협력은 AI 워크로드를 구동하는 아키텍처에서 더 많은 선택권과 옵션을 제공함으로써 전 세계 고객에게 '모든 모델, 모든 가속기, 모든 클라우드(any model, any accelerator, any cloud)'를 제공하겠다는 레드햇의 목표를 지원한다.
기업들이 AI 이니셔티브를 실제 비즈니스 운영에 적용하면서 인프라 비용, 배포 복잡성, 보안이 강화된 유연한 환경의 필요성이 증대되고 있다. 기존 GPU 중심 환경만으로는 대규모 환경에서 요구되는 성능과 효율성을 충족하기 어려운 상황이다. 이번 솔루션은 이러한 과제를 해결하고 기업이 다양한 환경에서 AI 워크로드를 효율적으로 운영할 수 있도록 지원한다.
리벨리온의 NPU는 AI 추론에 최적화된 아키텍처로 설계되어 기존 GPU보다 높은 에너지 효율성을 제공하며, 서버·랙 단위에서 데이터센터의 구축 및 운영 비용을 효과적으로 낮춰준다. 또한 특화된 풀스택 소프트웨어와 주요 오픈소스 AI 프레임워크 지원을 통해 GPU와 동일한 수준의 편리한 개발 환경을 제공한다.
‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’는 하드웨어부터 모델 서빙까지 모든 영역을 아우르는 검증된 풀스택 AI 추론 플랫폼을 제공한다. 리벨리온의 소프트웨어 스택은 ‘레드햇 오픈시프트 AI’에서 네이티브로 실행되어 오버헤드를 줄이고 배포를 가속화한다. 또한 레드햇 오픈시프트(Red Hat OpenShift)의 인증을 취득한 레벨리온 NPU 오퍼레이터(Rebellions NPU Operator)는 온프레미스 및 멀티클라우드 환경에서 보다 원활한 통합과 신뢰할 수 있는 지원을 제공하여 기업의 데이터 주권 확보와 규제 준수를 지원한다. 이번 공동 솔루션은 다음을 제공한다.
확장 가능한 엔터프라이즈급 AI 지원: 리벨리온의 랙 스케일 NPU 솔루션과 통합된 vLLM을 기반으로 높은 처리량·낮은 지연 시간·우수한 전력 효율을 제공하며, 대규모 언어 모델 및 다양한 AI 추론 워크로드를 안정적으로 운영할 수 있다.
보안 강화 및 규제 준수: 레드햇의 플랫폼과 리벨리온의 하드웨어로 데이터를 온프레미스에 안전하게 유지하며 관련 규제 요구 사항을 충족한다.
운영 단순화: 레드햇의 통합 관리 플랫폼을 통해 NPU를 GPU처럼 손쉽게 운영할 수 있어 복잡성을 대폭 줄이고 AI 인프라 도입을 가속화한다.
유연한 확장성: 코어에서 엣지까지 기업의 데이터가 위치한 곳 어디든 선형 확장(linear scale-out)을 통해 배포 가능하다.
‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’에 대한 자세한 정보는 레드햇 에코시스템 카탈로그(Red Hat Ecosystem Catalog)에서 확인할 수 있다.
|
