AI 컴퓨팅 기술 분야의 선두주자인 엔비디아가 엔비디아(NVIDIA) AI 네트워킹의 다섯 번째 축이자 에이전틱 AI 팩토리를 위한 새로운 유형의 가속 네트워크 인프라인 엔비디아 스케일인(Scale-In)을 공개했다. 스케일인은 AI 팩토리의 보안, 관리, 운영을 담당하는 인프라 서비스에도 특화된 가속 기술을 적용해, AI 컴퓨팅과 함께 인프라 전반을 효율적으로 운영할 수 있도록 지원한다.
엔비디아 스케일인은 엔비디아 블루필드-4(BlueField-4) 프로세서와 엔비디아 DOCA 소프트웨어 플랫폼을 기반으로 하며, 엔비디아 스펙트럼-X 이더넷(Spectrum-X Ethernet)을 통해 연결된다. 이를 통해 기존의 노스-사우스(north-south) 액세스 네트워크를 통합된 가속 인프라 도메인으로 전환한다.
클라우드 컴퓨팅은 소프트웨어 정의 네트워킹과 결합성, 탄력성을 데이터센터에 도입해 사용자, 애플리케이션, 데이터, 서비스가 동적으로 확장될 수 있도록 했다.
에이전틱 AI는 차세대 플랫폼 전환을 의미한다. AI 팩토리는 대규모 가속 컴퓨팅을 기반으로 점점 더 많은 사용자, 애플리케이션, 자율형 에이전트를 하나로 결합하며, 이들은 데이터, 스토리지, 서비스와 지속적으로 상호작용한다. 이에 따라 AI를 실제로 구동하는 인프라에 요구되는 조건도 크게 변화한다. 이제 네트워킹, 스토리지, 사이버 보안, 운영 역시 AI 컴퓨팅과 함께 가속돼야 하며, 소프트웨어 정의 유연성과 특수 목적 하드웨어 가속, 풀스택 공동 설계를 결합해야 한다.
엔비디아 스케일인은 멀티테넌트 네트워킹, 고성능 스토리지 액세스, 실리콘 내장 보안, 탄력적 프로비저닝, 실시간 옵저버빌리티를 제공하는 동시에 인프라 처리를 호스트 컴퓨팅 리소스와 독립적으로 유지한다. 스케일인은 이러한 서비스를 AI 팩토리의 일부로 가속하고 공동 설계함으로써 보안, 데이터 액세스, 운영이 AI 컴퓨팅과 함께 확장될 수 있도록 지원한다. 이를 통해 대규모 에이전틱 AI를 구축하고 운영하는 데 필요한 안전하고 효율적이며 관리 가능한 공유 인프라를 구현한다.
|
