엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 미국 새너제이에서 열린 세계 최대 AI·가속 컴퓨팅 콘퍼런스인 ‘엔비디아(NVIDIA) GTC 2026’에서 대규모 생성형·에이전틱 추론을 위한 오픈소스 소프트웨어인 엔비디아 다이나모(Dynamo) 1.0을 발표했다.
다이나모 1.0은 전 세계적으로 폭넓게 채택되고 있으며, 엔비디아 블랙웰(Blackwell) 플랫폼과 함께 클라우드 제공업체, AI 혁신 기업, 글로벌 기업들이 압도적인 확장성, 효율성, 속도로 고성능 AI 추론을 제공할 수 있도록 지원한다.
에이전틱 AI 시스템이 산업 전반에서 실제 프로덕션 단계로 확산되면서, 데이터센터 내 추론 확장은 자원 오케스트레이션(orchestration)의 난제로 떠오르고 있다. 이는 다양한 규모와 모달리티를 가진 요청과 성능 기준이 예측 불가능한 방식으로 동시에 발생하기 때문이다.
컴퓨터의 운영 체제가 하드웨어와 애플리케이션을 조율하듯, 다이나모 1.0은 AI 팩토리의 분산형 ‘운영 체제’ 역할을 수행한다. 이를 통해 클러스터 전반의 GPU와 메모리 리소스를 유기적으로 조율해, 복잡한 AI 워크로드를 지원한다. 최근 업계 벤치마크에서 다이나모는 엔비디아 블랙웰 GPU의 추론 성능을 최대 7배까지 향상시켰으며, 무료 오픈소스 소프트웨어를 통해 수백만 대의 GPU에서 토큰 비용을 낮추고, 수익 창출 기회를 확대했다.
다이나모 1.0은 더 정교한 ‘트래픽 제어(traffic control)’ 기능과 GPU·저비용 스토리지 간 데이터 이동 기능을 추가해 추론 작업을 여러 GPU에 분산한다. 이를 통해 불필요한 연산을 줄이고, 메모리 제약을 완화한다. 에이전틱 AI와 긴 프롬프트 환경에서는 이전 단계에서 생성된 관련 ‘단기 메모리(short-term memory)’를 가장 많이 보유한 GPU로 요청을 라우팅하고, 필요하지 않을 경우에는 해당 메모리를 오프로드(offload)할 수 있다.
엔비디아 추론 플랫폼, 성장 가속화
엔비디아는 다이나모와 엔비디아 텐서RT-LLM(TensorRT-LLM) 라이브러리 최적화 기술을 랭체인(LangChain), llm-d, LMCache, SG랭(SGLang), vLLM 등 공급업체의 주요 프레임워크에 통합해 오픈소스 생태계를 활성화하고 있다. 또한 지능형 메모리 관리를 위한 KVBM, GPU 간 고속 데이터 이동을 위한 엔비디아 NIXL, 스케일링 간소화를 위한 엔비디아 그로브(Grove) 등 다이나모의 핵심 구성 요소를 독립 모듈 형태로 제공한다. 아울러 엔비디아는 텐서RT-LLM 쿠다®(CUDA®) 커널을 플래시인퍼(FlashInfer) 프로젝트에 제공해, 오픈소스 프레임워크에 네이티브 방식으로 통합될 수 있도록 지원하고 있다.
다이나모 1.0은 오늘부터 전 세계 개발자들에게 제공된다. 자세한 내용과 시작 방법은 엔비디아 블로그 또는 다이나모 홈페이지에서 확인 가능하다.
|
