엔비디아(CEO 젠슨 황)가 텐서 코어 GPU, LLM, RTX PC와 워크스테이션용 툴을 통해 수백만 명에 생성형 AI를 제공한다고 밝혔다. 엔비디아(NVIDIA)는 초고성능 생성형 AI 성능을 위한 지포스 RTX 슈퍼(GeForce RTX SUPER) 데스크톱 GPU, 주요 제조업체의 새로운 AI 노트북, 개발자와 소비자 모두를 위한 새로운 엔비디아 RTX(RTX)로 가속화된 AI 소프트웨어와 툴을 발표했다.
엔비디아는 수십 년 동안 쌓아온 PC 분야의 리더십과 1억 개 이상의 RTX GPU로 AI PC 시대를 이끌어 왔다. 그리고 이제 엔비디아는 생성형 AI로 PC 경험을 향상시키는 도구를 제공한다. 여기에는 텍스트-이미지 워크플로우를 지원하는 인기 모델 스테이블 디퓨전 XL(Stable Diffusion XL)의 엔비디아 텐서 RT(TensorRT) 가속, 생성형 AI 텍스처 툴이 포함된 엔비디아 RTX 리믹스(RTX Remix), DLSS 3 프레임 제너레이션(Frame Generation)을 사용하는 게임과 엔비디아 ACE 마이크로서비스가 포함된다.
AI 개발자를 위한 사용하기 쉬운 통합 툴킷인 엔비디아 AI 워크벤치(AI Workbench)는 이달 말 베타버전으로 출시될 예정이다. 또한 최신 대규모 언어 모델(LLM)의 추론 성능을 가속화하고 최적화하는 오픈소스 라이브러리인 엔비디아 텐서RT-LLM(TensorRT-LLM)은 이제 PC에 더 많은 사전 최적화된 모델을 지원한다. 이번 달에 출시되는 엔비디아의 기술 데모 챗 위드 RTX(Chat with RTX)는 텐서RT-LLM의 가속화를 통해 AI 애호가들이 자신의 메모, 문서, 기타 콘텐츠와 상호 작용할 수 있도록 지원한다.
개인정보, 지연 시간, 비용에 민감한 애플리케이션의 경우 PC에서 로컬로 생성형 AI를 실행하는 것이 중요하다. 이를 위해 대규모 AI 지원 시스템 설치 기반은 물론, PC 플랫폼에 맞게 AI 모델을 조정하고 최적화하는 데 적합한 개발자 도구가 필요하다.
이러한 요구를 충족하기 위해 엔비디아는 전체 기술 스택에 걸쳐 혁신을 구현하고, 새로운 경험을 주도하며, 이미 엔비디아 RTX 기술로 가속화된 500개 이상의 AI 지원 PC 애플리케이션과 게임을 제공하고 있다.
다양한 애플리케이션을 최고 성능으로 실행할 수 있는 엔비디아 RTX GPU는 PC에서 생성형 AI의 잠재력을 최대한 끌어올린다. 이 GPU의 텐서 코어는 가장 복잡한 업무용, 엔터테인먼트용 애플리케이션에서 AI 성능을 획기적으로 향상시킨다.
이번 CES에서 발표된 새로운 지포스 RTX 40 슈퍼 시리즈 그래픽 카드는 최고의 AI 성능을 위한 지포스 RTX 4080 슈퍼(SUPER), 4070 Ti 슈퍼와 4070 슈퍼를 포함한다. 지포스 RTX 4080 슈퍼는 지포스 RTX 3080 Ti GPU보다 1.5배 빠른 AI 비디오와 1.7배 빠른 이미지를 생성한다. 슈퍼 GPU의 텐서 코어는 초당 최대 836조 회의 연산을 수행해 게임, 크리에이티브는 물론 일상적인 생산성에 혁신적인 AI 기능을 제공한다.
에이서(Acer), 에이수스(ASUS), 델 테크놀로지스(Dell Technologies), HP, 레노버(Lenovo), MSI, 레이저(Razer), 삼성 등 선도적인 제조업체들은 새로운 RTX AI 노트북을 출시해 바로 사용할 수 있는 생성형 AI 기능 풀세트를 사용자에게 제공한다. 신경망처리장치(NPU) 사용 대비 20배에서 60배까지 성능이 향상되는 새로운 시스템은 이번 달에 출하가 시작된다.
RTX GPU가 탑재된 모바일 워크스테이션은 간소화되고 안전한 생성형 AI와 데이터 사이언스 개발을 위해 텐서RT와 엔비디아 래피즈(RAPIDS)가 포함된 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어를 실행할 수 있다. 모든 엔비디아 A800 40GB 액티브 GPU에는 엔비디아 AI 엔터프라이즈 3년 라이센스가 포함돼 AI와 데이터 사이언스를 위한 이상적인 워크스테이션 개발 플랫폼을 제공한다.
개발자가 PC급 성능과 메모리 공간을 사용해 사전 학습된 생성형 AI 모델과 LLM을 빠르게 생성, 테스트, 사용자 맞춤화 할 수 있도록 지원하기 위해, 엔비디아는 최근 엔비디아 AI 워크벤치를 발표했다.
AI 워크벤치는 이달 말 베타 버전으로 출시된다. 허깅 페이스(Hugging Face), 깃허브(GitHub), 엔비디아 NGC와 같은 인기 리포지토리에 대한 간소화된 액세스를 제공할 계획이다. 또한, 개발자가 프로젝트를 쉽게 재현, 협업, 마이그레이션할 수 있는 간소화된 사용자 인터페이스도 함께 제공한다.
프로젝트는 데이터센터, 퍼블릭 클라우드 또는 엔비디아 DGX 클라우드 등 거의 모든 곳으로 확장 가능하다. 추론과 가벼운 맞춤화를 위해 PC 또는 워크스테이션의 로컬 RTX 시스템으로 다시 가져올 수도 있다.
또한, 엔비디아는 HP와 협력을 통해 AI 모델 개발을 간소화하고 있다. 이는 데이터 사이언스를 위한 중앙 집중식 플랫폼인 HP AI 스튜디오에 RTX 가속 AI 모델과 소프트웨어 개발 키트를 포함하는 엔비디아 AI 파운데이션 모델과 엔드포인트를 통합해 이뤄지고 있다. 이를 통해 사용자는 PC와 클라우드에서 최적화된 모델을 쉽게 검색, 가져오기, 배포 등을 수 있다.
개발자는 PC 사용 사례에 맞는 AI 모델을 구축한 후, 엔비디아 텐서RT 로 최적화해 RTX GPU의 텐서 코어의 이점을 최대한 활용할 수 있다.
엔비디아는 최근 LLM 가속화를 위한 오픈소스 라이브러리인 윈도우용 텐서RT-LLM을 통해 텍스트 기반 애플리케이션으로 텐서RT를 확장했다. 현재 사용 가능한 텐서RT-LLM의 최신 업데이트를 통해 파이-2(Phi-2) 와 제퍼 7B(Zephyr 7B)가 PC용 사전 최적화 모델 목록에 추가됐다.
이번 CES에서 엔비디아와 파트너 개발사는 다음을 포함한 새로운 PC용 생성형 AI 기반 애플리케이션과 서비스를 출시한다.
엔비디아 RTX 리믹스는 클래식 게임의 멋진 RTX 리마스터를 제작할 수 있는 플랫폼이다. 이달 말 베타 버전으로 출시되는 이 플랫폼은 클래식 게임의 기본 텍스처를 최신 4K 해상도의 물리 기반 렌더링 모델로 변환할 수 있는 생성형 AI 툴을 제공한다.
엔비디아 ACE 마이크로서비스는 개발자가 게임에 지능적이고 역동적인 디지털 아바타를 구현할 수 있게 지원하는 생성형 AI 기반 음성, 애니메이션 모델을 제공한다.
스테이블 디퓨전 XL 터보와 잠재 일관성 모델(LCM)을 위한 텐서RT 가속은 가장 많이 사용되는 2가지 안정적 확산 가속 방법이다. 텐서RT는 기존의 가장 빠른 구현에 비해 두 가지 모두에서 최대 60%까지 성능을 향상시킨다. 스테이블 디퓨전 XL, 스테이블 디퓨전 XL 터보, LCM - LoRA(Low-Rank Adaptation)에 대한 가속과 향상된 LoRA 지원을 포함한 스테이블 디퓨전 웹UI 텐서RT 확장 기능의 업데이트 버전도 제공한다.
AI를 사용해 네이티브 렌더링 대비 프레임 레이트를 최대 4배까지 향상시키는 프레임 제너레이션 기능이 포함된 엔비디아 DLSS 3는 호라이즌 포비든 웨스트(Horizon Forbidden West), 팍스 데이(Pax Dei), 드래곤즈 도그마 2(Dragon's Dogma 2)를 포함해 새로 발표된 14개의 RTX 게임 중 12개에 탑재될 예정이다.
이달 말부터 제공되는 엔비디아의 기술 데모인 챗 위드 RTX를 통해 AI 애호가들은 검색 증강 생성(RAG)이라는 인기 기술을 사용해 PC LLM을 자신의 데이터에 쉽게 연결할 수 있다. 텐서RT-LLM으로 가속화된 이 데모는 사용자가 자신의 메모, 문서, 기타 콘텐츠와 빠르게 상호작용할 수 있게 해준다. 또한 오픈소스 참조 프로젝트로도 제공돼 개발자는 자신의 애플리케이션에 동일한 기능을 쉽게 구현할 수 있다. |
