엔비디아(CEO 젠슨 황)가 텐서RT(TensorRT) 8을 출시했다. 텐서RT 8은 엔비디아의 8세대 AI 소프트웨어로, 언어 쿼리에 대한 추론 시간을 절반으로 줄여 개발자들이 업계 최고 수준의 성능을 제공하는 검색 엔진, 광고 추천 플랫폼, 챗봇을 개발하도록 돕고, 이를 클라우드부터 엣지에서 제공하도록 지원한다.
텐서RT 8의 최적화 기능은 언어 애플리케이션을 위한 기록적인 속도를 제공하여, 전세계적으로 가장 널리 사용되는 트랜스포머 기반 모델 중 하나인 BERT-라지(BERT-Large) 모델의 추론을 1.2밀리세컨드(ms) 만에 완료한다. 과거에는 기업들이 모델 크기를 줄이게 되면 결과의 정확성이 크게 떨어졌다. 텐서RT 8을 통해 이제 기업들은 모델 크기는 두 배 또는 세 배로 늘리면서 정확도를 상당히 개선할 수 있게 됐다.
그레그 에스테스(Greg Estes) 엔비디아 개발자 프로그램 담당 부사장은 “AI 모델은 기하급수적으로 점점 더 복잡해지고 있으며, AI를 사용하는 실시간 애플리케이션에 대한 수요는 전 세계적으로 급증하고 있다. 따라서, 기업들은 최첨단 추론 솔루션을 반드시 구축해야 한다. 최신 버전의 텐서RT는 기업들이 그들 고객에게 이전에는 불가능했던 수준의 품질과 응답성을 갖춘 대화형 AI 애플리케이션을 제공하도록 돕는 새로운 기능을 지원한다”고 설명했다.
지난 5년 간 헬스케어, 자동차, 금융, 소매를 포함한 다양한 분야에 걸친 2만 7천 5백여 기업의 35만 이상의 개발자가 텐서RT를 250만 번 가까이 다운로드했다. 텐서RT 애플리케이션은 하이퍼스케일 데이터센터, 임베디드 혹은 오토모티브 제품 플랫폼에서 활용할 수 있다.
텐서RT 8은 트랜스포머 최적화 외에도 두 가지 주요 기능을 통해 AI 추론에 대한 혁신을 구현한다. 희소성(Sparsity)은 효율성을 높이는 엔비디아 암페어(Ampere) 아키텍처 GPU의 새로운 성능 기술로, 개발자가 컴퓨팅 작업을 줄여 신경망을 가속화할 수 있도록 지원한다. 또한, 양자화 인식(quantization aware) 훈련 기능을 통해 개발자는 훈련된 모델을 사용하여 정확도를 유지하면서 INT8 정밀도로 추론을 실행할 수 있는데, 이는 텐서 코어 상의 효율적인 추론을 위해 컴퓨팅 및 스토리지 오버헤드를 크게 줄여준다.
업계 선두업체들은 대화형 AI 및 다양한 분야의 딥러닝 추론 애플리케이션을 위해 텐서RT를 채택했다.
허깅페이스(Hugging Face)는 다양한 산업군에 걸친 세계 최대 AI 서비스 제공업체에서 사용중인 오픈소스 AI 분야의 선두업체다. 허깅페이스는 엔비디아와 긴밀하게 협력해 텍스트 분석, 신경망 탐색, 대화형 애플리케이션을 규모에 맞게 지원하는 획기적인 AI 서비스를 선보이고 있다.
GE 헬스케어(GE Healthcare)는 텐서RT를 통해 질병의 조기 발견을 위한 핵심 툴인 초음파용 컴퓨터 비전 애플리케이션을 가속화하고 있다. 이는 임상의가 지능형 헬스케어 솔루션을 통해 최고 품질의 치료를 제공할 수 있게 한다.
텐서RT 8은 현재 이용 가능하며, 엔비디아 개발자 프로그램(NVIDIA Developer program) 회원에게 무료로 제공된다. 최신 버전의 플러그인, 파서, 샘플도 텐서RT 깃허브(GitHub) 레파지토리(repository)에서 오픈소스로 이용할 수 있다.
|
