quickmenu
PC 뉴스 홈  

엔비디아, AI 파운드리 서비스로 기업에 맞춤 생성형 AI 모델 구축 지원

2024-07-26 10:47
편집부 press@bodnara.co.kr

엔비디아(www.nvidia.co.kr)가 엔비디아 AI 파운드리(NVIDIA AI Foundry)로 AI의 역량을 활용하고자 하는 기업들이 특정 산업 요구에 맞는 맞춤형 모델을 구축할 수 있도록 지원한다고 밝혔다.


엔비디아 AI 파운드리는 기업이 데이터, 가속 컴퓨팅, 소프트웨어 도구 등을 사용해 맞춤형 모델을 생성하고 배포할 수 있도록 지원하는 서비스다. 이를 통해 기업은 생성형 AI 이니셔티브를 강화할 수 있다.

엔비디아 AI 파운드리는 다른 기업이 AI 모델을 개발하고 맞춤화할 수 있도록 인프라와 도구를 제공한다. 기업들은 엔비디아 AI 파운드리 서비스를 통해 DGX 클라우드(DGX Cloud), 파운데이션 모델, 엔비디아 네모(NeMo) 소프트웨어, 엔비디아 전문 지식, 에코시스템 도구와 지원을 사용할 수 있다. 이는 마치 TSMC가 다른 기업이 설계한 칩을 제조하는 것과 같다.

가장 큰 차이점은 제품이다. TSMC는 실제 반도체 칩을 생산하는 반면, 엔비디아 AI 파운드리는 맞춤형 모델을 제작하는 데 도움을 준다. 두 기업 모두 혁신을 지원하고 방대한 도구와 파트너 에코시스템을 연결하고 있다.

기업은 AI 파운드리를 사용해 메타(Meta)의 새로운 라마 3.1(Llama 3.1) 컬렉션을 비롯해 다양한 엔비디아와 오픈소스 모델을 맞춤화할 수 있다. 여기에는 엔비디아 네모트론(Nemotron), 구글 딥마인드(Google DeepMind)의 코드젬마(CodeGemma)와 젬마(Gemma), 메타의 코드 라마(CodeLlama), 미스트랄(Mistral), 믹스트랄(Mixtral), 마이크로소프트 파이-3(Microsoft Phi-3), 스타코더2(StarCoder2) 등이 있다.

 

엔비디아 AI 파운드리의 핵심 요소

엔비디아 AI 파운드리는 파운데이션 모델, 엔터프라이즈 소프트웨어, 가속 컴퓨팅, 전문가 지원, 광범위한 파트너 에코시스템의 핵심 요소들에 의해 지원된다.

이 소프트웨어는 엔비디아를 비롯한 AI 커뮤니티의 AI 파운데이션 모델과 모델 개발을 빠르게 추적할 수 있는 완전한 엔비디아 네모 소프트웨어 플랫폼이 포함한다.

엔비디아 AI 파운드리의 컴퓨팅 핵심은 엔비디아 DGX 클라우드로, 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure)와 공동 설계된 가속 컴퓨팅 리소스 네트워크다. AI 파운드리 고객은 DGX 클라우드를 통해 전례 없이 쉽고 효율적으로 맞춤형 생성형 AI 애플리케이션을 개발하고 미세 조정할 수 있다. 또한, 하드웨어에 대한 막대한 초기 투자 없이 필요에 따라 AI 이니셔티브를 확장할 수 있다. 이러한 유연성은 급변하는 시장에서 민첩성을 유지하고자 하는 기업에게 매우 중요하다.

엔비디아 AI 파운드리 고객에게 도움이 필요한 경우, 엔비디아 AI 엔터프라이즈(AI Enterprise) 전문가가 도움을 줄 수 있다. 엔비디아 전문가는 독점 데이터를 사용해 모델을 구축, 미세 조정, 배포하는 데 필요한 각 단계를 고객에게 안내해, 모델이 비즈니스 요구사항과 완벽히 부합하도록 보장할 수 있다.

엔비디아 AI 파운드리 고객은 다양한 지원을 제공하는 글로벌 파트너 에코시스템에 액세스할 수 있다. 이들은 AI 기반 디지털 전환 프로젝트의 설계, 구현, 관리를 포괄하는 AI 파운드리 컨설팅 서비스를 제공한다. 액센츄어는 맞춤형 모델 개발을 위한 자체 AI 파운드리 기반 제품인 액센츄어 AI 리파이너리(Refinery) 프레임워크를 최초로 제공한다.

아울러, 데이터 몬스터즈(Data Monsters), 퀀티파이(Quantiphi), 슬라럼(Slalom), 소프트서브(SoftServe)와 같은 서비스 제공 파트너는 기업이 기존 IT 환경에 AI를 통합하는 복잡한 문제를 해결하도록 돕는다. 이는 확장 가능하고, 안전하며, 비즈니스 목표에 부합하는 AI 애플리케이션을 구축할 수 있도록 지원한다.

고객들은 엔비디아 파트너의 AIOps와 MLOps 플랫폼을 사용해 프로덕션용 엔비디아 AI 파운드리 모델을 개발할 수 있다.

고객들은 AI 파운드리 모델을 맞춤형 모델, 최적화된 엔진, 표준 API를 포함하는 엔비디아 NIM 추론 마이크로서비스로 출력해 원하는 가속 인프라에서 실행할 수 있다.

엔비디아 텐서RT-LLM(TensorRT-LLM)과 같은 추론 솔루션은 지연 시간을 최소화하고 처리량을 극대화하기 위해 라마 3.1 모델의 효율성을 개선한다. 이를 통해 기업은 토큰을 더 빠르게 생성하는 동시에 프로덕션에서 모델을 실행하는 데 드는 총 비용을 절감할 수 있다. 엔터프라이즈급 지원과 보안은 엔비디아 AI 엔터프라이즈 소프트웨어 제품군에서 제공한다.

엔비디아 NIM과 텐서RT-LLM은 추론 지연 시간을 최소화하고 처리량을 극대화해 라마 3.1 모델의 토큰을 더 빠르게 생성한다.

광범위한 배포 옵션에는 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 글로벌 서버 제조 파트너의 엔비디아 인증 시스템(Certified Systems)이 있다. 또한, 아마존 웹 서비스, 구글 클라우드, 오라클 클라우드 인프라스트럭처의 클라우드 인스턴스도 포함된다.

아울러 선도적인 AI 가속 클라우드인 투게더 AI(Together AI)는 10만 명 이상의 개발자와 기업으로 구성된 자사의 에코시스템에서 엔비디아 GPU 가속 추론 스택을 사용할 예정이라고 발표했다. 이로써 라마 3.1 엔드포인트와 기타 개방형 모델을 DGX 클라우드에 배포할 수 있다.


맞춤형 모델 개발을 가속화하고 간소화하는 엔비디아 네모

엔비디아 네모가 AI 파운드리에 통합됨에 따라 개발자들은 데이터 큐레이션, 파운데이션 모델 맞춤화와 성능 평가에 필요한 도구를 손쉽게 사용할 수 있다. 네모 기술은 다음을 포함한다:

• 네모 큐레이터(NeMo Curator)는 GPU 가속 데이터 큐레이션 라이브러리로, 사전 훈련과 미세 조정을 위한 대규모 고품질 데이터 세트를 준비해 생성형 AI 모델 성능을 향상시킨다.

• 네모 커스터마이저(NeMo Customizer)는 확장 가능한 고성능 마이크로 서비스로, 도메인별 사용 사례에 대한 거대 언어 모델(large language model, LLM)의 미세 조정과 정렬을 단순화한다.

• 네모 이밸류에이터(NeMo Evaluator)는 가속화된 클라우드나 데이터 센터에 있는 학술과 맞춤형 벤치마크 전반에 걸쳐 생성형 AI 모델을 자동으로 평가한다.

• 네모 가드레일(NeMo Guardrails)은 대화 관리를 조정해 LLM이 있는 스마트 애플리케이션에서의 정확성, 적절성, 보안을 지원한다. 이를 통해 생성형 AI 애플리케이션을 위한 안전 장치를 제공한다.

기업은 엔비디아 AI 파운드리의 네모 플랫폼을 사용해 요구가 정확하게 반영된 맞춤형 AI 모델을 만들 수 있다. 이러한 맞춤화를 통해 전략적 목표에 더 잘 부합하고, 의사 결정의 정확성을 높이고, 운영 효율성을 개선할 수 있다. 예를 들어, 기업은 산업별 전문 용어를 이해하고 규제 요건을 준수하며 기존 워크플로우와 원활하게 통합되는 모델을 개발할 수 있다.

SAP의 최고 AI 책임자인 필립 헤르지그(Philipp Herzig)은 “양사 파트너십의 다음 단계로, SAP는 엔비디아의 네모 플랫폼을 사용해 기업이 SAP 비즈니스 AI(SAP Business AI)로 구동되는 AI 기반 생산성을 가속화할 수 있도록 지원할 계획”이라고 말했다.

기업들은 엔비디아 네모 리트리버(Retriever) NIM 추론 마이크로서비스를 통해 맞춤형 AI 모델을 프로덕션에 배포할 수 있다. 이를 통해 개발자는 독점 데이터를 가져와 검색 증강 생성(retrieval-augmented generation, RAG)을 통해 AI 애플리케이션에 대한 지식이 풍부한 응답을 생성할 수 있다.

닉네임 lock
비회원

보드나라 많이 본 뉴스
보드나라 많이 본 기사

보드나라 최신 기사
[07/26] 서린씨앤아이, 포뮬라 브이라인 PC 케이스 배송비 지원 이벤트 진행  
[07/26] TCL, 성수 팝업 오픈.. 게이밍 체험부터 TV 화질 비교까지  
[07/26] 한국전쟁으로 화제된 모던 워페어 사, 쾌적한 플레이를 위한 CPU와 GPU는?  
[07/26] 밸로프, '아틀란티카 온라인' 신규 용병 실비아 업데이트  
[07/26] ipTIME, 이지 메시(Easy Mesh) 지원 기가비트 4포트 유선 공유기 ‘ipTIME T6004’ 출시  
[07/26] 그라비티, 오픈월드 MMORPG ‘Ragnarok: The New World’ 프리뷰 체험회 개최!  
[07/26] 게임이용자보호센터, 출범 10주년 기념 ‘이용자보호기구 운영 성과 및 발전 방향 토론회’ 개최  
[07/26] 벤틀리모터스, 신규 글로벌 브랜드 앰버서더 후지와라 히로시와 협업한 ‘토르칼 FRGMT 커미션’ 공개  
[07/26] 고급 추론 성능에 속도와 안전성 강화, 구글 제미나이 4 네온 발표  
[07/26] AMD Zen 6 라이젠, 공정 변경과 AI 수요 영향에 2027년 하반기 출시?  
[07/26] 11시간 플레이가 허사로? GTA VI 자동 저장 문제 논란  
[07/26] 소상공인 공제제도 '노란우산' 가입자 약 36만 명의 개인정보와 계약정보 유출 사고 발생  
[07/26] 윈도우 11 핫패치로 일부 프로그램 설치 및 실행 불가  
[07/26] 모스크바 게임 허브, 지스타 2026서 러시아 게임 신작 14종 공개  
[07/26] 서린씨앤아이, 포뮬라 브이라인 Crystal Z7 PA2 PC 케이스 출시  
[07/26] 에이수스, 로컬 AI 워크로드를 위한 NVIDIA RTX Spark 기반 ‘ProArt GR1X’ 미니PC 출시  
[07/26] 마이크로닉스, 쿨맥스 파워와 케이스 동시 구매 시 할인  
[07/26] 스틸시리즈, '인텔과 함께하는 지스타 글로벌 게임 쇼케이스'에 게이밍 기어 설치  
[07/26] 제이씨현 유디아(UDEA), 전자랜드 용산 본점과 ‘2027학년도 수능 수험생 응원 이벤트’ 진행  
[07/26] 이엠텍아이엔씨, 수능 끝! 게이밍 START! 수험생 특별 응원 이벤트 진행  
로그인 | 이 페이지의 PC버전
Copyright NexGen Research Corp. 2010