엔비디아, 대규모 클라우드 AI 컴퓨터 구축 위해 마이크로소프트와 협력

2022-11-17 10:32
편집부 press@bodnara.co.kr

엔비디아(CEO 젠슨 황)가 세계에서 가장 강력한 AI 슈퍼컴퓨터 중 하나를 구축하기 위해 마이크로소프트(Microsoft)와 다년간 협력한다고 밝혔다. 해당 슈퍼컴퓨터는 엔비디아(NVIDIA) GPU, 네트워킹 및 AI 소프트웨어 풀 스택과 결합된 마이크로소프트 애저(Azure)의 고급 슈퍼컴퓨팅 인프라로 기업의 대규모 최신 모델을 포함한 AI 훈련과 배포 및 확장을 지원한다.

애저의 클라우드 기반 AI 슈퍼컴퓨터에는 AI 분산 훈련 및 추론에 최적화된 강력하고 확장 가능한 ND 및 NC 시리즈 가상 머신이 포함된다. 이는 엔비디아의 고급 AI 스택을 통합한 최초의 퍼블릭 클라우드로, 수만 개의 엔비디아 A100 및 H100 GPU, 엔비디아 퀀텀-2 400Gb/s 인피니밴드(Quantum-2 400Gb/s InfiniBand) 네트워킹 및 엔비디아 AI 엔터프라이즈(Enterprise) 소프트웨어 제품군이 플랫폼에 추가됐다.

협업의 일환으로 엔비디아는 애저의 확장 가능한 가상 머신 인스턴스를 활용해 생성형 AI(Generative AI)의 발전을 연구하고 더욱 가속화할 것이다. 생성형 AI는 메가트론 튜링 NLG 530B(Megatron Turing NLG 530B)와 같은 기본 모델이 새로운 텍스트, 코드, 디지털 이미지, 비디오 또는 오디오를 생성하는 자율 학습 알고리즘의 기반이 되며 AI 분야에서 빠르게 부상하고 있는 분야이다.

또한 양사는 마이크로소프트의 딥스피드(DeepSpeed) 딥 러닝 최적화 소프트웨어의 활용성을 높이기 위해 협력할 예정이다. 애저 엔터프라이즈 고객에게는 애저에 최적화된 엔비디아의 전체 AI 워크플로우 및 소프트웨어 개발 키트 스택이 제공된다.

마이크로소프트 애저의 AI 최적화 가상 머신 인스턴스는 엔비디아의 최첨단 데이터 센터 GPU로 설계됐으며, 엔비디아 퀀텀-2 400Gb/s 인피니밴드 네트워킹을 통합한 최초의 퍼블릭 클라우드 인스턴스이다. 고객은 단일 클러스터에 수천 개의 GPU를 배포해 가장 방대한 대규모 언어 모델도 교육하고, 가장 복잡한 추천 시스템을 대규모로 구축하며, 대규모로 생성 AI를 활성화할 수 있다.

현재 애저 인스턴스는 엔비디아 A100 GPU와 함께 엔비디아 퀀텀 200Gb/s 인피니밴드 네트워킹을 제공한다. 미래에는 엔비디아 퀀텀-2 400Gb/s 인피니밴드 네트워킹 및 엔비디아 H100 GPU와 통합될 예정이다. 애저의 고급 컴퓨팅 클라우드 인프라, 네트워킹 및 스토리지와 결합된 이러한 AI 최적화 제품은 모든 규모의 AI 교육과 딥 러닝 추론 워크로드에 대해 확장 가능한 최고 성능을 제공한다.

해당 플랫폼은 마이크로소프트 딥스피드와 엔비디아 AI 엔터프라이즈 소프트웨어 제품군을 포함한 광범위한 AI 애플리케이션과 서비스를 지원할 예정이다.

마이크로소프트 딥소프트는 엔비디아 H100 트랜스포머 엔진(H100 Transformer Engine)을 활용한다. 이를 통해 다른 애플리케이션 중에서 대규모 언어 모델, 생성 AI 및 컴퓨터 코드 작성에 사용되는 트랜스포머 기반 모델을 가속화한다. 이 기술은 8비트 부동 소수점 정밀도 기능을 딥스피드에 적용해 16비트 연산 처리량의 2배인 트랜스포머용 AI 계산을 획기적으로 가속화한다.

전 세계적으로 채택된 엔비디아 AI 플랫폼 소프트웨어인 엔비디아 AI 엔터프라이즈는 엔비디아 A100 GPU를 사용하는 마이크로프트 애저 인스턴스에서 인증되고 지원된다. 엔비디아 H100 GPU를 사용하는 애저 인스턴스에 대한 지원은 향후 소프트웨어 릴리스에 추가될 예정이다.

음성 AI용 엔비디아 리바(Riva)와 엔비디아 모피어스(Morpheus) 사이버 보안 애플리케이션 프레임워크를 포함하는 엔비디아 AI 엔터프라이즈는 데이터 처리 및 AI 모델 훈련에서 시뮬레이션과 대규모 배포에 이르는 AI 워크플로우의 각 단계를 간소화한다.

닉네임

비회원

보드나라 많이 본 뉴스

메모리 가격 급락에 중국 사재기 업체들 비명?

일부 지역 메모리 시장 가격 급락, 일시 조정?

엔비디아 앱 DLSS 4.5 DMFG, 6x 모드, 사전 세이더 캐시 컴파일 지원 업데이트

보드나라 많이 본 기사

인텔 메인스트림 CPU의 왕위 계승, 코어 울트라 7 270K Plus

DDR5·HBM 메모리 폭등의 유일한 해결법 반도체 증설 현황 총정리, 삼성전자·SK하이닉스·마이크론 [메모리 가격 폭등 7부]

신중한 SSD 선택의 가치, ESSENCORE KLEVV CRAS C925G M.2 NVMe (2TB)

보드나라 최신 기사

[11/17] 위메이드, MMORPG ‘레전드 오브 이미르’ 글로벌 버전 ‘스팀’ 정식 출시

[11/17] HP, 프리미엄 ‘오멘 16’ 실속형 ‘옴니북 5’, 네이버 '디지털 가전 페스타' 프로모션 참여

[11/17] MSI, 이틀간 엔비디아 지포스 RTX 데스크탑 및 노트북 기획전 진행

[11/17] CTW, G123 신작 ‘이세계는 스마트폰과 함께. 판타지아 커넥트’ 정식 서비스 개시

[11/17] ‘듀엣 나이트 어비스’, 1.3 버전 업데이트.. 신규 지역, 캐릭터 등 대규모 콘텐츠 확장

[11/17] 브이파이브 게임즈, 판타지 MMORPG ‘실크로드 어게인’ 정식 출시

[11/17] 마우저, 산업용 IoT 애플리케이션을 위한 암페놀 윌콕슨의 VDS130 진동 데이터 소스 공급

[11/17] ipTIME, 인텔 쿼드코어 CPU 탑재 2베이 나스 ‘NAS200plus’ 출시

[11/17] KT 롤스터에 나란히 덜미 잡힌 T1-젠지, 올해 첫 격돌

[11/17] 컴투스플랫폼, 텐센트 클라우드 MaaS 솔루션 공급으로 기업용 AI 시장 조준

[11/17] 넷마블 ‘나 혼자만 레벨업:어라이즈 챔피언십 2026’, 본선 관람 티켓 사전 판매 수량 조기 완판

[11/17] 구글, 피겨 여왕 김연아의 새로운 도전 담은 ‘제미나이’ 캠페인 영상 공개

[11/17] 해긴, 액션 신작 ‘라스트 헌터 K: 서울’ 사전 예약 돌입

[11/17] 소니 차세대 콘솔 PS6 출시는 예정대로?

[11/17] 윈드리버, AMD와 협력해 업계 최초로 오픈랜과 AI-RAN 통합 지원하는 플랫폼 구축

[11/17] 브리츠, 올인원 PC 사운드바 ‘BZ-T900BT’ 출시

[11/17] 샤오미코리아, 네이버 브랜드스토어 공식 오픈 및 ‘Xiaomi Fan Festival 2026’ 개최… 최대 43% 할인 프로모션 진행

[11/17] 디앤디컴, 하이엔드 메인보드 'MAXSUN iCraft Z890 PACIFIC' 출시

[11/17] 내 PC의 예상 게임 성능은? 스팀 성능 예측기(Frame Estimator) 작업 중

[11/17] 메모리 호황에 삼성전자 1분기 영업이익 57조원달성, 지난해 전체보다 많아

로그인 | 이 페이지의 PC버전