AI 컴퓨팅 기술 분야의 선두주자인 엔비디아가 팔란티어 테크놀로지스(Palantir Technologies, 이하 팔란티어)와 협력해 엔비디아(NVIDIA) 자체 운영을 시작으로 핵심 공급망에 소버린 AI를 도입한다고 밝혔다.
이번 협력을 통해 팔란티어 온톨로지(Ontology)를 기반으로 엔비디아 네모트론™(Nemotron™) 오픈 모델을 팔란티어 파운드리(Palantir Foundry)와 인공지능 플랫폼(Artificial Intelligence Platform, AIP)에 통합한 AI 스택이 구축된다. 이를 통해 공급망 가시성을 전례 없는 수준으로 높이고, 제약 요소를 식별하며, 운영 전문성을 지속적으로 체계화하고, 머신 속도로 의사결정을 지원하는 것을 목표로 한다. 동시에 엔비디아 AI 인프라 공급망의 안정성과 효율성을 유지하면서 독점 데이터에 대한 통제권과 소유권을 유지한다.
이번 협력의 기반이 되는 AI 스택과 다양한 산업에서의 활용 사례는 팔란티어의 AIP콘(AIPCon) 11 콘퍼런스에서 자세히 소개됐다. 농업, 제조, 제약, 리테일, 기술 산업과 정부 기관 등 복잡한 산업 환경의 조직들은 이 AI 스택을 활용해 각자의 고유한 공급망 운영을 최적화할 수 있다.
엔비디아는 수백만 개의 부품과 수천 개의 공급업체, 전 세계 제조 파트너 네트워크로 구성된 세계에서 가장 복잡한 공급망 중 하나를 운영하고 있다. 랙 스케일 AI 시스템을 생산하려면 컴퓨팅, 메모리, 네트워킹, 전력, 냉각, 기계 부품 등 각 구성 요소의 공급이 필요한 시점에 맞춰 조율돼야 한다. AI 인프라에 대한 수요가 빠르게 증가함에 따라 엔비디아는 생태계 파트너들과 긴밀히 협력해 각 엔비디아 베라 루빈(Vera Rubin) 랙에 필요한 130만 개의 부품 공급을 확보하고 AI 인프라 확장 속도를 높이고 있다.
팔란티어 공동 창업자 겸 CEO 알렉스 카프(Alex Karp)는 “엔비디아는 세계에서 가장 가치가 높고 정교하며 복잡한 공급망을 보유하고 있다고 해도 과언이 아니다. 네모트론 모델과 온톨로지를 기반으로 하는 우리의 소버린 스택은 최첨단 수준을 뛰어넘는 역량을 제공하는 동시에, 다른 방식으로는 얻을 수 없는 ‘알파 보호(alpha protection) 특성까지 제공한다”며, “우리는 이번 파트너십과 소버린 AI 혁명에서 이 협력이 맡고 있는 핵심적인 역할을 매우 자랑스럽게 생각한다”고 말했다.
엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “공급망은 실물경제의 운영체제이며, AI 팩토리는 지금까지 구축된 가장 복잡한 시스템 중 하나다. 웨이퍼와 부품부터 제조, 시스템, 고객 배송에 이르기까지 수백 개의 기업과 수조 달러 규모의 글로벌 경제 활동이 결합돼 AI 인프라를 구현한다. 엔비디아와 팔란티어는 엔비디아 네모트론 모델과 팔란티어 온톨로지를 결합해 이 방대한 운영 그래프를 소버린 인텔리전스로 전환하고 있으며, 웨이퍼에서 토큰까지의 전 과정을 추론하고 계획하며 오케스트레이션하고 있다”고 말했다.
조직별 의사결정에 맞게 맞춤화된 오픈 모델
팔란티어 고객은 팔란티어 파운드리와 AIP를 활용해 자체 데이터로 엔비디아 네모트론을 사후 학습하고, 각 조직에 맞는 공급망 AI 스택을 구축할 수 있다. 팔란티어 AIP 내에서 엔비디아 cuOpt™ 소프트웨어는 최적화와 시나리오 계획 기능을 제공해 팀이 공급 제약을 모델링하고, 여러 대안의 장단점을 평가하며, 자원 할당 결정이 운영에 미치는 영향을 파악할 수 있도록 한다. 사후 학습된 엔비디아 네모트론 오픈 모델은 대응 방안을 추천하고 대안 간 장단점을 설명하며 새롭게 발생하는 위험을 식별하는 한편, 최종 의사결정에 대한 통제권은 공급망 전문가가 유지한다.
새로운 AI 스택은 엔비디아 공급망 팀에 통합 관제 환경을 제공해 소유 시간(Time of Ownership)을 단축할 수 있도록 지원한다. 우선 부품이 공급망을 얼마나 빠르게 이동하는지에 영향을 미치는 자재 할당 의사결정부터 적용된다. 이 시스템은 잠재적인 제약 요인을 조기에 파악하고, 대안을 보다 신속하게 평가하며, 생산 전 과정에 미치는 영향을 바탕으로 자재를 할당할 수 있도록 지원한다.
오픈 모델은 이러한 접근 방식의 핵심이다. 각 조직은 가치사슬과 공급업체 네트워크, 운영 제약, 의사결정 기준이 모두 다르기 때문에 범용 모델만으로는 이러한 고유한 맥락을 충분히 반영하기 어렵다. 기업은 엔비디아 네모™ 데이터 라이브러리(NeMo™ Data Libraries)를 활용해 준비하고 보강한 자체 운영 데이터로 네모트론 오픈 모델을 맞춤화함으로써, 모델과 데이터, 배포 환경에 대한 통제권을 유지하면서 실제 비즈니스 운영 방식을 반영하는 AI를 구축할 수 있다.
각각의 추천과 계획 수립 과정의 조치, 생산 결과는 시스템을 더욱 고도화한다. 엔비디아 네모 오토모델(AutoModel)과 네모 RL 라이브러리가 통합된 팔란티어 오토파일럿(Autopilot)은 피드백을 실제 운영에 반영해 모델이 지속적으로 개선될 수 있도록 지원한다. 이를 통해 운영 지식을 보존하고, 실제 결과를 바탕으로 의사결정을 평가하며, 워크플로우를 지원하는 특화된 AI 모델을 지속적으로 개선하는 거버넌스가 적용된 학습 루프를 구축한다.
소버린•엔터프라이즈급 구축을 위한 설계
양사는 엔비디아 적용 사례에서 얻은 경험을 확장해 기업이 더욱 회복탄력적이고 신속하게 대응하며 지능적인 공급망을 구축할 수 있도록 지원할 계획이다. 제조, 에너지, 헬스케어, 자동차, 항공우주 등 다양한 산업에서 이 접근 방식은 기업이 독점 데이터에 대한 통제권과 소유권을 유지하면서 분산된 운영 데이터를 활용해 더욱 신속하고 안정적인 의사결정을 내릴 수 있도록 지원한다.
엔비디아 공급망의 민감성과 중요성을 고려해 이번 구축은 엔비디아 레퍼런스 아키텍처와 양사가 공동 개발한 팔란티어 소버린 AI 운영체제 레퍼런스 아키텍처(Palantir Sovereign AI Operating System Reference Architecture, SAIOS)를 기반으로 운영된다. SAIOS는 델 테크놀로지스(Dell Technologies)와 시스코(Cisco)의 지원을 받는다.
각 공급망은 서로 다른 특성과 요구사항을 갖고 있다. 이 AI 스택은 시스코와 델 등 주요 시스템 제조업체를 통해 온프레미스에 구축하거나, 랙스페이스(Rackspace), 네비우스(Nebius)를 통해 코로케이션 또는 클라우드 환경에 구축할 수 있다. 이를 통해 조직은 데이터, 시스템, 운영 요구사항에 가장 적합한 환경에서 AI를 실행할 수 있다.
|
