데이터가 있는 곳 어디서나 AI를 연결하는 유일한 기업 클라우데라(kr.cloudera.com, 한국지사장 최승철)가 ‘기업용 AI 생태계(Enterprise AI Ecosystem)’ 확장을 발표했다.
이번 발표는 2024년부터 시작된 기업용 AI 생태계의 확장의 일환으로, 클라우데라 애니웨어 클라우드(Cloudera Anywhere Cloud)를 기업용 AI 팩토리의 기반으로 삼고 강화하는 내용을 담고 있다. AI 팩토리는 거버넌스가 적용된 데이터를 지속적으로 인사이트와 자율적인 실행으로 전환하는 환경이다.
기업들이 AI에 질문하는 단계를 넘어 에이전트에 비즈니스 성과를 맡기는 단계로 넘어가면서, 아키텍처의 모든 계층이 중요해지고 있다. 에이전트가 제 역할을 하려면 비즈니스 맥락을 이해하기 위한 연결된 지식, 작업별로 적합한 모델, 빠르게 반응하는 인터페이스, 데이터 흐름을 끊김 없이 유지하는 인프라가 필요하다. 애니웨어 클라우드는 퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스 환경 전반에서 일관된 운영 모델로 이러한 역량을 통합해 고객이 성능, 비용, 주권 요건을 보다 자유롭게 충족할 수 있도록 지원할 예정이다.
아바스 리키(Abhas Ricky) 클라우데라 최고사업책임자(CBO) 및 Applied AI 부문 총괄은 “AI 경쟁 우위는 기업이 자체 지식을 얼마나 효과적으로 실행 가능한 인사이트로 전환할 수 있는지에 따라 갈릴 것”이라며, “클라우데라의 목표는 모든 기업이 모델을 자유롭게 선택하고, 데이터에 대한 통제권을 유지하면서, 모든 워크로드의 경제성을 개선할 수 있는 AI 팩토리를 구성하는 것이다. 애니웨어 클라우드와 확장되는 생태계는 기업의 인사이트 발굴부터 에이전틱 실행까지 모든 역량을 연결할 예정이다”고 말했다.
연결된 지식으로 에이전틱 실행의 신뢰성 향상
네오포제이(Neo4j)는 지식 그래프와 시맨틱 컨텍스트를 제공해 에이전트가 기업 데이터 간의 관계를 파악하고, 고객•제품•거래•비즈니스 프로세스가 서로 어떻게 연결돼 있는지 이해할 수 있도록 돕는다. 여기에 클라우데라의 거버넌스가 적용된 데이터 기반이 결합되면 정보를 바탕으로 추론하고 근거 있는 실행에 나서는 단계로의 발전을 지원한다.
수디르 하스베(Sudhir Hasbe) 네오포제이 사장 겸 최고제품책임자(CPO)는 “클라우데라와의 파트너십을 통해 기업은 퍼블릭 및 프라이빗 클라우드 환경의 기업 데이터 전반에 걸쳐 공유 지식 계층을 구축하고, 관계형 데이터와 깊이 있는 시맨틱 컨텍스트를 긴밀하게 연결할 수 있다”며, “클라우데라 오픈 데이터 레이크하우스와 네오포제이의 그래프 인텔리전스 플랫폼을 결합하면 기업은 어떤 데이터 환경에서든 방대한 데이터 세트를 조회하고 숨겨진 관계를 찾아내며 차세대 기업용 AI를 안전하게 구동할 수 있다”고 말했다.
소버린 음성 AI로 일상적인 상호작용까지 AI 역량 확장
카르테시아(Cartesia)는 음성 에이전트를 위한 음성 생성 및 음성 전사 기능을 지원한다. 이는 고객이 통제하는 환경 안에서 작동하는 모델의 선택권을 넓힌다. 카르테시아의 음성 생성 지연 시간은 90밀리초 미만이며, ‘소닉-3.6’ 모델은 출시 당시 아티피셜 애널리시스의 음성 아레나 리더보드 두 곳에서 모두 1위를 차지했다. 이러한 역량은 자연스럽고 빠른 상호작용을 지원하고, 민감한 대화에 대한 통제권을 유지할 수 있다.
카란 고엘(Karan Goel) 카르테시아 공동창업자 겸 CEO는 “음성은 AI의 주요 인터페이스로 자리 잡고 있다. 가장 큰 혜택을 얻을 수 있는 기업은 대개 가장 엄격한 데이터 주권 및 거버넌스 요건을 적용받는 기업”이라며, “카르테시아는 클라우데라와 함께 세계에서 가장 규제가 엄격한 기업들이 데이터에 대한 완전한 통제권을 유지하면서, 실시간 음성 에이전트를 대규모로 배포할 수 있도록 지원하고 있다”고 말했다.
특화 인텔리전스로 AI 팩토리의 활용 범위 확대
지난달 발표된 미스트랄(Mistral)과의 전략적 파트너십은 클라우데라 소버린 추론 전략의 핵심으로, 미스트랄은 1조 500억 개 파라미터 규모로 발표된 ‘라지 4’ 모델, 예측 모델 ‘타임스트랄’, 체화형 내비게이션을 위한 ‘로보스트랄’ 등으로 포트폴리오를 확대하고 있다. 엔비디아와의 엔지니어링 협력과 유럽입자물리연구소(CERN)와의 과학 AI 연구 역시 대화형 AI를 넘어 등장하고 있는 특화 인텔리전스의 폭넓은 가능성을 보여준다. 기업은 다양한 모델 가운데 각 워크로드의 성능, 지연 시간, 컴퓨팅 요건에 맞는 모델을 선택할 수 있다.
마조리 재니위츠(Marjorie Janiewicz) 미스트랄 최고매출책임자(CRO)는 “기업이 에이전틱 워크플로우를 도입하는 과정에서 민감한 데이터와 인프라에 대한 통제권 유지는 타협할 수 없는 요소”라며, “미스트랄의 제품과 클라우데라의 하이브리드 데이터 플랫폼을 통합하면, 기업은 모든 환경에서 완전한 거버넌스를 유지하면서 자체 데이터를 기반으로 맞춤형 인텔리전스를 구축, 학습, 배포할 수 있게 된다”고 말했다.
고성능 데이터 인프라로 AI 팩토리의 생산성 유지
지난 7월에 발표된 VAST 데이터(VAST Data)와의 파트너십은 가속기에 고처리량•저지연 데이터를 공급해, 고가의 GPU가 데이터 공급 지연으로 유휴 상태에 놓이는 GPU 병목 현상을 해결한다. VAST 데이터의 스토리지 아키텍처는 클라우데라의 컨테이너형 데이터 서비스를 지원해, 애니웨어 클라우드 전반에서 데이터 전송, GPU 활용률, AI 및 분석 워크로드 성능을 개선하는 데 기여한다.
제프 덴워스(Jeff Denworth) VAST 데이터 공동창업자는 “기업은 이미 AI에 필요한 데이터를 보유하고 있다. 관건은 데이터의 가치를 추출해 AI 추론, 파인튜닝, 데이터 분석으로 이어지는 파이프라인을 구축해 차세대 지능형 애플리케이션을 만드는 것”이라며, “클라우데라와 VAST 데이터는 고객이 데이터, 인텔리전스, 인프라를 단일 AI 운영 플랫폼으로 연결하는 AI 팩토리를 구축할 수 있도록 지원한다”고 강조했다.
클라우데라는 이러한 파트너십을 통해 AI 스택 전반에서 기업의 선택권을 넓히고 있다. 또한 공동 솔루션과 검증된 레퍼런스 아키텍처 포트폴리오를 확대해 통합에 드는 수고를 줄이고 총소유비용(TCO)을 개선해 하이브리드 및 소버린 AI를 보다 쉽게 도입하도록 지원한다.
|
