업스테이지는 AXZ(다음)와 퓨리오사AI와 협력해 국내 최초의 풀스택 소버린 AI 상용화 사례를 구축한다고 15일 밝혔다.
이번 협력은 퓨리오사AI의 NPU '레니게이드(RNGD)'에서 업스테이지의 거대언어모델(LLM) '솔라(Solar)'를 구동해 다음의 'AI 요약' 서비스를 제공하는 방식이다. AI 반도체부터 LLM, 실제 서비스까지 전 과정을 국내 기술로 구현한 첫 사례라는 점에서 의미가 있다.
AXZ는 다음 AI 요약 서비스가 웹 문서를 실시간으로 분석해 검색 결과를 핵심 내용과 함께 제공하는 기능이라고 설명했다. 또한 키워드 검색과 벡터 검색을 결합한 하이브리드 검색 방식을 적용해 최신 정보를 기반으로 환각(할루시네이션)을 줄이는 데 집중했다고 밝혔다.
퓨리오사AI는 현재 AI 요약 서비스에 3개 노드를 활용해 하루 약 5억 개의 토큰을 처리하고 있으며, 자체 컴파일러와 서빙 엔진 최적화를 통해 엔비디아 H200급 성능을 구현했다고 설명했다. 또한 레니게이드 도입 시 AI 추론 비용을 50% 이상 절감할 수 있다고 덧붙였다.
업스테이지는 솔라 LLM의 한국어 성능과 소형 모델 설계 경쟁력을 바탕으로 국산 AI 모델의 성능을 지속적으로 고도화하겠다는 계획을 밝혔다. 퓨리오사AI 역시 연내 레니게이드 1만 장 공급이 가능하다며 AI 인프라 확대에 자신감을 나타냈다.
3사는 앞으로 AI 요약 서비스를 시작으로 다양한 분야로 협력을 확대하고, 국내 AI 반도체와 AI 모델, 서비스 생태계 경쟁력 강화에 나설 계획이다. |
