인텔이 메테오 레이크에 탑재된 AI 가속기(NPU)의 가속 라이브러리를 오픈 소스로 공개했다.
이번에 오픈 소스로 공개된 라이브러리는 파이선으로 짜여진 것으로, 현재 시장에 출시 중인 메테오 레이크에 통합된 NPU의 가속 기능을 활용한 어플리케이션 개발에 활용할 수 있다.
인텔 소프트웨어 아키텍트이자 기술 에반젤리스트인 Tony Mongkolsmai는 이번에 공개된 라이블러리는 Gemma-2b 또는 TinyLlama 컴팩트 언어 모델의 로컬 실행을 지원하며, 이론적으로 개발자들이 손쉽게 로컬 AI 채팅 어플리케이션을 쉽게 개발할 수 있도록 지원한다고 소개했다.
인텔이 오픈 소스로 공개한 NPU 가속 라이브러리 관련 세부 내용과 다운로드는 깃허브에서 확인할 수 있다. |
