quickmenu
PC 뉴스 홈  

MS, 윈도우 11 온디아비스 AI 구동을 위한 SLM 뮤(Mu) 발표

2025-06-24 12:41
이상호 기자 ghostlee@bodnara.co.kr

MS에서 온디바이스 AI 구현을 위한 SLM(Small Language Model)인 뮤(Mu)를 발표했다.


MS는 지난해 온디바이스 AI 구동이 가능한 코파일럿+PC 규격을 발표하며 40 TOPS 이상 성능의 NPU를 요구사양에 포함 시켰다. 이번에 발표된 SLM 뮤는 이렇게 시스템에 통합된 NPU를 활용해 사용자의 자연어 쿼리를 이해하고, 기존 검색 상자에 통합 가능한 AI 에이전트를 구현하는데 있다.

뮤는 온디바이스에서 초당 100개 이상의 토큰을 제공하도록 디자인 되었으며, 해당 모델 인코더-디코터의 첫 토큰 레이턴시는 47% 개선되었고, 비슷한 크기의 디코더 전용 모델 대비 디코딩 속도는 4.7배 빨라졌다. 330M 인코더-디코더 언어 모델인 뮤는 특정 구성 요소에 가중치를 공유해 전체 매겨변수 수를 줄이고, 동급 성능의 비슷하게 미세 조정된 Phi-3.5-mini와 비교해 크기는 거의 1/10 수준으로 줄였다.

MS는 뮤 SLM을 통해 45TOPS 성능의 NPU가 통합된 스냅드래곤 X 엘리트/ 플러스가 쓰인 서피스 랩탑 7에서 초당 200개 이상의 토큰 출력이 가능하다는 점을 강조했으며, 윈도우 11 인사이더 프리뷰 빌드 26200.5651에서 접할 수 있다.

닉네임 lock
비회원

보드나라 많이 본 뉴스
보드나라 많이 본 기사

보드나라 최신 기사
[06/24] 서린씨앤아이, 포뮬라 브이라인 PC 케이스 배송비 지원 이벤트 진행  
[06/24] TCL, 성수 팝업 오픈.. 게이밍 체험부터 TV 화질 비교까지  
[06/24] 한국전쟁으로 화제된 모던 워페어 사, 쾌적한 플레이를 위한 CPU와 GPU는?  
[06/24] 밸로프, '아틀란티카 온라인' 신규 용병 실비아 업데이트  
[06/24] ipTIME, 이지 메시(Easy Mesh) 지원 기가비트 4포트 유선 공유기 ‘ipTIME T6004’ 출시  
[06/24] 그라비티, 오픈월드 MMORPG ‘Ragnarok: The New World’ 프리뷰 체험회 개최!  
[06/24] 게임이용자보호센터, 출범 10주년 기념 ‘이용자보호기구 운영 성과 및 발전 방향 토론회’ 개최  
[06/24] 벤틀리모터스, 신규 글로벌 브랜드 앰버서더 후지와라 히로시와 협업한 ‘토르칼 FRGMT 커미션’ 공개  
[06/24] 고급 추론 성능에 속도와 안전성 강화, 구글 제미나이 4 네온 발표  
[06/24] AMD Zen 6 라이젠, 공정 변경과 AI 수요 영향에 2027년 하반기 출시?  
[06/24] 11시간 플레이가 허사로? GTA VI 자동 저장 문제 논란  
[06/24] 소상공인 공제제도 '노란우산' 가입자 약 36만 명의 개인정보와 계약정보 유출 사고 발생  
[06/24] 윈도우 11 핫패치로 일부 프로그램 설치 및 실행 불가  
[06/24] 모스크바 게임 허브, 지스타 2026서 러시아 게임 신작 14종 공개  
[06/24] 서린씨앤아이, 포뮬라 브이라인 Crystal Z7 PA2 PC 케이스 출시  
[06/24] 에이수스, 로컬 AI 워크로드를 위한 NVIDIA RTX Spark 기반 ‘ProArt GR1X’ 미니PC 출시  
[06/24] 마이크로닉스, 쿨맥스 파워와 케이스 동시 구매 시 할인  
[06/24] 스틸시리즈, '인텔과 함께하는 지스타 글로벌 게임 쇼케이스'에 게이밍 기어 설치  
[06/24] 제이씨현 유디아(UDEA), 전자랜드 용산 본점과 ‘2027학년도 수능 수험생 응원 이벤트’ 진행  
[06/24] 이엠텍아이엔씨, 수능 끝! 게이밍 START! 수험생 특별 응원 이벤트 진행  
로그인 | 이 페이지의 PC버전
Copyright NexGen Research Corp. 2010