MS “코파일럿+ PC, 月 1.4조 추론 시대 연다…퀄컴 스냅드래곤X2와 AI PC 재정의 [스냅드래곤 서밋]

[디지털데일리 김문기 기자] “코파일럿(Copilot)+ PC는 현재 월평균 1조4000억 회의 추론을 수행한다. 이는 불과 몇 년 전에는 상상하기 힘들었던 연산 규모이며, 배터리 소모 없이도 지속적 지능(sustained intelligence)을 가능케 한다.”

스티븐 바티시(Steven Bathiche), 마이크로소프트 윈도우 및 기기 부문 부사장 24일(현지시간) 미국 하와이 마우이에서 열린 ‘퀄컴 스냅드래곤 테크 서밋 2025’에서 무대에 올라 마이크로소프트가 구현할 차세대 경험을 직접 설명했다. 특히 스냅드래곤X2가 구현하는 80TOPS NPU 성능을 지목하기도 했다.

바티시 부사장은 “고성능 연산과 저전력 소비의 결합은 과거에도 컴퓨팅 패러다임을 바꿔왔던 역사적 패턴”이라며, 하드웨어·소프트웨어·AI의 동시 혁신이 윈도우 생태계를 다시 한 번 진화시키고 있다고 평가했다.

특히 그는 NPU의 중요성을 강조했다. 바티시 부사장은 “GPU가 90년대 CAD를 혁신했듯, NPU는 텐서 연산에 최적화돼 AI에서 압도적 효율성을 제공한다”며, AI 모델 경량화를 위한 핵심 기법으로 양자화(Quantization)를 지목하기도 했다. “대규모 모델의 가중치를 2비트 구조로 압축해 품질 손실 없이 모델 크기를 줄일 수 있다”는 게 그의 설명했다.

마이크로소프트는 최근 ‘V 실리콘(silicon)’이라는 2비트 양자화 모델을 완성했으며, 기존과 같은 성능을 유지하면서도 메모리 사용량은 절반으로 줄고 속도는 더 빨라졌다고 소개했다. 이러한 최적화 결과, 이제는 140억(14B) 파라미터 규모 모델도 온디바이스에서 구동할 수 있게 됐다는 것.

바티시 부사장은 “불과 1년 전까지만 해도 40억(4B)이 한계라고 생각했지만, 지금은 배터리 기반 환경에서도 14B 모델이 추론과 ‘이성적 사고(reasoning)’까지 수행한다”며 “일부 유명 클라우드 모델을 능가하는 벤치마크 결과도 확인됐다”고 밝혔다.

그는 또한 코파일럿(Copilot)+ PC가 보여줄 진화 방향을 “WYSIWYG(What You See Is What You Get)에서 WYAWIWYG(What You Ask or Wish Is What You Get)로의 전환”이라고 설명했다. 과거 그래픽 인터페이스가 ‘보는 대로 얻는 시대’를 열었다면, 이제는 사용자의 요구나 바람 자체가 결과로 이어지는 ‘에이전틱 AI 시대’에 진입했다는 것이다.

바티시 부사장은 마지막으로 “마이크로소프트가 생각하는 다음 세대 PC는 특정 기기가 아니라 클라우드와 엣지가 하나로 작동하는 시스템”이라며 “보안, 속도, 인텔리전스를 통합한 환경에서 차세대 에이전트와 소프트웨어가 돌아가게 될 것”이라고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -