微软DeepSeek-R1模子优化,Copilot+ PC土产货化AI推明智力大进步
发布日期:2025-03-08 05:18 点击次数:64
在科技日眉月异的今天,东谈主工智能正往时所未有的速率向旯旮计较领域迈进,而Copilot+ PC在这一进度中占据了举足轻重的地位。近日,跟着DeepSeek R1模子的横空出世,微软也好坏地捕捉到了这一变革的先机。
微软官方近日告示,已认真推出针对NPU(神经蚁集搞定器)深度优化的DeepSeek-R1模子。该模子现已在Azure AI Foundry和GitHub平台上架,首批将针对搭载高通骁龙X系列芯片的Copilot+ PC进行适配,随后将渐渐彭胀到英特尔酷睿Ultra 200V等其他平台。
据悉,DeepSeek-R1的首个版块——DeepSeek-R1-Distill-Qwen-1.5B,将起始在AI Toolkit中亮相。而7B和14B两个更大界限的版块也将紧随自后,助力缔造者充分附近Copilot+ PC中弘远的NPU性能。
微软方面默示,Copilot+ PC上的NPU开启了一种全新的责任时势。在这种时势下,生成式AI不仅大要按需实施,还大要扶植半聚首运行的劳动。这一特色使得缔造者大要附近AI推理引擎,打造出愈加主动、合手续的用户体验。
微软在Phi Silica技俩上的酌量隔断,为DeepSeek模子的NPU优化提供了贵重训戒。通过高效的推理时刻,DeepSeek在初次生成token的时候和隐隐率方面均施展出色,同期对电板续航和PC资源耗尽的影响降到了最低。DeepSeek还鉴戒了多项过错时刻,包括模子分袂以兑现性能与遵守的最好均衡、低比特率量化以及Transformer到NPU的映射等。同期,微软还附近Windows Copilot Runtime(WCR)通过ONNX QDQ设施在Windows生态系统中兑现了平凡彭胀。
关于念念要体验DeepSeek的用户来说,只需下载AI Toolkit VS Code彭胀即可。而过程ONNX QDQ设施优化的DeepSeek模子也将很快出咫尺AI Toolkit的模子目次中,用户不错径直从Azure AI Foundry中拉取。下载完成后,用户只需掀开Playground加载“deepseek_r1_1_5”模子,并给出辅导词,即可运行体验DeepSeek的弘远功能。
除了为Copilot+ PC优化的ONNX模子外,用户还不错在Azure Foundry中尝试云托管的源模子。只需点击“DeepSeek R1”下的“Try in Playground”按钮,即可狂放上手。
为了直不雅展示原始模子与NPU优化模子之间的互异,微软还提供了以下示例图。从图中不错看出,在相同辅导下,原始模子与NPU优化模子的反应天然爽脆相同,但在推明智力等方面仍存在细微但如实存在的互异。