高通和微软在 Microsoft Build 开发者大会上携手 推动终端侧 AI 规模化扩展

导读：终端侧生成式 AI 解决方案将查询和推理转移到 PC 和手机等边缘终端，让开发者和云服务提供商能够打造更加经济可靠，且隐私性更高的生成式 AI。　　　　高通和微软确认达成合

　　终端侧生成式 AI 解决方案将查询和推理转移到 PC 和手机等边缘终端，让开发者和云服务提供商能够打造更加经济可靠，且隐私性更高的生成式 AI。

　　高通和微软确认达成合作关系，将面向消费级和企业级终端、以及工业设备，规模化扩展 AI 能力，为用户带来行业领先的 AI 体验。

　　2023 年 5 月 23 日，西雅图——在 Microsoft Build2023 开发者大会期间，高通技术公司展示了公司最新的终端侧 AI 创新，包括在骁龙 计算平台上运行生成式 AI，以及开发者在采用骁龙平台的 Windows11 PC 上创建应用的新路径。

　　高通技术公司产品管理高级副总裁 ZiadAsghar 表示：" 为了让生成式 AI 真正为更多人所接受和使用，许多推理工作需要在边缘终端上处理。我们拥有行业领先的 AI 硬件和软件，可以赋能开发者充分利用我们强大的 AI 能力，在搭载骁龙平台的笔记本电脑、手机和其他终端上打造令人惊艳的全新用户体验。"

　　AI 的未来既需要终端侧 AI，也需要云端 AI。在终端侧运行 AI 应用可提升成本效益、增强隐私性、个性化并降低时延。与仅在 CPU 或 GPU 上进行 AI 工作负载处理比较，骁龙平台集成专用的高通 AI 引擎，处理 AI 工作负载可以更加高效，让小巧轻薄的设备也能支持终端侧 AI。

　　在 Microsoft Build 期间，高通技术公司将带来技术演示，并带来能够支持在下一代 Windows11 PC 上开发生成式 AI 的工具。StableDiffusion 作为一款文本生成图像的生成式 AI 模型，参数超过 10 亿，目前已经能够完全在终端侧运行。高通技术公司表示，未来几个月内，包括大语言模型 ( LLM ) 在内的参数高达 100 亿的模型将有望在终端侧运行。为了增强高通 AI 软件栈并帮助开发者打造下一代终端侧 AI 体验，高通 AI 引擎 DirectSDK 将在 Microsoft Build 上首次面向公众推出。借助 ONNXRuntime 和高通 AI 软件栈，如今用户在使用 5G 版 SurfacePro 9 和联想 ThinkPadx13s 的时候就可以在其搭载的第三代骁龙 8cx 平台上的 AI 引擎运行 AI 工作负载。

　　微软 Windows 芯片和系统集成公司副总裁 PavanDavuluri 表示：" 为了在广泛的终端和应用领域扩展 AI，云端和终端侧处理缺一不可。通过将微软在云端 AI 上的领先优势以及 Windows 平台的能力与高通技术公司的终端侧 AI 专长相结合，我们将加速由生成式 AI 体验所带来的发展机遇。"

　　高通技术公司还将在大会期间展示为骁龙平台原生编译热门应用可带来的显著性能提升，并上线全新的开发者门户网站，便于从统一的入口集中获取骁龙本开发所需的关键工具、资源和支持。