聪明的东西

作者 云鹏

编辑莫莹

今年无疑是人工智能发展具有里程碑意义的一年。基于各种大型AI模型的生成式AI技术迅速应用于各种智能终端产品，从手机、PC、汽车、XR到可穿戴设备等各个领域。与AI深度融合。

生成式AI在设备端的加速落地，让整个行业看到了其巨大的应用潜力。从硬件、软件到应用生态，从上游到下游，整个行业未来都在加大对人工智能的布局，人工智能的普惠性将进一步加速。

AI技术的快速发展也带来了端侧AI算力需求的爆发式增长。与此同时，端侧AI体验也越来越依赖于应用生态。 AI赛道上的产业联盟已成为行业大趋势。

在此背景下，芯片厂商作为底层技术提供商的作用变得越来越重要。芯片厂商不仅是AI算力的提供者，也是软件工具的核心构建者和AI产业生态建设的关键推动者。

在这一领域，高通作为移动芯片市场的领头羊，一直走在行业的前列。在端云协同的大趋势成为行业共识之前，高通就很早就提出了混合AI的愿景并发布了相关技术白皮书，开始加速在端侧AI领域的布局。

从加速芯片AI引擎，到为AI软件堆栈提供完整的开发支持，再到联合行业各方推动生态建设，高通无疑让智能计算变得更加触手可及。

近期，在Android阵营，从OPPO、vivo到小米、荣耀，众多领先厂商纷纷推出自己的最新旗舰手机，各种眼花缭乱的AI功能正在加速落地。 AI可以多种方式进行交互，通过语音、图像、视频和文本可以快速了解世界并执行复杂的操作。与此同时，人工智能更加了解我们，个性化体验也大大增强。

Android阵营在AI的落地上已经逐渐超越苹果。这背后，骁龙8至尊版旗舰移动平台以及基于其的高通AI软件技术和开发生态系统无疑是关键的底层支撑。

正如高通总裁兼首席执行官克里斯蒂亚诺·安蒙所说，高通正在改变和转型。今天的高通是一家面向AI时代的互联网公司。 AI正在给当今移动计算领域带来颠覆性变革，高通成为加速端侧AI落地的核心推动者。

▲高通总裁兼首席执行官克里斯蒂亚诺·阿蒙

1、混合AI已成为行业发展方向，高通在设备端AI领域处于领先地位。

人工智能给行业带来机遇的同时，也带来了巨大的挑战。许多新需求、新特征不断涌现。如何把握它们？如何结合自身技术优势和业务特点快速跟进并实现落地，是对芯片厂商的考验。

高通能够快速抓住新AI时代的技术趋势并取得领先地位，与其在AI领域的深入思考和前瞻布局密不可分。

时至今日，从各大终端厂商的最终产品和AI应用形态来看，端云融合已经成为业界公认的智能终端产品生成式AI实现的主流模式。

随着设备上的大规模模型规模和效率不断增长，我们已经可以在设备上享受大部分AI服务。这些设备端体验可以更好地保证数据隐私和安全。另一方面，云端充足的计算能力可以支持大型模型，提供更复杂、更高质量的内容输出。

只有端与云的结合才能实现最佳的AI体验。

事实上，高通早在去年就已经提出了混合AI愿景，发布了《混合AI是AI的未来》技术白皮书，并提出了“混合AI架构”。

混合AI实际上是对端云结合模式的肯定和进一步深入的拆解。在高通看来，AI处理必须分布在云端和终端，才能实现AI的大规模扩展，发挥其最大潜力，从而实现成本、能耗、性能、隐私、安全和个性化等诸多优势。

可以说，高通早已明确了行业未来的发展方向及其在其中的关键作用——设备端AI将是高通的核心布局领域。

在设备端，生成式AI应用日益多样化和复杂，垂直领域的计算需求不断增长。这就需要专门为AI设计的计算架构：专为生成式AI设计的神经网络处理器——NPU。

早在去年3月，高通就发布了中文版技术白皮书《通过NPU和异构计算实现终端侧生成式AI》。只有采用CPU、GPU、NPU异构处理器的组合，才能实现更好的设备端AI体验，保证更好的性能、能效、续航。

生成式AI的变革已经到来，高通所押注的混合式AI已成为AI行业后续发展的重要趋势之一。

2、从手机、PC到汽车，从芯片到AI软件栈，高通AI家族布局正在展开

基于自身的混合AI架构和愿景，面对未来更多生成式AI应用和功能的爆发，高通已经在AI相关的硬件、软件、生态等方面储备了众多产品和技术，成为智能时代不可或缺的产品和技术。终端来实现人工智能。关键技术基础。

首先，在硬件层面，高通的多款旗舰移动芯片在手机、PC、汽车、XR等赛道中大放异彩。

近期发布的骁龙8至尊版首次将自研的Oryon CPU集成到高通AI引擎中。 Oryon CPU支持更高的浮点和整数计算性能，可以执行更复杂的多任务处理，并同时运行多个任务。应用程序还可以负责启动所有 AI 工作负载，从而释放 AI 引擎的其他组件来专注于特定的 AI 任务。

从视觉上看，Oryon CPU就像交响乐团中的指挥，高效准确地指挥每一位音乐家创作出完美的AI交响乐。

当然，一支优秀的乐团离不开优秀的音乐家。高通AI引擎中的Hexagon NPU此次也进行了大幅升级。其性能提升了45%，能效提升了45%，还提高了加速器的核心吞吐量。 AI推理性能更强。

具体来说，Hexagon NPU 中的标量和矢量加速器都增加了内核，以满足对生成式 AI 操作快速增长的需求，并支持大型模型处理中的更长上下文。

在这些重大AI引擎升级的支持下，手机智能助手可以支持更强大、更丰富的AI多模态和AI代理功能。我们看到人工智能开始认识和理解世界，并且变得更加知识渊博。您，您的个性化体验进一步增强。

比如，AI可以帮助你随时随地“拍照识别物体”。人工智能可以结合手机的上下文数据、位置、偏好和个人习惯，创建个性化的神经网络，根据我们的需求生成个性化的响应。

除了智能手机之外，在AI PC领域，骁龙X Elite平台也成为AI PC落地的引领者。

在PC领域，高通与微软携手打造全栈AI优化，从操作系统和系统集成的AI用户体验到直接接入Snapdragon平台的硬件加速。简单来说，在AI PC上，高通希望用户获得兼具出色能效和性能的AI体验。

微软的Copilot+ PC最初是在Snapdragon平台上编译和测试的。目前，超过40个客户端AI模型正在Snapdragon平台的AI引擎上运行。这些模型由Qualcomm AI Engine中的NPU加速，可以更好地平衡性能和电池寿命。

在汽车平台领域，高通刚刚发布了Snapdragon Cockpit Extreme Edition和Snapdragon Ride Extreme Edition，成为汽车市场的王者。这也是高通首次在发布手机全新处理器架构的同时推出车载智能计算解决方案。计划，可见高通的高度重视。

这两款车规级产品直接采用了高通自主研发的Oryon CPU以及其他最新的自研技术模块。用于多模态AI设计的NPU性能较上一代提升12倍。

除了硬件之外，高通在AI软件工具和开发生态方面也做出了诸多布局。

用高通的话说，仅靠硬件无法创造出强大的人工智能。就像一辆顶级赛车，需要优秀的车手来驾驭。只有这样，整个赛车才有灵魂，才能真正创造出好的成绩。

因此，在这一代骁龙8至尊版产品中，高通重点改进了AI软件栈相关技术。开发人员有史以来第一次可以使用 Snapdragon 8 Extreme Edition 上的 Qualcomm AI Hub 运行和测试模型。

在手机上市前几个月，开发者就可以通过高通设备云开发基于骁龙8至尊版的AI应用服务，持续优化AI体验。

这些AI应用服务可以快速高效地利用Snapdragon平台的端侧AI处理能力，并通过ONNX和DirectML等框架以及高通AI软件堆栈享受NPU的直接加速。

▲高通AI软件栈

可以说，从芯片、AI软件工具到开发生态，从手机、PC到汽车，高通的AI全家桶正在成为设备端AI落地的关键加速器。

3、联合产业打通AI落地全链条，开发者新利好消息传来

光练好内功是不够的。如上所述，端侧AI的发展不是一场孤军奋战，需要行业的共同努力。在推动AI生态系统的建设和完善方面，高通也在开展广泛的产业合作，赋能产业链各个环节。

比如在与大模型厂商的合作方面，高通与国内智普合作，针对骁龙8至尊版对GLM-4V端侧视觉大模型的推理进行深度适配和优化，使其能够支持更多在手机上。丰富的AI多模态交互。

这背后，骁龙8至尊版提供端侧AI性能支持，高通AI软件堆栈优化模型性能。据称，GLM-4V端侧视觉大模型在手机端可以以70代币/秒的速度运行。

智浦还在GLM4v-mini上打造了基于多模态大模型的AI助手，可以看到用户周围的世界并提供实时信息。

我们可以通过手机摄像头直接获取穿搭建议，利用视觉信息实现智能导航，通过车载摄像头识别剩余物品。

▲通过手机摄像头获取AI助手的穿搭建议

与腾讯混元合作，高通基于硬件的INT4量化技术可以提高大型模型的端侧运算效率。目前，腾讯混元大机型7B、3B版本基于骁龙8至尊版可实现端侧部署。

据称，目前腾讯混元大模型在客户端推理方面可以将首次代币生成延迟缩短至150ms。

除了腾讯混元、智普之外，高通还与AWS、Dataloop.AI等AI服务集成商，以及微软ONNX、谷歌TensorFlow Lite等运行时厂商合作，进一步推动大模型生态层面的建设。

在终端厂商领域，骁龙8至尊版活跃在各大手机厂商的发布会上。各类AI手机的功能升级几乎都离不开底层芯片提供的关键支持。

在近期各大手机厂商的发布会上，我们都可以看到基于骁龙8至尊版的各种优秀的端侧AI体验：AI识屏、AI一句话搞定各种事情、AI变得超级懂你、AI个性化体验开始生效。

▲搭载骁龙8至尊版的荣耀旗舰手机，其YOYO助手可以一句话设置手机的复杂功能

在PC领域，高通与微软联合打造的Windows 11 AI+ PC成为AI PC领域公认的“新能效王”，甚至比苹果同期的M系列芯片更有优势。

此外，高通与Meta的合作进一步推动了大模型在XR等智能可穿戴设备中的落地。

在高通目前积极拓展的汽车领域，他们正与谷歌合作，利用骁龙数字底盘和谷歌汽车技术，打造生成式AI增强数字座舱以及软件定义汽车（SDV）开发的标准化参考框架。

可以说，在手机、PC、XR、汽车等各个领域，高通正凭借自身软硬件的技术优势与厂商合作，加速各终端AI体验的升级，加速AI的普惠化。人工智能。

结论：瞄准混合AI未来，高通加速AI生态发展

从最早提出混合AI愿景，到不断加大端侧AI的部署，如今的高通已经走到了智能终端行业全面AI浪潮的最前沿。骁龙8至尊版出色的AI性能、对众多AI新特性的支持以及对各类大型机型的针对性优化，都让用户的端侧AI体验实现了跨越式升级。

展望未来，AI与智能终端产品的融合将更加深入。比如AI手机已经进入AI OS时代，AI代理越来越强大，AI多模态交互越来越成熟。

在这样的趋势下，AI对算力、能源效率、生态协作的要求必然会越来越高。从芯片、系统到终端，整个产业链也将面临诸多挑战。聚焦AI体验，端侧AI未来还有很长的路要走。