高通万卫星:全方位技术储备推进智能体AI端侧部署
创始人
2025-07-09 10:42:11
0

高通公司AI产品技术中国区负责人万卫星

6月19日,在GSMA 2025 MWC上海期间举办的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就智能体AI发展趋势发表了看法,并就高通在推动智能体AI在终端部署方面的情况进行了分享。

当前,AI发展正在进入全新阶段,AI发展重心正在向边缘终端转移,向智能体AI领域转型。

智能体AI带来的重要改变在于重塑终端消费者的交互界面,成为一种新的交互方式。正因如此,高通提出“AI is the new UI”。

“用户可以通过非常简单的自然语言来驱动智能设备,完成一系列复杂的操作。同时,智能体AI本身还能够预测用户的想法,预判用户接下来可能要做的事情,并协助用户进行规划和执行。随着端侧能力的提升和端侧模型的加强,用户对于隐私、安全和个性化服务的需求日益增长。高通认为,未来的AI智能体必定是一个能够感知环境、专属个性化且安全可靠的智能体。”万卫星表示。

对于智能体AI在终端侧部署面临的机遇和挑战,万卫星指出,首先,实现智能体AI的整体端侧部署,需要更强大的模型。当前的趋势表明,端侧模型正在迅速迭代,且端侧小模型的能力也在不断增强。目前已经看到了端侧多模态模型的发展。在去年的骁龙峰会上,高通也展示了这种多模态能力,包括一些小模型的能力。未来,小模型将支持更长的上下文,这对于在端侧运行至关重要,并且是非常关键的技术之一。

其次,需要提供更好、更高效、更智能化的用户体验。这要求在技术上提供更充沛的算力、更高的性能和能效。这不仅针对单一的IP,而是整个系统性的AI能力,包括AI本身的能力和数据传输带宽。高通通过先进的异构计算架构,使得AI的各个模块可以根据不同需求在不同的核心组件上运行,并通过这些IP核心组件的协同工作,完成AI的整体部署在端侧的运行。

第三,需要一个更加高效的端到端框架、解决方案,以及更高效的软件工具链和更强大的生态系统。高通推出名为“规划器”的端到端解决方案。该解决方案可以完全在端侧运行,其不同的核心组件也可以方便地供给客户和开发者单独调用,包括个人知识图谱和各种知识向量库等。

万卫星介绍,作为一家致力于基础技术创新的公司,高通为AI的到来进行了全方位的技术储备。

首先,在硬件层面,高通将整个AI的需求贯穿于芯片设计的全过程,为AI的加速提供了多种IP组件。由于AI的应用场景非常多样,即使在智能体AI中,其众多模块对硬件的需求也各不相同。高通的加速处理器包括高算力、低功耗的NPU、通用的CPU、GPU,以及适用于超低功耗场景的传感器中枢,特别是Always-On的功能。这些IP组件既可独立工作,也可协同合作,以实现AI功能模块的各项需求。

其次,除了硬件层面的工作外,高通在软件层面也取得了显著进展。一是当开发出新的模型时,首要任务是将该模型部署到设备上,确保设备能够运行,并且在端侧高效执行。这要求提供高效的转换工具和工具链。二是高通公司产品线丰富多样——包括手机、汽车和PC等——除了高效的工具链外,还需要提供一个灵活的解决方案,以便帮助客户轻松地将模型移植到其他产品上。这意味着需要构建一个统一的AI服务平台。

第三,高通还提供了端到端的解决方案,专门针对智能体AI,即上文提及的规划器(Orchestrator)。

该规划器能够便捷地通过自然语言帮助用户完成任务,支持使用自然语言来驱动和执行较为复杂的任务。它具备意图理解能力,能够协助进行任务编排,并且可以利用用户手机中的本地个人知识图谱和各类向量库,从而提供更为智能和个性化的服务。这些先进技术使高通能够与合作伙伴、客户乃至整个生态系统共同推进Agentic AI在端侧的部署。

“目前,端侧部署Agentic AI虽然存在挑战,但同时也带来了更多机遇。因此,高通公司已经做了丰富的技术储备,并且我们还与行业内合作伙伴紧密合作,以抓住这些机遇。”万卫星说。

相关内容

热门资讯

兰博基尼门怎么开 兰博基尼门怎... 要打开兰博基尼的车门,您需要先找到车门上的长条按键。当您轻轻按住这个按键时,车门会开始向上方斜向提起...
科目二扣分明细 科目二扣分明细... 以下是科目二考试扣分点的详细介绍:1、倒车入库。如果未按照规定路线行驶,将扣100分。在倒车过程中,...
中石化的油和小加油站的区别 中... 中石化的油和小加油站的区别: 1. 质量不同:作为国营大加油站,中石油的油品质量绝对让人放心。由于使...
宝马音响用的什么品牌的 宝马音... 宝马车音响的品牌有:美国Bose、哈曼卡顿、丹麦BO音响。汽车音响是为减轻驾驶员和乘员旅行中的枯燥感...
教练证需要几年驾龄 教练证需要... 学车教练证在2015年已经取消,现在需要考的是等级资格证。报考的基础条件是五年的驾龄并且三年无重大事...
h2s可以拆吗 h2s可以拆吗... h2s可以拆吗?h2s不可以拆,因为氢硫酸属于弱酸,不能拆。h2s是一种无机化合物,化学式为h2s,...
曲轴后油封在哪个位置 曲轴后油... 曲轴后油封的位置是在与变速箱连接处。曲轴油封损坏,会导致渗油,严重时导致发动机渗油,造成发动机运转不...
拖车需要注意什么 拖车需要注意... 拖车需要注意哪些方面?拖车需要注意以下几个方面: 拖车杆的选择:拖车行驶分为软拖和硬拖。软拖是在被...
预约科目二显示未参加培训 预约... 当您尝试预约机动车驾驶证科目二考试时,系统提示“未参加培训”,这可能是由多种因素造成的:首先,可能是...
临牌怎么申请流程 临牌怎么申请... 申请临时牌照的流程如下: 1. 首先,需要填写一份临时车牌申请表,表格中填写车辆的相关信息和车主的个...