高通万卫星:全方位技术储备推进智能体AI端侧部署
创始人
2025-07-09 13:00:38

高通公司AI产品技术中国区负责人万卫星

6月19日,在GSMA 2025 MWC上海期间举办的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就智能体AI发展趋势发表了看法,并就高通在推动智能体AI在终端部署方面的情况进行了分享。

当前,AI发展正在进入全新阶段,AI发展重心正在向边缘终端转移,向智能体AI领域转型。

智能体AI带来的重要改变在于重塑终端消费者的交互界面,成为一种新的交互方式。正因如此,高通提出“AI is the new UI”。

“用户可以通过非常简单的自然语言来驱动智能设备,完成一系列复杂的操作。同时,智能体AI本身还能够预测用户的想法,预判用户接下来可能要做的事情,并协助用户进行规划和执行。随着端侧能力的提升和端侧模型的加强,用户对于隐私、安全和个性化服务的需求日益增长。高通认为,未来的AI智能体必定是一个能够感知环境、专属个性化且安全可靠的智能体。”万卫星表示。

对于智能体AI在终端侧部署面临的机遇和挑战,万卫星指出,首先,实现智能体AI的整体端侧部署,需要更强大的模型。当前的趋势表明,端侧模型正在迅速迭代,且端侧小模型的能力也在不断增强。目前已经看到了端侧多模态模型的发展。在去年的骁龙峰会上,高通也展示了这种多模态能力,包括一些小模型的能力。未来,小模型将支持更长的上下文,这对于在端侧运行至关重要,并且是非常关键的技术之一。

其次,需要提供更好、更高效、更智能化的用户体验。这要求在技术上提供更充沛的算力、更高的性能和能效。这不仅针对单一的IP,而是整个系统性的AI能力,包括AI本身的能力和数据传输带宽。高通通过先进的异构计算架构,使得AI的各个模块可以根据不同需求在不同的核心组件上运行,并通过这些IP核心组件的协同工作,完成AI的整体部署在端侧的运行。

第三,需要一个更加高效的端到端框架、解决方案,以及更高效的软件工具链和更强大的生态系统。高通推出名为“规划器”的端到端解决方案。该解决方案可以完全在端侧运行,其不同的核心组件也可以方便地供给客户和开发者单独调用,包括个人知识图谱和各种知识向量库等。

万卫星介绍,作为一家致力于基础技术创新的公司,高通为AI的到来进行了全方位的技术储备。

首先,在硬件层面,高通将整个AI的需求贯穿于芯片设计的全过程,为AI的加速提供了多种IP组件。由于AI的应用场景非常多样,即使在智能体AI中,其众多模块对硬件的需求也各不相同。高通的加速处理器包括高算力、低功耗的NPU、通用的CPU、GPU,以及适用于超低功耗场景的传感器中枢,特别是Always-On的功能。这些IP组件既可独立工作,也可协同合作,以实现AI功能模块的各项需求。

其次,除了硬件层面的工作外,高通在软件层面也取得了显著进展。一是当开发出新的模型时,首要任务是将该模型部署到设备上,确保设备能够运行,并且在端侧高效执行。这要求提供高效的转换工具和工具链。二是高通公司产品线丰富多样——包括手机、汽车和PC等——除了高效的工具链外,还需要提供一个灵活的解决方案,以便帮助客户轻松地将模型移植到其他产品上。这意味着需要构建一个统一的AI服务平台。

第三,高通还提供了端到端的解决方案,专门针对智能体AI,即上文提及的规划器(Orchestrator)。

该规划器能够便捷地通过自然语言帮助用户完成任务,支持使用自然语言来驱动和执行较为复杂的任务。它具备意图理解能力,能够协助进行任务编排,并且可以利用用户手机中的本地个人知识图谱和各类向量库,从而提供更为智能和个性化的服务。这些先进技术使高通能够与合作伙伴、客户乃至整个生态系统共同推进Agentic AI在端侧的部署。

“目前,端侧部署Agentic AI虽然存在挑战,但同时也带来了更多机遇。因此,高通公司已经做了丰富的技术储备,并且我们还与行业内合作伙伴紧密合作,以抓住这些机遇。”万卫星说。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

第十二届知乎新知青年大会 见证... 本报讯 (记者梁傲男)5月16日,第十二届新知青年大会在北京798艺术区盛大启幕。大会包含2场主论坛...
传奇太阳能飞机坠海:翼展超波音... 1999 年 3 月,瑞士心理医生贝特朗·皮卡尔(Bertrand Piccard)与英国飞行员布莱...
市委常委,任大学党委书记!顶尖... ,容易找不到一读的文章,大家记得把一读EDU哦~ 01 顶尖科学家归国,加盟985! 据同济大学工程...
法国文化部长:今后不会资助“用... 新华社巴黎5月16日电(记者张百慧)法国文化部长卡特琳·佩加尔16日在第79届戛纳电影节期间表示,国...
维谛申请热管理系统中的多网关协... 国家知识产权局信息显示,维谛公司申请一项名为“热管理系统中的多网关协调”的专利,公开号CN12205...
以微观触达提升国际传播实效 微观触达,是国际传播中以真实个体为叙事起点,依托生活化场景、人格化主体与情感化表达,跨越文化壁垒,实...
人机协同破解老龄化难题,AI赋... 厦门:探索延长“健康寿命”新路径 近日,厦门市思明区数智运动促进健康中心在厦港街道党群服务中心正式揭...
AI微短剧会替代真人剧垄断市场... 原标题:AI赋能,微短剧更应向“心”生长(文化中国行·人文观察·文化强国建设系列调研①) 制作中...
中兴通讯申请数据传输方法专利,... 国家知识产权局信息显示,中兴通讯股份有限公司申请一项名为“数据传输方法、存储介质、电子装置及计算机程...
LLC磁集成变压器厂家梳理 适... 导语:在新能源光伏储能、工业控制等高增长领域,LLC磁集成变压器作为电源系统的核心部件,其性能直接影...