分享好友 最新资讯首页 最新资讯分类 切换频道
高通最新AI白皮书:AI变革正在推动终端侧推理创新
2025-02-27 13:50

DeepSeekR1的推出标志着AI行业的一次重大变革。以DeepSeekR1蒸馏模型为代表的新一代终端侧推理模型性能获得了极大的提升,如今,我们已经可以在终端侧看到过去只能在云端实现的AI性能,这将开启安全、可靠的终端侧AI处理未来。

高通技术公司发布最新白皮书《AI变革正在推动终端侧推理创新》,深入阐述DeepSeekR1推出这一关键时刻背后所代表的更广泛的AI行业大潮。在训练成本下降、快速推理部署和针对边缘环境的创新推动下,AI正在经历重要变革。科技行业不再仅仅聚焦于竞相构建更大的模型,而是转向如何在边缘侧实际应用中高效地部署模型。对大型基础模型的蒸馏已催生大量更智能、更小型、更高效的模型,使各行业能够更快地规模化集成AI,特别是在终端侧加速集成。

以下为《AI变革正在推动终端侧推理创新》白皮书的内容摘要。

尖端AI推理模型DeepSeekR1一经问世,便在整个科技行业引起波澜。因其性能能够媲美甚至超越先进的同类模型,颠覆了关于AI发展的传统认知。

这一关键时刻是更广泛趋势的一部分,凸显了行业在打造高质量小语言模型和多模态推理模型方面的创新,以及这些创新正在为AI的商用应用和终端侧推理落地做好准备。这些新模型能够在终端侧运行,将加速强大边缘侧芯片的规模化扩展,并创造对此类芯片的需求。

四大趋势正在显著提高目前可在终端侧运行的AI模型的质量、性能和效率,从而推动上述变革:

当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技术能够在不影响质量的情况下简化开发流程,让新模型的表现超越一年前推出的仅能在云端运行的更大模型。

模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准确性产生实质影响的情况下,缩小模型参数规模。

开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增,意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及,让AI能够支持跨边缘侧规模化部署的商用应用。

AI正在成为新的UI。个性化多模态AI智能体将简化交互,高效地跨越各种应用完成任务。

高通技术公司在引领并利用从AI训练向大规模推理转型,以及AI计算处理从云端向边缘侧扩展方面具有战略优势。公司在开发定制CPU、NPU、GPU和低功耗子系统领域取得了广泛的成就。通过与模型厂商展开合作,以及面向跨不同边缘终端领域的模型部署提供工具、框架和SDK,高通技术公司赋能开发者在边缘侧加速采用AI智能体和应用。

近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的趋势,这将形成全新边缘侧推理计算的创新和升级周期。尽管模型训练仍将在云端进行,但推理将受益于采用高通®技术的广泛终端规模,并催生更多边缘侧AI赋能处理器的需求。

高通公司总裁兼CEO安蒙(CristianoAmon)也在高通公司2025财年第一季度的财报电话会议中分享了他对当前AI行业发展趋势的看法。

最新文章
NBA交易市场热闹:湖人关注内线,勇士观望,巴特勒交易进展nba手机搜狐「NBA交易市场热闹:湖人关注内线,勇士观望,巴特勒交易进展」
与湖人的积极行动形成鲜明对比,勇士选择保持观望,在急需调整阵容的情况下仍然没有采取行动。虽然之前他们通过交易得到了施罗德
手机经典广告词大全手机广告语「手机经典广告词大全」
手机经典广告词大全  手机的广告越来越多,在很多地方都可以见到,说明手机品牌非常注重相关的宣传,但是其产品的经典广告词你
Redmi12怎么关闭开发者模式红米手机开发者选项在哪里「Redmi12怎么关闭开发者模式」
开发者模式是Android系统中的一个高级功能,它允许用户进行更深入的系统调试和开发操作。然而,对于普通用户来说,开启开发者模
抗战史上的今天:4月5日
岁月无声,历史有痕。八十载光阴流转,抗战的烽火岁月依然铭刻在中华民族的记忆深处。为纪念中国人民抗日战争暨世界反法西斯战争
5248买的苹果13 256g是真的香!酷派5855手机「5248买的苹果13 256g是真的香!」
这手机买了有一个多月了,当时站内活动价格256的到手是5248,价格十分诱人,找了成都的朋友给买的,我觉得是超值入手了!!✅外
异能都市星际争霸手机版下载「异能都市」
《异能都市》是海南智虎网络推出的一款未来都市为背景的3D东方都市科技修真手游,游戏以赛博朋克风为基础构建出一个汇集“机甲、
十七年磨一剑的传统肉鸽,如何提供科幻大作的体验
这款总被拿来和《矮人要塞》相比较的科幻肉鸽,可以说是一部分人心目中当之无愧的十年度最佳游戏(Game of the Decade)。那么,
经纪人:塔雷米还没发挥出全部实力,他已经摆脱伤病困扰
北京时间4月19日,意大利的知名经纪人帕斯托雷洛在接受采访时谈到了自己的两位客户以及在国际米兰的情况。在接受Radio Sportiva
条件不符别演“心机小娘”,《雁回时》中的王艳,让人梦回晴格格
古偶宅斗剧《雁回时》已经结束,这部由陈都灵、辛云来、何泓姗、喻恩泰、温峥嵘、王艳、刘旭威主演的复仇爽剧成为了2025年腾讯首
经典的二战空战游戏大全 二战背景的空战游戏盘点2023二战游戏手机游戏「经典的二战空战游戏大全 二战背景的空战游戏盘点2023」
二战不只是一场战争的代表,也是一个时期的代表,在二战过程中海战陆战空战都有着极高的频率,空战是直接对人们造成伤害最大的一