高通徐晧谈混合AI优势:加速AI普及到每个人,5G是桥梁

娱乐8个月前发布 ooozhi
19 0 0

在2023年中国国际服务贸易交易会成果发布会中,高通公司发布了白皮书——《混合AI是AI的未来》,系统性地梳理了AI发展和应用趋势。高通公司中国区研发负责人徐晧博士在发布会发表演讲,详细地解读混合AI的领先优势,还指出5G在混合AI中的连接作用。

徐晧博士介绍了混合AI的概念,是一个包括云端、边缘云和终端的统一架构。需要巨大算力海量数据资源的大规模AI模型训练,仍留在云端进行。推理计算可以部分转移到终端侧,如果终端侧算力无法完成,则通过5G等网络,推到云端,运算后再推回终端。混合AI架构可以很好地协调终端和云端的资源分配,把AI能力发挥到极致。

他引用计算机的发展历史,预测AI也会有这样的趋势。计算机从最早是专用的大型设备,随后发展到个人使用的PC,再到可以携带的笔记本,最后发展成随身的智能手机。这个过程是把以前大型计算机能做的事,慢慢演化贴近每个人的身边。同样的,终端侧的AI算力会越来越强,功能会越来越多,各种AI功能也将逐渐由云端转移到个人身边。他在演讲中展示了高通的一个案例,在今年初,高通实现首个在Android手机上运行Stable Diffusion。这是一个10亿参数规模的生成式AI模型,以前只能在PC设备上运行,这次高通的运行设备是一台不联网的高通骁龙8Gen2 5G手机,能在15秒内完成20步推理,根据用户的自然语言输入生成图片。徐晧还解释了终端侧AI取代云端推理其中一个深层原因,生成式AI每一次对话的成本是之前搜索引擎的10倍,当成千上万的用户使用时,就会产生巨大的算力成本。这时候终端侧AI就可以节约大量的计算成本,进而加速AI普及速度。

徐晧罗列了一组数据,介绍了高通在普及终端侧AI的优势。高通从2007年开始投入AI研发,不断的将最新的AI算法和能力加入高通AI引擎,现在已经发展到第八代高通AI引擎。全球范围内有数十亿台高通骁龙设备,并且继续以每年数亿台的速度增长。高通还提供能简化AI在终端侧运行的软件和算法的综合平台。海量的硬件数量,优秀的软件生态,将会让AI普及到更多人。 高通徐晧谈混合AI优势:加速AI普及到每个人,5G是桥梁

© 版权声明

相关文章