高通孟樸:5g加持下生成式ai飞速普及 计算需求增加 混合ai处理日趋重要-凯发官网首页
 
 
  »  凯发官网首页-凯发k8官网下载  »  资讯  »  正文

高通孟樸:5g加持下生成式ai飞速普及 计算需求增加 混合ai处理日趋重要-凯发官网首页

2023年5月24日     来源:至顶网         
关键字:  
       2023第七届世界智能大会世界智能科技创新合作峰会于5月19日在国家会展中心(天津)成功举办。峰会全方位研讨全球智能科技前沿议题,旨在进一步发挥世界智能大会集聚效应,推动全球智能科技创新发展,引领全球智能科技创新合作新趋势。高通公司中国区董事长孟樸受邀出席峰会并发表了题为《创新、合作以5g ai赋能千行百业高质量发展》的演讲,介绍了高通在5g与ai领域的创新与实践。
1
  图为高通公司中国区董事长孟樸在2023第七届世界智能大会世界智能科技创新合作峰会上发表主题演讲

  孟樸在演讲中指出,作为数字经济的关键技术,ai正在被越来越多地深入讨论,也正成为各行各业高质量发展的新引擎。他认为,5g与ai间的交互和融合是技术发展的大势所趋。在5g的加持下,随着生成式ai的飞速普及和计算需求的日益增长,混合处理的重要性空前凸显。与仅在云端进行处理不同,混合ai在云端和边缘终端之间分配并协同处理ai工作负载,这样才能实现ai的规模化扩展并使其发挥巨大的潜能。在人工智能领域,高通正与广泛的生态系统紧密协作,并将ai扩展到更广泛的领域,除了智能手机以外,高通的ai技术正支持汽车、智能家居和物联网领域的广泛终端设备。

  以下为孟樸演讲实录:

  尊敬的朱鹏市长、邬江兴院士以及各位嘉宾,大家上午好!非常荣幸今天能够来参加第七届世界智能大会暨世界智能科技创新合作峰会,并与大家分享高通公司在5g与ai领域的进一步创新,我也期待和大家有更多的交流机会。

  长期以来,让机器更加智能一直是人们的愿景。如今我们生活中几乎所有设备和物体,无论是智能手机、汽车、冰箱还是洗衣机,都越来越多地拥有更多类型的传感器、更强大的处理器和更快的连接,使其具有感知、推理和行动能力成为可能。

  但这仅仅是开始。近一段时间,基于大型语言模型的chatgpt引起广泛的关注,随着生成式ai带来空前的创新和发展,ai正在触及我们生活的各个角落,从智能手机、电视、视频游戏等娱乐体验,到通过视频会议、xr应用加强协作提升生产力,再扩展到自动驾驶汽车、智能工厂、智能医疗、智能检测等领域,其变革千行百业的趋势日益明显。

  作为数字经济的关键技术,ai正在被越来越多地深入讨论,也正成为各行各业高质量发展的新引擎。由ai驱动的智能个体化体验需求不断增长,我们的设备也正在产生越来越多的数据,5g将支持这些边缘侧产生情境丰富的数据,且近乎实时地分享给其他终端和云端,从而赋能全新的应用、服务、环境和体验。

  5g具有高速率、高可靠性和低时延的特点,而且可以实现海量的连接。而ai正是基于5g的这些特点,实现了突飞猛进的发展,并且迁移到终端,使自动驾驶、vr/xr眼镜、机器人等众多应用场景成为可能。

  作为影响到各行各业的基础技术,5g和ai之间的交互和融合是技术发展的大势所趋。5g和ai结合边缘云,将以颠覆性的方式推动企业的创新。在5g的加持下,随着生成式ai的飞速普及和计算需求的日益增长,混合处理的重要性空前凸显。与仅在云端进行处理不同,混合ai在云端和边缘终端之间分配并协同处理ai工作负载,这样才能实现ai的规模化扩展并使其发挥巨大的潜能。

  例如,混合ai架构可以根据模型和查询需要的复杂度等因素,选择不同的方式在云端和终端侧之间分配任务负载,也可以完全在终端侧进行;如果是更复杂的任务,模型则可以跨云端和终端进行运行。

  数据中心能耗巨大且昂贵。据测算,每个生成式ai网络搜索查询的成本比传统搜索高10倍。如果每天进行超过100亿次查询,每年的额外成本可能达到数十亿美元。而混合ai将在全球范围内提供成本、能源、性能、隐私、安全和个性化方面的优势。云端和智能手机、汽车、个人电脑和物联网终端等协同工作,能够实现更强大、更高效而且高度优化的ai。

  业内预测,到2025年,64%的数据将在传统的数据中心以外产生。边缘侧数据的增长,使本地数据处理和智能应用的需求随之增长。ai处理能力扩展到边缘侧,情境丰富的数据在边缘侧产生,智能网联边缘应运而生。这将显著推动更加丰富的ai应用规模化部署,并整体提高云端智能。

  随着诸多行业的数字化转型,运行在智能网联边缘的智能终端受到高度关注,需求也有很大提升。如今这些设备不仅需要出色的连接和互操作性,以及强大的边缘计算和ai特性,同时还要兼顾安全和隐私保护,以支持各个行业的诸多应用,包括打造更安全的社区及做出更好的业务决策等。

  终端侧ai是实现混合式ai架构、扩展生成式ai至全球更广范围的关键。相比在云端运行ai,终端侧ai在隐私、可靠、低延时、高效及个性化方面均有诸多的优势。伴随着移动终端成为人们生活中的必备品,终端侧ai的优势将更加明显。

  以终端侧ai为中心的混合ai架构中,端侧设备作为锚点,可以运行数十亿参数的模型,而更复杂的模型将根据需要在用户无缝感知的情况下,使用云端计算。终端侧ai能够提升安全性、保护隐私,敏感数据可保存在终端,无需发送至云端,这对大规模共享环境至关重要。随着终端侧ai处理能力的提高,可以进一步减少云端负载,助力更高效地利用有限的网络资源和带宽。

  可以预见,随着生成式ai的不断进步,其应用场景也变得越来越广阔。通过生成式ai,智能手机可以成为真正的数字助手,让用户可以通过更加自然地交互得到答案;电脑用户可以用它来读写电子邮件,自动起草文件和演示文稿;在车辆中,对话式的车内助手可以提供附近充电桩的位置建议、也可以在回家路上订购晚餐。

  不难发现,在这一过程中,终端侧ai扮演着至关重要的角色。根据有关机构的预测,到2025年,在智能手机、pc/平板电脑、扩展现实(xr)、汽车和物联网等细分领域的ai应用率,将从2018年的不到10%,增加到100%。在这一趋势的推动下,终端侧ai将成为许多关键平台的标准特性,这将为中国乃至全球的ai生态系统的进一步发展带来机遇。

  为了把握更多创新机遇,在万物互联时代取得成功,高通公司专注于高性能硬件/软件和优化的神经网络设计,让高效节能的ai无处不在。

  如何在低功耗环境下让ai更高效地运行,这是高通ai研发最关注的领域。我们致力于通过提供高效的硬件、算法和软件工具,持续推动性能功耗比提升。除此之外,高通公司发布了统一的高通ai软件栈(qualcomm ai stack),以单一软件组合实现跨多品类终端的运行,赋能生态系统。凭借创新凯发k8官网下载的解决方案和广泛生态合作,高通公司正持续推动终端侧ai的普及。

  过去十多年,高通公司一直致力于ai领域各个方面的研究,并取得众多里程碑式的进展,推出多代ai引擎,为智能手机、移动计算、xr、汽车、物联网等终端带来卓越的边缘侧ai性能。我们的基础研究和所交付的产品,让ai可以应用于众多行业。早在2007年,我们就启动了首个ai研究项目;2018年,高通成立了人工智能研究院(qualcomm ai research),将公司范围内开展的全部前沿人工智能研究,进行跨各职能部门的协作式强化整合,以加速ai创新。我们也十分关注整个行业的创新趋势和生态,并通过风险投资的方式积极支持ai领域的初创企业。2018年,高通公司设立了1亿美元的ai风险投资基金。目前,由高通ai技术赋能的终端数量已经超过20亿。

  在人工智能领域,高通正与广泛的生态系统紧密协作。我们支持当前所有的主流框架,例如tensorflow、caffe/caffe2等;我们也支持各种操作系统,包括android、windows和linux。高通公司积极与来自中国和全球的云凯发k8官网下载的合作伙伴进行合作,把更多的ai特性带给用户,比如图片处理、脸部检测、物体检测等。更重要的是,我们正将ai扩展到更广泛的领域,除了智能手机以外,我们的ai技术正支持汽车、智能家居和物联网领域的广泛终端设备。

  具有出色能效比、灵活可拓展的高通ai引擎和高通ai软件栈所提供的高效便捷的开发能力,以及众多的生态凯发k8官网下载的合作伙伴,让高通公司在终端侧ai应用领域走在了行业前列。在不久前举行的世界移动通信大会期间,高通公司首次展示了让stable diffusion在安卓智能手机上运行。stable diffusion是一个流行的基础生成式ai模型,能够基于文本输入来创作图像,以前只是限于在云端运行。利用高通ai软件栈执行全栈ai优化,我们最终使stable diffusion可以在智能手机上运行。stable diffusion的模型参数超过10亿,通过智能手机的演示,可以在15秒内执行20步推理,生成一张512x512像素的图像。这是目前在智能手机上最快的推理速度,能够媲美云端时延。生成式ai将驱动全新科技升级周期,为众多用户呈现可感知的ai特性,并且改变用户的使用体验。这些因素有可能为移动行业创造全新机遇。

  在汽车行业,生成式ai也正在为汽车驾乘提供高度个性化的体验。以智能座舱的数字助手为例,将实现更为自然的交互,并通过访问用户个人数据,提供更具个性化的服务和体验,包括:导航体验将大大改善,将具有前瞻性的协助性能;随着车内ar的普及,数字助手可以根据驾驶员或乘客的喜好定制显示。此外,车辆维护和维修也将变得更加主动和无缝:通过分析传感器、维修历史和驾驶行为等数据,数字助手可以更精确地预测维护时间,以提高车辆的可靠性,同时减少维修时间和费用。此外,随着高级驾驶辅助系统(adas)凯发k8官网下载的解决方案的采用,车辆中需要大量具有高能效比的ai算力。

  高通正在将多年来在ai领域的技术积累提供给汽车厂商等生态凯发k8官网下载的合作伙伴,以共同打造智能化的汽车用户体验。目前为止,骁龙座舱平台已经支持中国汽车品牌推出了超过80款车型,国内的头部车企均与高通公司在数字座舱领域展开了深度合作。除此之外,高通公司也在高级驾驶辅助系统(adas)领域与国内车企进行合作,合作范围涵盖l1到l4级系统。除了在终端侧,高通也在利用其无线通信凯发k8官网下载的解决方案及相关优势,来打造“聪明的车”,使其与智慧城市相连,甚至与家庭、手机进行无缝连接。高通公司与国内许多车企,包括比亚迪、蔚来、长城、理想、吉利、红旗等都已经达成了一系列合作。

  ai已经广泛应用于物联网的各个垂直领域,包括零售、安全、能源和公共事业、供应链和资产管理等。ai能够基于实时收集和分析的数据,改善决策制定、优化运营效率,促进创新,创造竞争差异化。

  通过生成式ai,物联网领域将进一步受益。例如,生成式ai不仅可以改善零售业的客户和员工体验,能源和公共事业部门也将受益于此。电力部门可以创建特殊情况负载场景,并预测在异常情况下的用电需求和潜在的电网故障,以更好地管理资源并避免停电。

  为持续扩展ai赋能各行各业的高质量发展,高通公司在今年4月宣布推出全新物联网凯发k8官网下载的解决方案,汇集业界领先的技术,包括边缘ai处理、创新能效、超清晰视频和5g连接等,驱动下一代具有韧性的高性能物联网生态系统和用例。这些产品采用了高通优化的ai架构,为丰富的商业模式和用例提供强大的处理能力。在中国,我们也积极与我们的凯发k8官网下载的合作伙伴携手推动这些产品及应用落地。

  智相联,万物生。

  未来,高通公司将秉承“植根中国,分享智慧,成就创新”的理念,通过“发明-分享-协作”的商业模式,继续携手生态伙伴,以先进的连接、计算和ai等关键技术,助力智能网联终端的扩展和普及,加速移动生态系统创新,推动更多应用场景的落地。让我们一起努力,释放科技的力量,加速迈向人与万物智能互联的美好未来。

  谢谢大家!
责任编辑:
e-works
官方微信
掌上
信息化
排行榜
编辑推荐
文章推荐
博客推荐
视频推荐
2023/5/18
2023/5/18
2023/5/18
网站地图