2023年,整个科技界最令人兴奋的莫过于chatgpt引发的生成式ai风潮以及nvidia市值破万亿美元,前者打开了人们对未来的想象,而后者成为第一个破万亿美元的芯片公司。二者几乎同时双双登上人类科技发展的浪潮之巅绝非偶然。从某种程度上,nvidia创始人黄仁勋所言“ai的iphone时刻”,正是gpu和生成式ai相遇的十字路口,这个路口人们能看到什么,取决于这些技术从哪些角度切入,如何重新定义未来。
而最近,nvidia与软银公司的一项合作,或是揭开了ai驱动无线通信时代的序幕。这一合作的要义是,双方正在打造一个基于nvidia gh200 grace hopper™超级芯片、面向生成式ai和5g/6g应用的开创性平台。软银计划在日本各地的全新分布式ai数据中心采用该平台。
ai赋能数据中心
在ai时代,算力相当于发动机,其越强劲,所能吞吐的“燃料”(即数据)也就越多,而算法就相当于发动机和变速箱的匹配,越精密协调,发动机的热效率(即输出的ai能力)就越高。nvidia与软银的合作,为全球范围内快速部署生成式ai应用和服务铺平了道路,软银将打造能够在多租户通用服务器平台上托管生成式ai和无线应用的数据中心,以降低成本和更节能,相当于软银的ai数据中心得到了ai的加持,其对外输出算力也就会更智能,更有保障。
据了解,该平台将使用全新nvidia mgx™参考架构和基于arm neoverse的gh200超级芯片,有望提高应用程序工作负载的性能、可扩展性和资源利用率。相比以往的数据中心,这些新数据中心的分布将更加均衡,并能够同时处理ai和5g工作负载。这将让它们更好地保持峰值运行,同时保持低时延并大幅降低总体能源成本。软银正在为自动驾驶、ai工厂、增强现实和虚拟现实、计算机视觉和数字孪生开发5g应用。
一言以蔽之,软银瞄准了一系列能够重塑和定义未来的新技术,而这些需要有超强算力的nvidia芯片的加持才能发生“化学反应”,而软银公司总裁兼首席执行官junichi miyakawa的表态也呼应了这一点。他表示:“随着我们进入一个社会与ai共存的时代,对数据处理和电力的需求将不断增长。软银将提供下一代社会基础设施,以支持日本的超级数字化社会。与nvidia的合作将帮助我们的基础设施利用ai实现更高的性能,包括对ran的优化。我们期待这也可以帮助我们降低能耗,创建一个互连的数据中心网络,用于共享资源并托管一系列生成式ai应用。”
对生成式ai的需求正在推动数据中心架构发生变革
一直以来,降低数据中心的能耗是科技界和产业界的共同诉求。以中国为例,数据显示,预计到2025年,数据中心用电量将占全社会用电量4.1%,是十足的用电大户。而ai、5g等新兴技术的爆发式应用,在获得更高性能和更丰富体验的同时,也将为数据中心的能耗带来巨大挑战,nvidia和软银的合作,也是对这一挑战的未雨绸缪。
nvidia从早期一家图形处理芯片公司一跃成为ai行业“一哥”,与其精准把握时代的需求息息相关。显然,这一次nvidia判断,世界的电信网络需要承载生成式ai服务,通过nvidia grace hopper这一革命性的计算平台,软银将在全球电信行业竖起一面旗帜。
nvidia创始人兼首席执行官黄仁勋表示:“对加速计算和生成式ai的需求正在推动数据中心架构的根本性变革。nvidia grace hopper是一个革命性的计算平台,专为处理和扩展生成式ai服务而设计。与以往富有远见的其它举措一样,软银正在引领世界创建一个电信网络来承载生成式ai服务。”
今年3月,nvidia在一项针对全球400多名电信行业专业人士的“电信行业ai现状”调研中发现,73%的电信人认为ai是能够帮助增加收入、改善运营和可持续性或提高客户维系率的工具。同时,电信公司将ai带来的效率提升视为获得投资回报的有效途径。很明显,以5g为代表的网络连接,从网络调用到网络维护,人力面对越来越多、越来越大的挑战,而ai将是网络性能最大化、网络运营成本最低化的“关键先生”。
虚拟ran的吞吐量破纪录,大幅提升5g基站能效
在和软银的合作中,nvidia提供的凯发k8官网下载的解决方案nvidia grace hopper和nvidia bluefield®-3 dpu将加速软件定义的5g vran以及生成式ai应用,而无需定制硬件加速器或专用5g cpu。此外,配备bluefield-3的nvidia spectrum以太网交换机将为5g提供高精度时间同步协议。
该凯发k8官网下载的解决方案在nvidia加速的1u mgx服务器设计上实现了突破性的5g速度,根据公开的5g加速器数据,它实现了业内吞吐量最高的36gbps下行链路容量。
nvidia mgx是一个模块化参考架构,让系统制造商和超大规模企业客户能够快速、经济地构建100多种服务器机型,适用于各种ai、hpc和nvidia omniverse™应用。
通过将nvidia aerial™软件引入到高性能的软件定义的云原生5g网络中,这些5g基站将允许运营商动态分配计算资源,并实现2.5倍的能效提高。
nvidia的芯片基于arm架构,arm对基于arm架构的nvidia超级芯片和bluefield-3 dpu带来革命性的架构自然也有发言权。arm首席执行官rene haas表示:“生成式ai的未来发展需要高性能、节能的计算,就像nvidia基于arm neoverse的grace hopper超级芯片那样。结合nvidia bluefield dpu,grace hopper使软银新的5g数据中心能够运行最苛刻的计算和内存密集型应用,并为arm上的软件定义5g和ai带来指数级的能效提升。”
可以预见,nvidia联手软银,意味着ai驱动通信的时代或将到来。这既是软银数据中心的一次革新,也是nvidia为电信行业注入ai动能的最新创举,更是全球电信行业面向生成式ai的一场技术预演,其价值将历经一个长期释放的过程。