自从参加今年纽约summit后，我就深刻感受到生成式ai已经成为亚马逊云科技发展的首要任务，并且通过生成式ai，亚马逊云科技正在重新思考it基础设施。
今年re:invent在生成式ai上又下一城，其实早些时候，亚马逊云科技就已经建立起三个层级的全栈生成式ai能力，最底层是训练和推理的基础设施层，中间层是微调模型需求的工具服务，上层是构建生成式ai的应用层。
亚马逊云科技大中华区产品部总经理陈晓建说，亚马逊云科技在生成式ai的端到端的3个不同层面展开持续投入，并且不断解决定制化能力问题，因为没有一个现成的基础模型是能够去直接应用到各行各业的生产环境里的，大模型需要和业务数据进行结合产生效果。
全栈生成式ai能力再进化
在生成式ai上，亚马逊云科技在底层提供一些用于训练基础模型和在生产中运行这些模型的基础设施；中间层提供了访问基础模型的最便捷的方式，让没有ai经验的构建者，直接获得应用生成式人工智能所需的所有工具，来构建自己的应用；在顶层有利用基础模型构建的开箱即用的应用程序，让没有技术基础的业务用户，也能在具体场景中直接使用生成式ai。
底层，亚马逊云科技在13年前就看到了gpu这种加速计算芯片的价值，所以也是第一个把gpu带入到云上的云供应商，在amazon ec2 p3的实例中率先提供了nvidia v100 gpu。
亚马逊云科技是全球第一家将nvidia最新的芯片h100 gpu和amazon ec2 p5实例推出市场的主要云提供商，amazon ec2 p5实例在训练上比amazon ec2 p4实例要快4倍，而成本只是amazon ec2 p4的60%。
今年re:invent，亚马逊云科技ceo adam携手英伟达ceo黄仁勋扩大战略合作，亚马逊云科技成为首家推出nvidia gh200 nvl32实例的云厂商，并且开展“project ceiba”合作项目，将全球最快的gpu驱动ai超级计算机和nvidia dgx云超级计算机用于nvidia ai的训练、研发、定制化模型的开发，它将拥有1.6万个最新的gh200超级芯片，提供高达65 exaflops的惊人算力。
亚马逊云科技还推出了专为训练人工智能系统而设计的第二代芯片amazon trainium2，相较amazon trainium性能提升了4倍，针对于数千亿甚至数万亿参数的大模型训练做了特别的调优。
中间层，自今年4月amazon bedrock发布以来就备受关注，re:invent上，amazon bedrock也对两个模型进行了升级，支持anthropic claude 2.1和meta llama 2 70b。并发布了模型的微调、检索增强生成，以及基于amazon titan大模型的预训练功能。
另外agents for amazon bedrock也正式可用，它能够理解用户请求，将复杂任务分解为多个步骤，而且是自动和托管的。
应用层，amazon q也是一个情理之中，意料之外的发布，市面上我们可以看到很多智能助手，amazon q则是业界第一个专门针对企业业务场景，可以量身定制的生成式ai助手，基于企业内部数据帮助企业解决问题。
amazon q这个助手可以是用户在亚马逊云科技上构建、部署和操作应用程序及工作负载的专家，通过自然语言问答形式，帮助开发人员快速找到想要的服务；可以是用户的业务专家，连接企业的数据，安全且私密地为业务问题提供快速、准确且相关的答案；可以是商业智能专家，支持将其引入多种服务和应用中以提供基于生成式ai的帮助；可以是联络中心专家，引入云联络中心应用amazon connect中。而且amazon q也将为即将推出的amazon supply chain提供生成式ai助手。
“amazon q首先具有专业能力，而且提供了定制化的能力，可以让用户实现自己的定制化，最后是最大限度地保证安全。”陈晓建认为这只是一个开始，未来越来越多的产品会集成amazon q的能力，
amazon q会带来一个chatbot聊天式助理的新的用户体验，是对其他产品的一个补充。开发者环节可能是amazon q最先应用的场景，像几天之内能够把一千多个java的应用从java8升级到java17，另外还有知识库和商业智能领域也是能快速落地的场景。
从云到边的技术再演进
在ai服务的大量创新之外，亚马逊云科技在基础设施上也在不断投入，目前已横跨世界32个地理区域，并宣布计划新增5个左右的区域。而且今天亚马逊云科技的数据中心数量比第二大的云提供商多三倍，服务多60%，功能多40%。
我们都知道，全球第一款云服务是amazon s3，amazon s3提供目前从s3 standard到s3 glacier deep archive丰富多样的存储层级。亚马逊云科技也看到一些非常挑战的场景需要高性能分析处理的金融交易分析、欺诈检测、基于机器学习的量化交易等，这需要在几分钟之内访问数百万次存储的请求，并且它的延时需要保持在数毫秒的级别。
re:invent发布了当前云中最快的对象存储服务amazon s3 express one zone，它使用的是一个全新架构的amazon s3的存储类别，采用专门设计的软硬件来加速数据处理，能够将存储访问的数据和高性能的计算应用就近部署。可提供比amazon s3标准存储快10倍的性能，同时能够以一致的毫秒级延迟处理每分钟数百万次的请求，同时请求成本降低了50%。
通用芯片上，在2018年亚马逊云科技就推出了业界第一款自研的通用芯片amazon graviton，迄今为止已经发布了三代半。amazon graviton处理器基于arm架构，re:invent上亚马逊云科技推出graviton的最新一代graviton4，与当前一代graviton3处理器相比，graviton4性能提升高达30%，独立核心增加50%以上，内存带宽提升75%以上，基于graviton4的amazon ec2 r8g实例目前已提供预览。
并且基于amazon graviton3处理器的amazon elastic compute cloud（amazon ec2）m7g通用型、c7g计算优化型和r7g内存优化型三款实例已经在15日落地中国。
亚马逊云科技是第一家在业界推出serverless服务的云提供商，去年亚马逊云科技也成为首个数据分析服务全部实现serverless的云供应商，今年，亚马逊云科技高级副总裁peter又宣布了3项数据库和应用领域的serverless创新。
amazon aurora limitless database是唯一一个真正使用无服务器化来实现的分片数据库，用户将不用再手动管理底层的物理服务器资源，serverless可以自动实现资源的管理和扩缩容，同时按需付费，来最大限度帮用户降低成本。amazon elasticache serverless可以帮助客户在一分钟内创建高可用的缓存，并实时进行垂直和水平扩展以支持客户复杂的应用程序，且无需管理基础架构。amazon redshift serverless新的基于ai的扩展和优化功能的预览，可根据多个工作负载维度自动调整资源并执行优化操作以完成预设的性价比目标。
亚马逊云科技还通过amazon local zone、amazon outposts、amazon snowball、amazon private 5g等服务，来把云从中心拓展到边缘，并且还通过amazon ground station加速卫星数据上云，把云计算带入太空。
同时“kuiper计划”也是亚马逊云科技正在建设的一个项目，通过数千颗近地轨道卫星组成卫星网络，为地球上数亿个缺乏可靠的互联网连接的人们提供更加快捷、可靠的宽带服务，缩小数字鸿沟。
今年re:invent在生成式ai上又下一城，其实早些时候，亚马逊云科技就已经建立起三个层级的全栈生成式ai能力，最底层是训练和推理的基础设施层，中间层是微调模型需求的工具服务，上层是构建生成式ai的应用层。
亚马逊云科技大中华区产品部总经理陈晓建说，亚马逊云科技在生成式ai的端到端的3个不同层面展开持续投入，并且不断解决定制化能力问题，因为没有一个现成的基础模型是能够去直接应用到各行各业的生产环境里的，大模型需要和业务数据进行结合产生效果。
全栈生成式ai能力再进化
在生成式ai上，亚马逊云科技在底层提供一些用于训练基础模型和在生产中运行这些模型的基础设施；中间层提供了访问基础模型的最便捷的方式，让没有ai经验的构建者，直接获得应用生成式人工智能所需的所有工具，来构建自己的应用；在顶层有利用基础模型构建的开箱即用的应用程序，让没有技术基础的业务用户，也能在具体场景中直接使用生成式ai。
底层，亚马逊云科技在13年前就看到了gpu这种加速计算芯片的价值，所以也是第一个把gpu带入到云上的云供应商，在amazon ec2 p3的实例中率先提供了nvidia v100 gpu。
亚马逊云科技是全球第一家将nvidia最新的芯片h100 gpu和amazon ec2 p5实例推出市场的主要云提供商，amazon ec2 p5实例在训练上比amazon ec2 p4实例要快4倍，而成本只是amazon ec2 p4的60%。
今年re:invent，亚马逊云科技ceo adam携手英伟达ceo黄仁勋扩大战略合作，亚马逊云科技成为首家推出nvidia gh200 nvl32实例的云厂商，并且开展“project ceiba”合作项目，将全球最快的gpu驱动ai超级计算机和nvidia dgx云超级计算机用于nvidia ai的训练、研发、定制化模型的开发，它将拥有1.6万个最新的gh200超级芯片，提供高达65 exaflops的惊人算力。
亚马逊云科技还推出了专为训练人工智能系统而设计的第二代芯片amazon trainium2，相较amazon trainium性能提升了4倍，针对于数千亿甚至数万亿参数的大模型训练做了特别的调优。
中间层，自今年4月amazon bedrock发布以来就备受关注，re:invent上，amazon bedrock也对两个模型进行了升级，支持anthropic claude 2.1和meta llama 2 70b。并发布了模型的微调、检索增强生成，以及基于amazon titan大模型的预训练功能。
另外agents for amazon bedrock也正式可用，它能够理解用户请求，将复杂任务分解为多个步骤，而且是自动和托管的。
应用层，amazon q也是一个情理之中，意料之外的发布，市面上我们可以看到很多智能助手，amazon q则是业界第一个专门针对企业业务场景，可以量身定制的生成式ai助手，基于企业内部数据帮助企业解决问题。
amazon q这个助手可以是用户在亚马逊云科技上构建、部署和操作应用程序及工作负载的专家，通过自然语言问答形式，帮助开发人员快速找到想要的服务；可以是用户的业务专家，连接企业的数据，安全且私密地为业务问题提供快速、准确且相关的答案；可以是商业智能专家，支持将其引入多种服务和应用中以提供基于生成式ai的帮助；可以是联络中心专家，引入云联络中心应用amazon connect中。而且amazon q也将为即将推出的amazon supply chain提供生成式ai助手。
“amazon q首先具有专业能力，而且提供了定制化的能力，可以让用户实现自己的定制化，最后是最大限度地保证安全。”陈晓建认为这只是一个开始，未来越来越多的产品会集成amazon q的能力，
amazon q会带来一个chatbot聊天式助理的新的用户体验，是对其他产品的一个补充。开发者环节可能是amazon q最先应用的场景，像几天之内能够把一千多个java的应用从java8升级到java17，另外还有知识库和商业智能领域也是能快速落地的场景。
从云到边的技术再演进
在ai服务的大量创新之外，亚马逊云科技在基础设施上也在不断投入，目前已横跨世界32个地理区域，并宣布计划新增5个左右的区域。而且今天亚马逊云科技的数据中心数量比第二大的云提供商多三倍，服务多60%，功能多40%。
我们都知道，全球第一款云服务是amazon s3，amazon s3提供目前从s3 standard到s3 glacier deep archive丰富多样的存储层级。亚马逊云科技也看到一些非常挑战的场景需要高性能分析处理的金融交易分析、欺诈检测、基于机器学习的量化交易等，这需要在几分钟之内访问数百万次存储的请求，并且它的延时需要保持在数毫秒的级别。
re:invent发布了当前云中最快的对象存储服务amazon s3 express one zone，它使用的是一个全新架构的amazon s3的存储类别，采用专门设计的软硬件来加速数据处理，能够将存储访问的数据和高性能的计算应用就近部署。可提供比amazon s3标准存储快10倍的性能，同时能够以一致的毫秒级延迟处理每分钟数百万次的请求，同时请求成本降低了50%。
通用芯片上，在2018年亚马逊云科技就推出了业界第一款自研的通用芯片amazon graviton，迄今为止已经发布了三代半。amazon graviton处理器基于arm架构，re:invent上亚马逊云科技推出graviton的最新一代graviton4，与当前一代graviton3处理器相比，graviton4性能提升高达30%，独立核心增加50%以上，内存带宽提升75%以上，基于graviton4的amazon ec2 r8g实例目前已提供预览。
并且基于amazon graviton3处理器的amazon elastic compute cloud（amazon ec2）m7g通用型、c7g计算优化型和r7g内存优化型三款实例已经在15日落地中国。
亚马逊云科技是第一家在业界推出serverless服务的云提供商，去年亚马逊云科技也成为首个数据分析服务全部实现serverless的云供应商，今年，亚马逊云科技高级副总裁peter又宣布了3项数据库和应用领域的serverless创新。
amazon aurora limitless database是唯一一个真正使用无服务器化来实现的分片数据库，用户将不用再手动管理底层的物理服务器资源，serverless可以自动实现资源的管理和扩缩容，同时按需付费，来最大限度帮用户降低成本。amazon elasticache serverless可以帮助客户在一分钟内创建高可用的缓存，并实时进行垂直和水平扩展以支持客户复杂的应用程序，且无需管理基础架构。amazon redshift serverless新的基于ai的扩展和优化功能的预览，可根据多个工作负载维度自动调整资源并执行优化操作以完成预设的性价比目标。
亚马逊云科技还通过amazon local zone、amazon outposts、amazon snowball、amazon private 5g等服务，来把云从中心拓展到边缘，并且还通过amazon ground station加速卫星数据上云，把云计算带入太空。
同时“kuiper计划”也是亚马逊云科技正在建设的一个项目，通过数千颗近地轨道卫星组成卫星网络，为地球上数亿个缺乏可靠的互联网连接的人们提供更加快捷、可靠的宽带服务，缩小数字鸿沟。
责任编辑：
