亚马逊云科技宣布与hugging face进一步合作，以加速对大语言模型和视觉模型的训练、精调和部署，促进生成式ai应用的创建。生成式ai应用可以执行各种任务，包括文本摘要、问题回答、代码生成、图像创建以及撰写论文和文章。
亚马逊云科技在生成式ai创新方面拥有深厚历史。例如，亚马逊使用ai技术为amazon alexa用户提供对话体验，每周用户互动次数达到数十亿次，同时也越来越多地使用生成式ai来支持新体验，如"create with alexa"功能。此外，作为亚马逊搜索（amazon search）的一个小组，m5可以帮助亚马逊各地团队将大模型应用到他们的应用程序中，并训练大模型以提升amazon.com网站的搜索结果。亚马逊云科技持续在机器学习（ml）的所有领域中创新，包括基础设施、amazon sagemaker相关工具和开箱即用的ai服务，比如amazon codewhisperer，它嵌入到程序员使用的ide中，通过注释来生成建议代码，以提高开发人员的生产力。为加速机器视觉与大语言模型的训练和推理，亚马逊云科技还推出了自研训练芯片amazon trainium与推理芯片amazon inferentia。
hugging face之所以选择亚马逊云科技作为首选云供应商，是因为它提供了灵活、可选的全球领先性能工具，例如amazon sagemaker、amazon trainium和amazon inferentia，满足了hugging face模型训练、精调和部署需求。依赖于此，开发人员使用hugging face可以轻松优化性能并降低成本，从而更快地将生成式ai应用投入到生产环境。
"ai的未来已经到来，但并非每个人都能平等享用ai。"hugging face首席执行官clement delangue表示，"可访问性和透明性是以明智和负责任的方式使用这些新功能，从而共享成果和创造新工具的关键。amazon sagemaker和亚马逊云科技定制芯片会帮助我们的团队和更大的机器学习社区，将最新研究成果转化为人人都可构建的、公开的可复制模型。"
高性能且兼具成本效益的生成式ai
大语言模型和视觉模型的构建、训练和部署是一个昂贵且耗时的过程，需要深厚的机器学习专业知识的支持。这两类模型非常复杂，可能包含数千亿个参数，因此在很大程度上，许多开发人员无法使用生成式ai。
为了弥补这一差距，hugging face与亚马逊云科技建立合作，让开发人员更易通过访问亚马逊云科技的服务，来应用部署hugging face模型，尤其是那些生成式ai模型。这样做的好处是：可以更快地训练与扩展低延迟和高通量的推理任务。例如，由amazon trainium支持的amazon elastic compute cloud(amazon ec2)trn1实例提供了更快的训练时间，与基于gpu的实例相比，可节省高达50%的训练成本。而由最新一代amazon inferentia芯片支持的amazon ec2 inf2实例，旨在部署最新一代大语言模型和视觉模型。相比inf1实例，inf2实例吞吐量提升了4倍，延迟降低了10倍。amazon sagemaker为ml提供工具和工作流，开发人员可以通过amazon sagemaker等托管服务使用amazon trainium和amazon inferentia，亦或在amazon ec2上自行管理。
"生成式ai蕴藏着改变整个行业的巨大潜力，但其成本和所需的专业知识使该技术无法为除少数公司之外的所有公司所用。"亚马逊云科技首席执行官adam selipsky表示，"hugging face和亚马逊云科技让用户更易访问流行的机器学习模型，以最高的性能和最低的成本创建自己的生成式ai应用。此次合作充分说明，生成式ai公司和亚马逊云科技的合作可以让更多客户对创新技术触手可及。"
亚马逊云科技在生成式ai创新方面拥有深厚历史。例如，亚马逊使用ai技术为amazon alexa用户提供对话体验，每周用户互动次数达到数十亿次，同时也越来越多地使用生成式ai来支持新体验，如"create with alexa"功能。此外，作为亚马逊搜索（amazon search）的一个小组，m5可以帮助亚马逊各地团队将大模型应用到他们的应用程序中，并训练大模型以提升amazon.com网站的搜索结果。亚马逊云科技持续在机器学习（ml）的所有领域中创新，包括基础设施、amazon sagemaker相关工具和开箱即用的ai服务，比如amazon codewhisperer，它嵌入到程序员使用的ide中，通过注释来生成建议代码，以提高开发人员的生产力。为加速机器视觉与大语言模型的训练和推理，亚马逊云科技还推出了自研训练芯片amazon trainium与推理芯片amazon inferentia。
hugging face之所以选择亚马逊云科技作为首选云供应商，是因为它提供了灵活、可选的全球领先性能工具，例如amazon sagemaker、amazon trainium和amazon inferentia，满足了hugging face模型训练、精调和部署需求。依赖于此，开发人员使用hugging face可以轻松优化性能并降低成本，从而更快地将生成式ai应用投入到生产环境。
"ai的未来已经到来，但并非每个人都能平等享用ai。"hugging face首席执行官clement delangue表示，"可访问性和透明性是以明智和负责任的方式使用这些新功能，从而共享成果和创造新工具的关键。amazon sagemaker和亚马逊云科技定制芯片会帮助我们的团队和更大的机器学习社区，将最新研究成果转化为人人都可构建的、公开的可复制模型。"
高性能且兼具成本效益的生成式ai
大语言模型和视觉模型的构建、训练和部署是一个昂贵且耗时的过程，需要深厚的机器学习专业知识的支持。这两类模型非常复杂，可能包含数千亿个参数，因此在很大程度上，许多开发人员无法使用生成式ai。
为了弥补这一差距，hugging face与亚马逊云科技建立合作，让开发人员更易通过访问亚马逊云科技的服务，来应用部署hugging face模型，尤其是那些生成式ai模型。这样做的好处是：可以更快地训练与扩展低延迟和高通量的推理任务。例如，由amazon trainium支持的amazon elastic compute cloud(amazon ec2)trn1实例提供了更快的训练时间，与基于gpu的实例相比，可节省高达50%的训练成本。而由最新一代amazon inferentia芯片支持的amazon ec2 inf2实例，旨在部署最新一代大语言模型和视觉模型。相比inf1实例，inf2实例吞吐量提升了4倍，延迟降低了10倍。amazon sagemaker为ml提供工具和工作流，开发人员可以通过amazon sagemaker等托管服务使用amazon trainium和amazon inferentia，亦或在amazon ec2上自行管理。
"生成式ai蕴藏着改变整个行业的巨大潜力，但其成本和所需的专业知识使该技术无法为除少数公司之外的所有公司所用。"亚马逊云科技首席执行官adam selipsky表示，"hugging face和亚马逊云科技让用户更易访问流行的机器学习模型，以最高的性能和最低的成本创建自己的生成式ai应用。此次合作充分说明，生成式ai公司和亚马逊云科技的合作可以让更多客户对创新技术触手可及。"
责任编辑：
本文为授权转载文章，任何人未经原授权方同意，不得复制、转载、摘编等任何方式进行使用，e-works不承担由此而产生的任何法律责任! 如有异议请及时告之，以便进行及时处理。凯发k8官网下载的联系方式：editor@e-works.net.cn tel：027-87592219/20/21。
