近日微软表示，nd h100 v5虚拟机系列将在azure云平台上全面上市，为客户提供训练和运行大模型所需的强大计算基础设施。
此外，微软还扩展了azure openai服务，客户可以通过该服务探索来自chatgpt创建者openai lp的、最先进的人工智能模型。该公司表示，azure openai现已在全球多个地区推出。
微软的nd h100 v5虚拟机似乎是该公司迄今为止最强大的计算产品之一。这些虚拟机现已在azure的美国东区和西部地区上市，配备了八个英伟达最新、最强大的h100 gpu。
英伟达去年推出了h100 gpu，并表示它们采用了全新的hopper架构。与用于训练原始chatgpt的nvidia a100 gpu相比，h100 gpu的处理能力要高出几个数量级。
英伟达在推出h100 gpu时曾表示，h100 gpu的优势在于它们能提供比上一代gpu“更快的ai模型性能”。nd h100 v5实例还采用了英特尔最新的第四代英特尔至强可扩展中央处理器，并通过英伟达的quantum-2 cx7 infiniband技术实现了低延迟联网。它们还采用了pcie gen5，为每个gpu提供每秒64千兆字节的带宽，并采用了ddr5内存，实现了更快的数据传输速度，用以处理最大的人工智能训练数据集。
微软在大力宣传nd h100 v5实例的性能，比如矩阵乘法运算速度将提高六倍，大语言模型（如openai的gpt-bloom 175b）的推理速度将提高1.8倍，并承诺明年将向客户提供数十万个h100 gpu。
nd h100 v5虚拟机针对的是生成式人工智能工作负载，因此微软同时扩展azure openai服务是完全合理的，该服务可直接访问openai的尖端人工智能模型gpt-4和gpt-35-turbo。azure openai服务于今年1月推出，最初只在azure的美国东部、法国中部、美国中南部和欧洲西部地区提供，但现在已经扩展到加拿大东部、美国东部2区、日本东部和英国南部。
constellation research的holger mueller表示，微软对扩大其人工智能产品的规模并使其更强大充满热情，并希望其得到更广泛的应用。他表示：“微软希望向更多客户提供openai，并提供基于英伟达产品的虚拟机，供客户运行自定义的ai模型并以此盈利。”“推出的速度、可及性和稳定性是客户采用的关键，因为很多企业由于数据驻留和安全要求而被束缚在特定区域。”
微软表示，azure openai服务已经得到了11000多家企业客户采用，而新用户在以每天约100家的速度增长。
微软azure hpc、人工智能、sap和机密计算总经理nidhi chappell表示：“作为此次扩展的一部分，我们将在新的地区扩大我们最先进的生成式人工智能模型gpt-4的可及性。”“这一改进能够让更多的客户能够利用gpt-4的功能来实现内容生成、文档智能、客户服务等功能。”
此外，微软还扩展了azure openai服务，客户可以通过该服务探索来自chatgpt创建者openai lp的、最先进的人工智能模型。该公司表示，azure openai现已在全球多个地区推出。
微软的nd h100 v5虚拟机似乎是该公司迄今为止最强大的计算产品之一。这些虚拟机现已在azure的美国东区和西部地区上市，配备了八个英伟达最新、最强大的h100 gpu。
英伟达去年推出了h100 gpu，并表示它们采用了全新的hopper架构。与用于训练原始chatgpt的nvidia a100 gpu相比，h100 gpu的处理能力要高出几个数量级。
英伟达在推出h100 gpu时曾表示，h100 gpu的优势在于它们能提供比上一代gpu“更快的ai模型性能”。nd h100 v5实例还采用了英特尔最新的第四代英特尔至强可扩展中央处理器，并通过英伟达的quantum-2 cx7 infiniband技术实现了低延迟联网。它们还采用了pcie gen5，为每个gpu提供每秒64千兆字节的带宽，并采用了ddr5内存，实现了更快的数据传输速度，用以处理最大的人工智能训练数据集。
微软在大力宣传nd h100 v5实例的性能，比如矩阵乘法运算速度将提高六倍，大语言模型（如openai的gpt-bloom 175b）的推理速度将提高1.8倍，并承诺明年将向客户提供数十万个h100 gpu。
nd h100 v5虚拟机针对的是生成式人工智能工作负载，因此微软同时扩展azure openai服务是完全合理的，该服务可直接访问openai的尖端人工智能模型gpt-4和gpt-35-turbo。azure openai服务于今年1月推出，最初只在azure的美国东部、法国中部、美国中南部和欧洲西部地区提供，但现在已经扩展到加拿大东部、美国东部2区、日本东部和英国南部。
constellation research的holger mueller表示，微软对扩大其人工智能产品的规模并使其更强大充满热情，并希望其得到更广泛的应用。他表示：“微软希望向更多客户提供openai，并提供基于英伟达产品的虚拟机，供客户运行自定义的ai模型并以此盈利。”“推出的速度、可及性和稳定性是客户采用的关键，因为很多企业由于数据驻留和安全要求而被束缚在特定区域。”
微软表示，azure openai服务已经得到了11000多家企业客户采用，而新用户在以每天约100家的速度增长。
微软azure hpc、人工智能、sap和机密计算总经理nidhi chappell表示：“作为此次扩展的一部分，我们将在新的地区扩大我们最先进的生成式人工智能模型gpt-4的可及性。”“这一改进能够让更多的客户能够利用gpt-4的功能来实现内容生成、文档智能、客户服务等功能。”
责任编辑：
