Microsoft公司希望吸引企业将其最先进的人工智能项目引入Azure云平台,它通过提供对Nvidia Corp最新,最强大的图形处理单元的访问来实现这一目标。
该公司今天表示,其ND H100 v5虚拟机系列从今天开始通过Azure云正式发布。它使客户能够访问训练和运行生成式 AI 模型所需的强大计算基础设施。
此外,它还扩大了其Azure OpenAI服务的可用性,通过该服务,客户可以探索ChatGPT创建者OpenAI LP最先进的AI模型。该公司表示,Azure OpenAI现已在全球多个地区推出。
Microsoft的ND H100 v5 VM似乎是迄今为止提供的最强大的计算产品之一。它们现已在 Azure 的美国东部和美国西部地区推出,配备了八款 Nvidia 最新、最强大的 H100 GPU。
英伟达去年推出了H100 GPU,并解释说它们基于其新的Hopper架构。它们能够提供比用于训练原始ChatGPT的Nvidia A100 GPU高出几个数量级的处理能力。.
H100 GPU的优势在于它们提供比上一代GPU“明显更快的AI模型性能”,Nvidia在推出时表示。ND H100 v5 实例还采用英特尔公司最新的第四代英特尔至强可扩展中央处理器,通过 Nvidia 的 Quantum-2 CX7 InfiniBand 技术提供低延迟网络。它们还集成了 PCIe Gen5,为每个 GPU 提供每秒 64 GB 的带宽,以及 DDR5 内存,可实现更快的数据传输速度,以处理最大的 AI 训练数据集。
Microsoft对ND H100 v5实例的性能能力提出了一些重大要求,承诺矩阵乘法运算的加速速度提高六倍,在OpenAI的GPT-BLOOM 175B等大型语言模型上的推理速度提高1.8倍。
该公司表示,企业今天可以注册他们对新虚拟机的兴趣,并承诺将在明年之前向客户提供数十万个H100 GPU。
ND H100 v5 VM 面向生成式 AI 工作负载,因此Microsoft扩展 Azure OpenAI 服务非常有意义,该服务提供对 OpenAI 尖端 AI 模型 GPT-4 和 GPT-35-Turbo 的直接访问。该公司今天表示,Azure OpenAI服务于1月推出,最初仅在Azure的美国东部,法国中部,美国中南部和西欧地区提供,但现在已扩展到加拿大东部,美国东部2,日本东部和英国南部。
Constellation Research Inc.的Holger Mueller表示,今天的公告表明Microsoft对扩大其人工智能产品并使其更强大,更广泛地可用是多么热情。“它希望让更多的客户可以使用OpenAI,并同时提供基于Nvidia的虚拟机,供客户运行他们的自定义AI模型并从中获利,”他说。“推出速度以及可用性和稳定性是客户采用的关键,因为由于数据驻留和安全要求,许多企业都绑定到特定区域。
Microsoft表示,Azure OpenAI服务已经被超过11,000家企业客户使用,并以每天约100名新用户的速度增长。
“作为此次扩张的一部分,我们正在新地区提高我们最先进的生成AI模型GPT-4的可用性,”Microsoft Azure HPC,AI,SAP和机密计算总经理Nidhi Chappel说。“这种增强功能使更多客户能够利用 GPT-4 的功能进行内容生成、文档智能、客户服务等。”