微软正式上线最强生成式 AI 虚拟机扩充Azure OpenAI 服务

发布时间：2023-08-08 11:00:26 所属栏目：外闻来源：未知

导读： 　　在今年三月份与合作伙伴英伟达的合作中，微软推出了AzureNDH100v5-virtualmachine preview版本；而随着几个月的试用过后，如今微软已经完全发布了这一款虚拟机以支持更加高效率地进行a

　　在今年三月份与合作伙伴英伟达的合作中，微软推出了AzureNDH100v5-virtualmachine preview版本；而随着几个月的试用过后，如今微软已经完全发布了这一款虚拟机以支持更加高效率地进行ai相关的工作流程。

　　此前报道，ND H100 v5 VM，是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。

　　该虚拟机支持的按需配置可达8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU，使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM，本次推出的虚拟机包含以下创新技术：

　　8 块 NVIDIA H100 Tensor Core GPU，通过下一代 NV Switch 和 NV Link 4.0 互连。

　　在无阻塞胖树网络中，每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

　　每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。

　　第四代英特尔至强可扩展处理器。

　　每台设备有4个96GB/s的GPU-to-GPU通道和一个64Gbps的主机-to-PCIe连接。

　　16 信道的 4800 MHz DDR5 内存。

　　新的虚拟机使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络，当前仅限于美国东部和西部 Azure 企业访问。

　　微软补充说，公司正在努力在明年为其虚拟机添加数十万块新的 GPU。

　　微软正式宣布该 Azure 虚拟机之外，还宣布扩展其 Azure OpenAI 服务，在加拿大东部、美国东部 2（East United States 2）、日本东部和英国南部地区上线。

　　微软表示 Azure OpenAI 服务客户已经超过 11000 名，本季度平均每天吸引 100 名新客户。

　　这一显著的增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

　　微软还补充说，ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。openai服务区域。这些更新包括一个新的chatgptai区域，可以让用户通过awshelper进行远程协作，并且可以在不同的云环境中运行。

（编辑：源码网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!