戴尔科技集团与 AMD 合作打造了全新 PowerEdge 服务器系列,该系列服务器在基准测试中创下了世界纪录,同时为客户提供更多内核和更出色的性能。
戴尔科技产品营销高级副总裁 Varun Chhabra 在宣布新服务器的媒体发布会上表示:“戴尔一直关注的事情之一就是真正缩短价值实现时间。我们的客户希望缩短价值实现时间。他们希望能够更快地部署人工智能并更快地从中获得价值。过去两年来,我们一直听说,实际部署人工智能解决方案并使其发挥作用需要付出很多努力。”
4U PowerEdge XE7745、双插槽 PowerEdge R6725 和 R7725 以及单插槽 PowerEdge R6715 和 R7715 是戴尔服务器产品线的最新成员,有望以更低的功耗实现更高的计算能力。
戴尔表示,一台搭载 AMD EPYC 处理器的新服务器的计算能力相当于五年前的七台服务器,但功耗却降低了 65%。人工智能数据中心的功耗是传统数据中心的 10 倍,这导致这些提供商争相增加容量并寻找节省电力的方法。
Chhabra 表示:“他们正在寻求整合的机会,以便能够简化和精简他们的数据中心和人工智能生态系统,从而使他们能够以更快的速度、更灵活地运营。”
戴尔服务器和网络产品高级副总裁 Arunkumar Narayanan 表示,每台新的 PowerEdge 服务器都运行 AMD EPYC 处理器,支持多达 50% 的内核,每个内核的性能提高多达 37%,从而实现了更高的性能和效率并改善了 TCO。
“我们在这里所做的是,我们打造了一个全新的机箱,采用 DC-MHS 设计,这将增强我们的空气冷却,我们可以为每台 CPU 配备 192 个内核,为 500 瓦 CPU 提供无与伦比的功率和效率,”Narayanan 在媒体电话会议上表示。“我们将在 2U 容量下以 500 瓦的功率进行空气冷却的能力方面处于行业领先地位。除此之外,我们将拥有更丰富的存储配置。因此,我们将在此服务器中启用许多密度优化的存储选项。”
纳拉亚南说:“随着此次服务器的启动,我们将创下一系列世界纪录。”
新服务器在衡量虚拟环境的性能和可扩展性的 VMMArk4 以及衡量端到端机器学习或数据科学平台性能的 TCPx-AI 基准测试中均排名第一。
戴尔 PowerEdge XE7745
XE7745 专为企业 AI 工作负载而设计,最多可容纳 8 个双宽 GPU 或 16 个单宽 PCIe GPU,并在 4U 风冷机箱中支持耗电 600 瓦的 GPU。相比之下,Narayanan 表示 XE9680 是该公司最成功的产品,仅销售额就达到 100 亿美元。
他说,XE7745 专为 AI 推理、模型微调和高性能计算而设计。内部 GPU 插槽与八个额外的 Gen 5.0 PCIe 插槽配对,用于网络连接,从而创建密集、灵活的配置,DW PCIe GPU 容量增加 2 倍。
Narayanan 表示:“我们预计,随着我们进入下一代企业 AI 应用,这将成为企业推理解决方案的主流平台。”
Dell PowerEdge XE7745 服务器将于 2025 年 1 月起在全球上市。
PowerEdge R6725 和 R7725
双插槽服务器采用高性能 AMD 第五代 EPYC 处理器,具有可扩展性。新的 DC-MHS 机箱设计增强了空气冷却能力,并配备了双 500W CPU。
纳拉亚南表示,戴尔是首批将如此多的计算能力融入 2U 风冷机箱的公司之一。
他说,R6725 和 R7725 可维持严格的数据分析和 AI 工作负载,其配置针对可扩展性进行了优化。R7725 的性能提高了 66%,效率提高了 33%。
服务器将于 2024 年 11 月起在全球开放
PowerEdge R6715 和 R7715
戴尔发布了 1U PowerEdge R6715 和 R7715 服务器,这两款服务器均配备 AMD 第五代 EPYC 处理器。该设计可将驱动器容量提高 37%,从而提高存储密度。
戴尔表示,该服务器有多种配置选项。单插槽服务器支持双倍内存,支持 24 个 DIMM(2DPC),可满足各种工作负载需求,并在紧凑的 1U 和 2U 机箱中实现性能最大化。
服务器将于 2024 年 11 月起在全球开放
戴尔 AI 工厂增强功能以加速 GenAI 部署
戴尔 AI Factory 于今年早些时候推出,提供在企业内部署 AI 所需的端到端产品和服务,现在推出了 AMD 版本。戴尔与 Hugging Face 合作开发软件层。
对于本地 GenAI,配备 AMD Instinct MI300X 加速器的 Dell PowerEdge XE9680 服务器可以提供推理、检索增强生成 (RAG) 和定制。Dell 表示,AMD 与产品的深度集成提高了安全性和性能,将价值实现时间缩短了高达 86%,并帮助组织优化其 AI 投资。
在工厂内部,Hugging Face 上的 Dell Enterprise Hub 提供自定义容器和脚本,以便轻松、安全地部署 Llama 和 Mixtral 等 AI 模型。这些容器化模型经过独特优化,可根据模型和服务器提高推理性能,并利用 Hugging Face 文本生成推理后端。
GenAI的专业服务
戴尔针对 GenAI 的专业服务正在不断发展,目前已支持 AMD 环境。戴尔表示,其与 AMD 合作的 GenAI 平台实施服务为客户提供了量身定制的运营平台,包括 Kubernetes 配置、高级 AI 框架的部署和最佳实践。