戴尔科技创始人、董事长兼首席执行官迈克尔·戴尔表示,该公司的旗舰PowerEdge服务器将搭载英特尔Gaudi3人工智能加速器,并称与英特尔的这一新合作伙伴关系是“游戏规则改变者”,因为企业“需要更多人工智能加速选项来满足其基础设施需求”。
“Gaudi 3 通过满足客户基础设施需求、降低[总拥有成本]和简化部署来加强我们的合作伙伴关系。这一切都是通过一个开放的生态系统实现的,该生态系统具有针对戴尔和 Gaudi 3 优化的人工智能框架以及可扩展的基于以太网的人工智能结构,”迈克尔·戴尔在周二的英特尔 Vision 活动上表示。
在活动中,迈克尔·戴尔表示,该公司计划将 Gaudi 3 芯片集成到其专用人工智能系统 PowerEdge XE9680 中。戴尔服务器的 Gaudi 3 版本在发布前可在英特尔开发者云中访问。
该公司创始人强调戴尔正在“努力满足需求,让这些企业客户真正轻松地采用人工智能”,并在英特尔 Vision 上的简短演讲中向英特尔首席执行官帕特·基辛格 (Pat Gelsinger) 发出恳求。
“我们需要的是更多高迪 3 的体积。那太好了,”戴尔说。
英特尔在此次活动中表示,其 Gaudi 3 处理器可以击败竞争对手 Nvidia 的 H 构建芯片,与 H-100 相比,推理能力提高 50%,性能提高 40%,“成本仅为 H-100 的一小部分”。
戴尔人工智能优化计算产品组合的产品规划和管理总监 Deania Davidson 称此次合作是“一个分水岭时刻”。
戴维森在博客文章中写道:“戴尔和英特尔之间的合作在配备英特尔 Gaudi3 AI 加速器的 Dell PowerEdge XE9680 中得到了体现,这是人工智能计算领域的一个分水岭。” “这种演变迎合了更加多样化的工作负载,为开发人员和企业专业人士提供了突破 GenAI 加速极限的选择。”
总部位于纽约州纳努埃特的戴尔白金合作伙伴 VirtuIT 的首席执行官加里·麦康奈尔 (Gary McConnell) 正在庆祝英特尔挑战 Nvidia 的 GPU 主导地位所带来的好处。
“有两件事很突出:随着英特尔制定芯片路线图,英伟达面临的竞争更加激烈。持续的竞争更快地推动客户价值,”他告诉我们。 “网络部分引入了更多的简单性,随着架构被迫利用人工智能做更多的事情,我们预计这种情况会继续出现。任何时候我们都可以通过简化的架构更有效地访问数据,这对客户来说都是一场胜利。”
戴尔写道,PowerEdge XE9680增强了Gaudi3加速器,引入了通过六个OSFP 800-GbE端口直接集成到加速器中的新颖网络功能。
“这些链路允许直接连接到外部加速器结构,无需在系统中放置外部 NIC。这不仅简化了基础设施,而且旨在降低基础设施的总拥有成本和复杂性。”戴维森写道。
戴尔还表示,Intel Gaudi 3的专用媒体解码器专为AI视觉应用而设计。当与其 PowerEdge 服务器结合使用时,它们能够处理广泛的预处理任务,例如简化视频到文本的转换并增强企业人工智能应用程序的性能。
戴维森称此次合作是“不妥协的人工智能加速解决方案”
她写道:“这种合作关系有望为技术领导者提供先进的创新工具,突破人工智能开发的界限,并为卓越计算和效率设定新标准。”
英特尔的目标是Nvidia的H100,戴尔也在同一款PowerEdge 9680服务器中使用了该产品,具有相同的八路架构。
英特尔表示,Gaudi 3 的性能比以前的版本高出四倍,内存带宽增加了 1.5 倍,并为用户带来了“人工智能训练和推理方面的重大飞跃”。
在训练作为生成式 AI 系统核心的模型时,Gaudi 3 预计将在拥有 70 亿和 130 亿个参数的 Llama2 模型以及拥有 1750 亿个参数的 GPT-3 上将速度提高 50%。