近日,DigitalOcean 很高兴地宣布推出 NVIDIA H100 Tensor Core GPU 实例以及 Paperspace 平台的关键增强功能,帮助初创企业、成长中的数字企业和 ISV 持续为其客户提供有影响力的 AI 体验。生成式人工智能的爆炸性增长引发了公司之间的竞赛,以将强大的人工智能/机器学习创新快速推向市场。正在基础模型上进行训练或运行推理并需要访问最先进基础设施的人工智能原生初创公司和快速发展的数字公司现在可以在 DigitalOcean 的 PaperSpace 上利用卓越的性能和具有竞争力的成本节省。
了解 NVIDIA H100 GPU 实例在 DigitalOcean Paperspace 上的卓越优势
NVIDIA H100 GPU 加速了 AI/ML 的采用,其性能提升数量级在几年前是难以想象的。 H100 GPU 配备了基于第四代 Tensor Core 的 NVIDIA 全新 Transformer 引擎,为 AI/ML 领域的一些最重要的创新提供动力,例如大型语言模型和合成媒体模型。
Paperspace 现在提供这些强大的 GPU 作为按需实例和预留实例。
- 出色的 AI 性能:在全新 NVIDIA Transformer 引擎和第四代 Tensor Core 的支持下,与上一代 NVIDIA A100 Tensor Core GPU 相比,H100 GPU 在大型语言模型上的AI 训练速度提高了 9 倍,AI 推理速度提高了 30 倍。
- 轻松扩展:多节点 H100 GPU 部署(8 个 GPU)可扩展 GPU 功率以处理大型复杂模型。这些 GPU 之间的超快 3.2TBps NVIDIA NVLink 互连使该多节点 GPU 设置作为一个大型计算块运行。
- 在几秒钟内启动:只需几秒钟即可创建 H100 GPU 实例。我们的一体式机器学习配置提供了一个整体计算解决方案,结合了 GPU、Ubuntu Linux 映像、专用网络、基于 SSD 的存储、公共 IP 和快照。
- 每个芯片起价低至 2.24 美元/小时。 Paperspace 提供 H100 GPU 的按需实例和有保证的实例。按秒计费选项和无限带宽可帮助您节省成本。
- 24/7 可靠性: Paperspace 的平台受到 24/7 全天候监控,因此客户可以绝对专注于训练模型而不是基础设施。当您投入生产时,我们广泛的客户支持选项将帮助您掌握高流量使用情况。
以下是 Paperspace H100 实例的内部内容:
机器名称 | GPU内存(GB) | vCPU | CPU 内存 (GB) | NVIDIA NVLink 支持 | GPU互连速度 |
---|---|---|---|---|---|
NVIDIA H100x1 | 80GB | 20 | 250GB | 不 | 不适用 |
NVIDIA H100x8 | 640GB | 128 | 1638GB | 是的 | 3.2TB/s |
在 H100 GPU 上训练和运行大型复杂的 AI/ML 模型
ML-in-a-box 配置使用户能够实现强大的面向用户的 AI/ML 应用程序所需的一切。如果您的模型已投入生产,请在 Paperspace 上的 H100 GPU 上运行推理,为您的客户提供令人愉悦的 AI 体验。
Paperspace 客户非常喜欢 H100 GPU 为其 AI/ML 模型带来的性能优势:
“在 Paperspace 上的 NVIDIA H100 GPU 上使用数百万个视频输入训练我们的下一代文本到视频模型只花了 3 天,使我们能够比以前更快地获得新版本的模型。我们还赞赏 Paperspace 的稳定性和出色的客户支持,这使我们的业务能够在人工智能领域保持领先地位。 – Naeem Ahmed,Moonvalley AI创始人
只需点击几下,即可在 Paperspace 上启动 NVIDIA H100 GPU 实例。
扩展您的模型,而不是您的成本
Paperspace 的 NVIDIA H100 GPU 定价非常灵活。透明的每秒定价模型与零数据入口和出口费用相结合,非常适合初创公司和成长中的数字企业,他们需要灵活性和可预测的定价,同时利用高性能 GPU 的强大功能。
类型 | 配置 | 获取访问权限 |
---|---|---|
保证实例:您能够在特定时间段内预留具有 3.2TB 互连速度的 H100x8 | H100x8 具有 3.2TBps 互连速度 | 点击这里开始 |
按需:从 Paperspace 控制台按需访问 H100 GPU。使用按需产品无需预先投入时间 | H100x1(无互连速度) H100x8,具有 3.2TBps 互连速度 | 点击这里开始 |
强大的部署和安全增强功能
除了计算能力之外,梯度部署还使 AI/ML 企业能够以闪电般的速度部署模型。最近的增强功能包括:
- 简化的容器注册表验证:通过完全重新设计容器注册表体验,用户可以更轻松地将其容器注册表链接到 Paperspace。只需选择容器注册表供应商(Dockerhub、Azure CR、Google CR 或 Github CR),填写命名空间、用户名/密码或访问令牌,我们将预先填写将注册表连接到 Paperspace 所需的其他值。这改进了对现有容器注册表的管理,并添加了一种将容器添加到渐变部署中的新方法,以确保部署成功启动,从而简化了容器注册表体验。
- 增强部署端点的安全性:我们强化了 Paperspace 的部署端点,为渐变部署提供增强的安全性。创建部署时,您可以选择将端点设置为公共还是受保护。通过选择受保护状态,您可以轻松管理权限并更好地控制谁可以访问端点。您还可以根据需要在公共端点和受保护端点之间切换。
在 Paperspace 上建立和发展您的人工智能业务
对 Paperspace 平台上的新客户产品感到兴奋,并继续致力于为 AI/ML 业务提供卓越的体验。