Replicate 平台新增 NVIDIA H100 GPU 支持

这是什么？

2025年5月16日，Replicate 官方发布公告，宣布其云平台现已支持 NVIDIA H100 GPU。Replicate 是一个让开发者轻松运行和部署 AI 模型的云平台，这次更新意味着用户可以直接在平台上使用更强大的 H100 芯片来加速模型训练和推理。

这就像给模型训练换上了更快的超级跑车引擎，让原本需要慢慢跑的 AI 任务能飞速完成，但跑车更贵，而且多辆跑车一起用需要特别许可。

H100 是什么？

H100 是 NVIDIA 公司生产的高性能图形处理器（GPU），专门用于 AI 计算。它比常见的 A100 更快，能处理更复杂的模型，但价格也更高。Replicate 现在提供 1x、2x、4x、8x 四种配置，其中 1x 对所有用户开放，而多 GPU 配置需要签订合同才能使用。

这就像从普通家用车升级到赛车，速度更快但油费也更贵，而且多辆赛车一起跑需要特殊许可。

价格如何？

官方列出了详细价格：1x H100 每秒 0.001525 美元，每小时 5.49 美元；2x H100 每小时 10.98 美元；4x H100 每小时 21.96 美元；8x H100 每小时 43.92 美元。同时，A100 和 L40S 的多 GPU 配置也开放了，价格从每小时 7.02 美元到 40.32 美元不等。

这就像租用不同数量的超级跑车，车越多每小时费用越高，但能同时处理更多任务。

如何使用？

用户可以通过网页或 HTTP API 创建新模型时指定硬件为 gpu-h100。官方提供了 cURL 命令示例，也列出了可用硬件的 API 查询方法。对于已有部署，用户也可以更新硬件配置来使用 H100 或新的多 GPU 设置。

这就像在租车网站上选择车型，选好后就能直接开走，非常方便。

有什么限制？

目前 2x、4x、8x H100 仅对签订承诺消费合同的用户开放，普通用户只能使用 1x H100。官方建议需要访问权限的用户通过邮件联系。此外，多 GPU 配置的 A100 和 L40S 虽然已开放，但之前仅限部署使用，现在扩展到常规模型和训练。

这就像某些高级跑车只对 VIP 客户开放，普通用户只能租基础款，但基础款已经比旧款快很多了。

适合谁用？

这次更新适合需要训练大型 AI 模型或加速推理的开发者、研究人员和企业。如果你觉得现有 GPU 太慢，或者想尝试更强大的模型，H100 是一个新选择。不过，价格较高，建议先评估需求再决定。

这就像如果你经常需要搬运重物，租一辆大卡车更划算，但如果只是偶尔用，可能普通车就够了。