本页内容
如果是持续使用，按月租用的独立 GPU 服务器比按小时计费的云 GPU 更便宜；如果只是短时突发使用，按小时计费的云更划算。盈亏平衡点等于月租价格除以小时费率：我们的
本指南从成本、可用性、性能和隐私四个方面比较独立 GPU 服务器与云 GPU 租用，所用数据为我们自己的 GPU 服务器价格和示例小时费率，绝不引用其他服务商的报价。
简要回答：独立 GPU 服务器与云 GPU 怎么选
云 GPU 是按小时出售的算力：您启动一个实例，在它运行期间付费，用完就停止。独立 GPU 服务器则是按月租用一块或多块完整的 GPU，无论您用不用，它都全天候运行。云卖的是灵活性；独立服务器卖的是更低的每小时使用成本，以及一块不与他人共用的显卡。
- 按月租用：适合显卡大多数日子都在运转的场景，例如为用户提供服务的模型、团队的编程助手、周期性的微调、渲染队列。
- 按小时租用：适合几个小时的测试、一次性的训练任务，或远高于日常基线的峰值。
- 两者结合：适合稳定的基础负载偶尔出现峰值的情况。
GPU 服务器与云 GPU 成本对比：算出您的回本时长
要决定按月还是按小时租用 GPU，请用月租价格除以您拿到的小时费率。每月使用时长一旦超过这个数值，按月租用的服务器就更便宜：
break-even hours = monthly price ÷ hourly rate
share of the month = break-even hours ÷ 730下表将这一公式套用到我们
| 显卡 | 我们的月付价格 | 示例小时费率 | 盈亏平衡点 | 占每月 730 小时的比例 | 约合每天 |
|---|---|---|---|---|---|
| $84.99 | $0.40 | 212 小时 | 29% | 7.0 小时 | |
| $84.99 | $0.70 | 121 小时 | 17% | 4.0 小时 | |
| $84.99 | $1.00 | 85 小时 | 12% | 2.8 小时 | |
| H100 级别 | $581.99 | $2.00 | 291 小时 | 40% | 9.6 小时 |
| H100 级别 | $581.99 | $3.00 | 194 小时 | 27% | 6.4 小时 |
| H100 级别 | $581.99 | $4.00 | 145 小时 | 20% | 4.8 小时 |
因此，如果一块
按小时计费的账单还可能隐藏成本。请核实实例停止期间的存储费用和数据流出云端的费用，并把每个新实例加载权重所花的时间算进去：一个 4 位精度的 70B 模型需要下载
租用 H100 最便宜的方式
这取决于您的使用时长。按每小时 $4 至 $2 的示例费率计算，每月使用少于约 145 至 291 小时，按小时租用更便宜；超过这个时长，则是我们月付 $581.99 的
可用性：竞价与按需实例，还是专属于您的显卡
按小时计费的 GPU 有两种，但哪一种都不能保证您需要时一定有卡可用。
- 按需实例按全价计费，但取决于是否有空闲容量。以 AWS 为例，其文档记载了一种 InsufficientInstanceCapacity 错误，出现在 AWS“当前没有足够的可用按需容量”时；AWS 还为每个区域设置了默认的实例数量上限，需要您申请才能提高。
- 竞价实例（也称抢占式实例）价格更低，因为服务商可以将其收回：在 AWS 上，中断通知会在实例被停止或终止前两分钟发出。训练任务需要频繁保存检查点，对外服务的端点则需要备用方案。
独享显卡在您付费的周期内完全归您使用：没有收回通知，重启时也不必检查是否有容量。限制都发生在交付之前。交付需要 1 至 24 小时，库存取决于显卡型号和司法管辖区；如果某个配置暂时缺货，我们会在客户中心告知您，并保留订单或将款项退回您的余额。GPU 服务器一经交付，概不退款。
性能与一致性
在独立服务器上，每块 GPU 都是一整块只运行您任务的显卡：没有分时复用，也没有分区。云 GPU 通常也是整块显卡，但并非总是如此：
- MIG 分区。NVIDIA 的多实例 GPU（MIG）技术可以将一块 A100 或 H100 划分为最多七个实例，每个实例拥有独立的显存、缓存和计算核心：彼此隔离，但都只是整块显卡的一部分。
- 分时复用。多个工作负载轮流使用同一块 GPU，用 NVIDIA 文档的话说，它们之间没有显存隔离，也没有故障隔离。
正如我们关于大语言模型显存需求的指南所解释的，显存容量决定能装下哪些模型，带宽决定生成速度，所以请确认低价买到的是一整块 GPU。
紧邻 GPU 的存储。我们的 GPU 服务器配备本地 NVMe，从
一致性。每天使用同一台机器，驱动保持不变，模型缓存保持预热，首次启动时编译好的计算内核也能一直沿用。代价在于规模：我们最大的服务器配备四块通过 NVLink 互联的 H100，通过一个
隐私与身份
大型 GPU 云平台在把昂贵的显卡交给您之前，通常都想知道您是谁：账户要绑定支付卡或银行账户，要经过验证步骤，还有默认的用量限额。此后，您的提示词和数据集就要遵循对方的日志记录和数据留存规则，这些规则是您接受的，而不是您制定的。
在 OffshoreServ，一个账户只需一个邮箱地址（可以是一次性邮箱）和一个密码：无需姓名、邮寄地址、电话号码或身份证件。您可以用比特币、以太坊、门罗币、泰达币（USDT）或 Solana 为美元余额充值，付款经由支付网关处理，该网关永远不会收到您的邮箱或账户信息；我们的加密货币支付页面列出了各币种的确认时间。
我们不记录也不检查服务器流量，不做深度包检测，也不扫描内容；我们永远看不到、也不会记录您的提示词、输出或训练数据。我们的安全日志只保存浏览器和操作系统摘要以及国家，从不保存 IP 地址。
隐私不等于豁免。GPU 服务器根据显卡型号分别位于摩尔多瓦、荷兰、冰岛或罗马尼亚，受当地法律约束，其中荷兰和罗马尼亚还受欧盟《数字服务法》约束。GPU 服务器允许挖矿，而我们的可接受使用政策适用于您运行的一切。
什么情况下选云更合适
- 短期实验。按每小时 $4 的示例费率，在 H100 上使用三小时花费 $12；而我们的月租是 $581.99。如果显卡在一个月里大部分时间都会闲置，请按小时租用。
- 超过四块 GPU。我们最大的服务器配备四块 H100，共
320 GB 显存。需要跨数十块 GPU 进行的训练应放在云端集群上；现有的 GPU 服务器和独立服务器客户可以通过工单向我们申请定制配置。 - 跨区域自动扩缩容。如果流量在一天之内波动十倍，或者您需要在几分钟内于多个大洲靠近用户的地方获得算力，按需云服务更合适：我们的服务器需要 1 至 24 小时交付，且分布在四个司法管辖区。
此外，独立服务器的操作系统、推理服务栈和安全都要由您自己负责。全托管服务价格更高，但会替您打理这些。
独立 GPU 服务器与云 GPU：决策清单
- 算清使用时长。每月使用时长超过“月租价格 ÷ 小时费率”，就按月租用。
- 估算显存。含余量在内不超过
80 GB ，一块 A100 或 H100 即可；不超过320 GB ，用一台4 × H100 服务器；再多，就用云端集群。 - 评估对中断的容忍度。无法保存检查点的任务，或用户所依赖的端点，都不应运行在竞价实例上。
- 确认数据可以流向哪里。如果提示词或数据集不能流向第三方平台，就把它们留在独立服务器上。
- 核实身份要求。如果您不愿让这项工作与您的身份或银行卡挂钩，请选择接受加密货币付款且无需 KYC 的服务商。
- 规划启动时间。十分钟内就要用上 GPU？用云。能等最多一天，并且愿意承诺租用一个月？选择独立服务器。
- 考虑两者兼用。用月租服务器承担基础负载、用按小时计费的 GPU 应对峰值，这种组合往往更省钱。
常见问题
租用 GPU，按月还是按小时更便宜？
按月更便宜，前提是您使用显卡的时长超过月租价格除以小时费率。我们的
GPU 独立服务器和云 GPU 有什么区别？
GPU 独立服务器按月为您提供完整的 GPU，并配有能保存数据的本地存储。云 GPU 按小时租用、随时启动；它可能是一整块显卡、一个 MIG 分区或一个时间片，而且竞价实例可能被收回。对于持续性工作，前者更便宜；对于短时突发任务，后者更便宜。
可以在无需 KYC 的情况下租用 H100 吗？
可以。在 OffshoreServ，账户只需一个邮箱地址和一个密码，无需姓名、电话号码或身份证件，您可以用比特币、以太坊、门罗币、泰达币或 Solana 付款。
云 GPU 是共享的吗？
不一定，但有可能。云 GPU 可能是一整块显卡、一个 MIG 分区（一块 A100 或 H100 最多可划分为七个相互隔离的实例），也可能是没有显存隔离和故障隔离的分时份额。比较价格之前，请先确认报价具体包含什么。在我们的 GPU 服务器上，每块显卡都专属于您的服务器，绝不共享。
每月用多少小时，独享 GPU 才划算？
用月租价格除以您原本要付的小时费率。以我们 $84.99 的
