跳到主要内容Skip to main content

Compute · Cloud · 指南

存储与出网:最容易被忽略的两笔钱

GPU 小时价只是账单的一部分。模型权重、数据集、日志、镜像和出网流量,常常在月末把预算翻一倍。

存储要按“热/温/冷”分层

训练中的数据集与容器镜像要热存储;旧版本权重、日志、备份可以转冷。热存储贵但读写快,冷存储便宜但取回有延迟与请求费。

先算容量与增长:一个 70B 模型全精度权重约 140GB,LoRA 与优化器状态另算;多版本保留会迅速堆高。

出网费要看流向

同区域、同云内网通常便宜或免费;跨区、跨云、公网出网通常按 GB 计。把数据拉回本地、把生成结果传给用户、跨云备份,都会产生出网。

训练任务尽量把数据放在 GPU 同区域;推理服务尽量把结果缓存在边缘或同区域,减少重复出网。

别把对象存储当本地盘

对象存储适合大文件与冷数据,不适合高频随机读写;训练时直接读对象存储可能拖慢数据加载。用本地 NVMe 或高性能文件系统做缓存。

如果平台按请求数计费,小文件多、频繁 LIST 会产生额外费用;把数据集打包成 shard,减少请求数。

账单核对清单

GPU 小时、CPU/内存、存储容量、存储请求、出网 GB、跨区流量、快照、镜像仓库、负载均衡、日志。逐项对照价目表,确认没有“默认开启”的收费项。

设置预算告警与每日账单;训练任务打标签,按项目分摊。