训练平台的 GPU 怎么选：Worker 硬件配置指南

部署训练平台时最常见的第一个问题是"我该买什么硬件"。答案取决于你要训练什么、多频繁地训练。本文按角色拆解配置，并给出三档 GPU Worker 的参考配置。

先分清两个角色

• 管理服务器：跑平台本体（Web 界面、API、数据库、数据集存储、导出验证）。它处理的是网页请求、图片文件和交付包，不需要 GPU；
• GPU Worker：跑训练 Agent 的机器，真正干训练活的地方。每个 Agent 注册到平台后以租约方式领取训练任务。

两者可以分属不同机器，内网互通即可；也可以先挤在同一台机器上起步——甚至这台机器没有 GPU 也没关系，轻量分类训练在 CPU 上就能完成，GPU 随后按需补加。

管理服务器配置

• 起步档：2 核 4G、100GB 磁盘。够跑平台 + 几个小型数据集（万张图以内）；
• 标准档：4 核 8G、1TB 磁盘。数据集数万张、多客户隔离、需要留存版本包与交付包的场景；
• 要点：磁盘比 CPU 更先成为瓶颈——图片、版本包、权重、交付包都在本机，按"单数据集 GB 级 × 数据集数 × 版本数"估算并留一倍余量。系统用 Linux + Docker Compose 部署最省心。

GPU Worker 三档配置

• 零 GPU 档（纯 CPU）：容易被人忽略的一档——轻量分类模型（64×64 输入的二分类，如口罩/厨师帽）在普通 4 核 CPU 上约 30 分钟即可完成一轮训练（千张图级）。这意味着「先用办公电脑把流程跑通、验证业务价值，再决定要不要买 GPU」是完全可行的路径；
• 入门档（消费级显卡 8~12GB 显存，如 RTX 3060 级别）：中小规模分类与检测训练的主力。一个 1000 张图二分类任务几分钟到十几分钟完成，检测类任务也能从容应对；单卡同时跑 1~2 个任务为宜；
• 标准档（24GB 显存，如 RTX 4090 级别）：更大 batch、更大输入尺寸（640 检测）、更快出结果；单卡可并发 2~3 个中小任务；
• 高吞吐档（多卡或专业卡）：多个 Worker 进程分卡领任务，平台天然按租约调度，不需要自己写排队逻辑。除非训练任务排大队，否则标准档已覆盖绝大多数场景。

一个反直觉的建议：先买一张消费级卡起步。视觉识别的常见模型（轻量分类、YOLO 级检测）在消费级卡上训练效率很高，等任务队列真的排满了再扩容，钱花在刀刃上。

多 Worker 怎么组织

• 每台 GPU 机器装一个 Agent，注册后自动进入调度池；
• 平台按租约分发任务：Agent 空闲即领，超时未完成自动回收再分配，坏节点不阻塞队列；
• 不同机型的 Worker 可以混布——重任务与轻任务按先到先得分配，规模大了再按标签调度；
• Worker 只在内网与平台通信，不出公网。

内网与网络要求

• Worker 需要能访问平台的 API 端口（默认 8000），以及下载数据集版本包；
• 版本包按 MD5 校验，内网传输出错会被拦下；
• 训练完成后只有权重与指标回传（MB 级），占用带宽极小——大文件是"平台 → Worker"方向的下载，万兆内网最好，千兆完全可用。

什么时候该扩容

两个信号：一是训练任务开始排队（平台任务列表长期有 pending）；二是业务上"等模型"开始影响上线节奏。扩容顺序建议：先给现有 Worker 换更大显存的卡（性价比最高）→ 再加第二台 Worker（平台自动纳入调度）→ 最后才考虑多卡并行训练（单任务级别的提速，多数场景用不到）。云 GPU 与本地 GPU 可以混布：突发的大任务临时加一台云上 Worker，任务结束即释放。

延伸阅读：数据不出内网：训练平台的安全设计。