DeepSeek

RTX 4060 先用 7B；若是不同显存的 4060 系列型号，必须按实际容量重新判断，不能套用同一个模型上限。 本文给出模型选择、GPU 加载验证和失败降级步骤。

RTX 3090 先把 14B 跑稳；32B 的 20GB 模型文件可能装入，但长上下文和桌面占用会压缩余量。 本文给出模型选择、GPU 加载验证和失败降级步骤。

RTX 3080 有不同显存版本，先用 7B 确认完整 GPU 加载；12GB 版本可再测试 14B，10GB 版本要更保守。 本文给出模型选择、GPU 加载验证和失败降级步骤。

H200 运行 70B 时应把重点放在上下文长度、并发和队列，而不是仅验证模型能启动。 本文给出模型选择、GPU 加载验证和失败降级步骤。

H100 可从 70B 档位开始，但验收要包含完整 GPU 加载、目标上下文和真实并发，而不是只看首条回答。 本文给出模型选择、GPU 加载验证和失败降级步骤。

L40S 适合用 32B 建立服务基线；测试 70B 时要缩短上下文、关闭并发并确认不是 CPU 分层加载。 本文给出模型选择、GPU 加载验证和失败降级步骤。

L40 上先让 32B 在目标上下文和并发下稳定运行，再把 70B 作为边界测试。 本文给出模型选择、GPU 加载验证和失败降级步骤。

L4 建议先用 14B 验证，再根据空闲显存和上下文需求决定是否测试 32B。 本文给出模型选择、GPU 加载验证和失败降级步骤。

单张 A6000 先验证 32B；70B 模型文件约 43GB，虽接近常见显存容量，仍需给上下文和运行开销留余量。 本文给出模型选择、GPU 加载验证和失败降级步骤。

A100 40GB 适合先把 32B 跑稳；70B 模型文件约 43GB，单卡 40GB 不能按文件名直接判定可完整装入。 本文给出模型选择、GPU 加载验证和失败降级步骤。