显存

混装可以被系统识别不等于适合共同推理；先验证同一驱动和后端能看到全部设备，再从 32B 观察分层与最慢卡瓶颈。 本文给出模型选择、GPU 加载验证和失败降级步骤。

双 A100 先用 70B 验证每张卡的分配，再逐级增加上下文和并发；两张卡都被识别并不代表负载已经合理。 本文给出模型选择、GPU 加载验证和失败降级步骤。

双 4090 先用 32B 做单卡基线，再测试 70B 跨卡；验收要比较 GPU 分配、生成速度和长上下文峰值。 本文给出模型选择、GPU 加载验证和失败降级步骤。

两张 4060 应先用单卡可放下的 7B 建基线，再测试 14B 是否跨卡以及速度是否值得。 本文给出模型选择、GPU 加载验证和失败降级步骤。

按参数量和量化计算DeepSeek权重下限，再把KV缓存、上下文、并发和卸载比例加入显存与内存预算。

两张 12GB 卡可以先稳定运行 14B；测试 32B 时要确认模型是否跨卡分配，并接受 PCIe 传输带来的性能代价。 本文给出模型选择、GPU 加载验证和失败降级步骤。

T2000 先用 1.5B 验证；具体能否上 7B 取决于 4GB/8GB 版本、桌面占用和是否完整 GPU 加载。 本文给出模型选择、GPU 加载验证和失败降级步骤。

M60 包含多个 GPU，先逐卡核对空闲显存；用 7B 验证单卡加载后，再观察是否有必要跨卡。 本文给出模型选择、GPU 加载验证和失败降级步骤。

M10 的总显存分布在多个 GPU 上，不能把 32GB 当成一块连续显存；先逐个设备查看容量，再从 7B 验证。 本文给出模型选择、GPU 加载验证和失败降级步骤。

K40 的架构过旧，当前 Ollama GPU 后端未必支持；不要反复换模型碰运气，先核对计算能力和日志。 本文给出模型选择、GPU 加载验证和失败降级步骤。