本地部署

两张 4060 应先用单卡可放下的 7B 建基线，再测试 14B 是否跨卡以及速度是否值得。 本文给出模型选择、GPU 加载验证和失败降级步骤。

按参数量和量化计算DeepSeek权重下限，再把KV缓存、上下文、并发和卸载比例加入显存与内存预算。

两张 12GB 卡可以先稳定运行 14B；测试 32B 时要确认模型是否跨卡分配，并接受 PCIe 传输带来的性能代价。 本文给出模型选择、GPU 加载验证和失败降级步骤。

T2000 先用 1.5B 验证；具体能否上 7B 取决于 4GB/8GB 版本、桌面占用和是否完整 GPU 加载。 本文给出模型选择、GPU 加载验证和失败降级步骤。

M60 包含多个 GPU，先逐卡核对空闲显存；用 7B 验证单卡加载后，再观察是否有必要跨卡。 本文给出模型选择、GPU 加载验证和失败降级步骤。

在树莓派5上编译llama.cpp，运行DeepSeek 1.5B量化模型，并用命令行和本地API验证结果与故障边界。

M10 的总显存分布在多个 GPU 上，不能把 32GB 当成一块连续显存；先逐个设备查看容量，再从 7B 验证。 本文给出模型选择、GPU 加载验证和失败降级步骤。

K40 的架构过旧，当前 Ollama GPU 后端未必支持；不要反复换模型碰运气，先核对计算能力和日志。 本文给出模型选择、GPU 加载验证和失败降级步骤。

K80 不适合直接按现代 Ollama CUDA 支持来部署；先核对官方计算能力门槛，必要时改用 CPU 或兼容的旧版推理方案。 本文给出模型选择、GPU 加载验证和失败降级步骤。

M40 24GB 可从 14B 开始；测试 32B 前先确认旧卡驱动仍被当前 Ollama 支持，并预留上下文显存。 本文给出模型选择、GPU 加载验证和失败降级步骤。