Ollama 切换模型不需要覆盖旧文件,直接用不同完整标签运行即可。比较时必须固定提示词、上下文和采样设置,并分别记录加载时间与生成速度,否则主观感受很容易失真。 本文按 Ollama CLI 和模型库当前用法整理,未在你的硬件上跑分;可用标签、内存需求和速度会随模型、量化、上下文和硬件改变。
本篇验收要点:先用 ollama list 查看本地完整标签,再把模型名明确传给 ollama run 或 API 的 model 字段,不能依赖界面上一次选择。 两个标签使用同一提示、上下文、采样参数和输出要求,分别记录加载、内存、生成速度与答案验收结果。

开始前准备
- 至少两个可运行的 DeepSeek 标签
- 固定的三类测试问题和标准答案
- 可查看 ollama ps 的终端
- 足够容纳目标模型的内存或可接受的混合加载
按顺序搭建
- 运行 ollama list,复制完整 NAME;到模型页确认不同标签的参数规模和文件大小。
- 用 ollama run <tag> 逐一启动。首次运行可能包含加载,比较时要区分冷启动和模型已驻留后的生成。
- 为事实问答、格式遵循和长文本各准备一个固定提示,并固定 temperature 等参数;要求输出结构便于人工评分。
- 运行期间用 ollama ps 确认当前模型和处理器分配,记录系统内存、显存和上下文。
- 按正确性、格式通过、首次响应、生成速度和资源占用选择;完成后只删除确定不需要且已记录的标签。
可复制的最小示例
CLI 与 API 都要显式写模型标签:
ollama list
ollama run deepseek-r1:7b
ollama run deepseek-r1:14b
ollama ps
# API JSON 中
{"model": "deepseek-r1:7b", "prompt": "固定测试问题", "stream": false}
怎样验收结果
验证标准是 ollama ps 显示的模型与请求标签一致,两轮测试使用同一输入和参数,结果表能区分冷启动与持续生成,并按任务正确性而非只按速度选择。
- 复制完整标签而不是猜名称
- 每个模型运行相同测试集
- 记录上下文和采样参数
- 用 ollama ps 确认实际加载模型
常见失败与处理
- 总是运行旧模型:检查前端是否缓存 model 字段,并从 API 请求体确认。
- 大模型启动失败:查看服务日志和内存,不反复拉取同一文件。
- 比较结果波动大:固定参数并重复多次,分开记录加载与生成阶段。
读者下一步是从 ollama list 复制两个准确标签,用同一条格式化问题各运行三次并保存结果表。
相关问答
切换标签会删除旧模型吗?
不会。不同标签可并行保留,磁盘占用会累加;删除需显式执行对应命令。
参数更大的模型一定更适合吗?
不一定。还要看任务、量化、速度、内存和你的验收集表现。
官方资料与适用边界
Ai菜鸟网。发布者:AI小管家,转载请注明出处:https://www.alyyhw.com/32448.html