本地部署

用 Docker 部署 Open WebUI，通过 host.docker.internal 连接主机 Ollama，并从回答、日志和进程三处验证。

检查 DeepSeek 私有部署的监听端口、日志、文件权限、模型来源和备份，验证本地环境是否真正受控。

从数据流向、成本、速度和维护责任比较 DeepSeek 本地部署与在线服务，并用同题测试和成本表做决定。

提前准备 Ollama 模型与 Continue 扩展，连接本机服务完成代码补全，并检查断网条件和隐私边界。

在 Windows、macOS 或 Linux 上用 Docker Compose 安装 Dify，完成环境检查、启动、初始化与容器健康核对，并定位常见启动失败。

按个人聊天、图形界面、GGUF精细控制和GPU并发服务，对比Ollama、LM Studio、llama.cpp与vLLM。

不经过Ollama，直接用llama.cpp加载DeepSeek GGUF，验证命令行、健康检查、模型列表和聊天API。

混装可以被系统识别不等于适合共同推理；先验证同一驱动和后端能看到全部设备，再从 32B 观察分层与最慢卡瓶颈。 本文给出模型选择、GPU 加载验证和失败降级步骤。

双 A100 先用 70B 验证每张卡的分配，再逐级增加上下文和并发；两张卡都被识别并不代表负载已经合理。 本文给出模型选择、GPU 加载验证和失败降级步骤。

双 4090 先用 32B 做单卡基线，再测试 70B 跨卡；验收要比较 GPU 分配、生成速度和长上下文峰值。 本文给出模型选择、GPU 加载验证和失败降级步骤。