AI教程
-
用 vLLM 部署 DeepSeek-R1-Distill-Qwen-7B:启动 OpenAI 兼容 API 并验证
在受支持的 Linux GPU 环境安装 vLLM,启动 DeepSeek-R1-Distill-Qwen-7B,通过模型列表与聊天请求验证 OpenAI 兼容 API。
-
Windows 11 本地运行 DeepSeek-R1:用 Ollama 安装 7B 模型并验证 API
在 Windows 11 安装 Ollama,运行 DeepSeek-R1 7B,并用 PowerShell 请求本地 Generate API,逐步核对模型、响应与常见失败。
-
AI芯片推理性能如何评测?固定模型、输入和 Batch 后记录延迟与吞吐量
用固定模型、精度、输入、Batch 与运行环境建立 AI 芯片推理基线,先验证正确性,再记录延迟、吞吐量、内存和重复测试结果。
-
DeepSeek 蒸馏模型怎么选?从 Qwen 1.5B 到 Llama 70B 核对 6 个官方版本
核对 DeepSeek-R1 六个官方蒸馏版本的参数规模与底座,从运行框架、许可、真实任务和资源成本选择 Qwen 或 Llama 版本。
-
智能体评测集怎么做?从任务清单、通过条件到失败样本回归
从真实任务、业务边界和历史失败中构建智能体评测集,写清通过条件,保存工具调用与失败原因,并持续加入回归样本。
-
大模型、智能体、工作流有什么区别?用客服工单串起三者
用一张虚构客服工单区分大模型、固定工作流和智能体,给出订单归属核对、接口失败转人工及工具权限的具体判断。
-
AI芯片工具链是什么?从模型格式到推理部署的5个环节
解释 AI 芯片工具链的五个环节,并沿 NVIDIA 官方 ResNet-50 示例完成模型下载、TensorRT 引擎构建和加载检查。
-
DeepSeek 模型蒸馏是什么?看懂 R1 蒸馏版与原版的关系
用官方模型列表区分 DeepSeek-R1 原版与蒸馏版,核对 Qwen、Llama 底座、具体模型卡和许可,再用同一批问题做选型。
-
AI数据标注工具有哪些?Label Studio、CVAT、Argilla 怎么选
按数据类型、部署、协作与导出要求选择 AI 数据标注工具,并用可导入的客服文本样例走通 Label Studio 标注与复核。
-
5个好用的AI工具:常见用途与新手选择思路
文章从新手真实需求出发,介绍了5类常见好用的AI工具:通用对话型AI、搜索问答型AI、图像生成型AI、办公效率型AI和编程辅助型AI。正文说明了每类工具的适用场景、典型用途、提问方法、局限和选择思路,并提醒读者对事实、数据、代码、隐私和专业内容进行必要核对。