ChatGPT 类模型负责理解问题和组织回答，RAG 在回答前从外部资料中找证据。RAG 不是另一种聊天模型，也不会把文档永久训练进模型；它是一条“先检索、再把片段交给模型生成”的应用流程。
三层分别做什么
- 模型层：理解问题、综合上下文、生成自然语言。
- 检索层：把问题转成查询，从文件或向量库中返回相关片段。
- 应用层：控制哪些资料可搜、保存片段 ID、展示引用，并在没有证据时拒答。
OpenAI 的 File Search 官方指南说明，文件先进入 vector store，系统再进行语义与关键词检索；响应可以带文件引用，还可显式包含搜索结果。这正是 RAG 的一种托管实现。
什么时候需要 RAG
内部制度、产品手册、当天更新的价格、必须出示原文依据的问答，适合 RAG。创意改写、一般常识或不依赖私有资料的任务，可以先直接使用模型。资料很少时，也可把短文本直接放进上下文，不必为了“架构完整”先建向量库。
引用从哪里来
引用不是模型记住了网页地址，而是应用把检索结果的文件或片段标识保留下来。正确做法是保存 document_id、片段位置、标题和 URL，再让页面根据这些字段渲染出处。只让模型在文字中“请给引用”，可能得到无法核对的链接。
用一个问题验证
选一条模型不应凭常识回答的内部规则作为测试问题。先关闭检索提问，再开启检索提问；查看运行记录，确认回答中的关键结论能定位到返回片段。换成资料中不存在的问题时，预期结果应是说明找不到依据，而不是继续补全。
边界
本文解释的是通用架构；ChatGPT 产品界面与 OpenAI API 的功能、套餐和数据边界并不完全相同。文件支持范围、额度和返回字段会变化，实施时需查当前官方文档。
Ai菜鸟网。发布者：AI小管家，转载请注明出处：https://www.alyyhw.com/32257.html
