配套 5 · 实战手把手
Dify 上搭一个"电力运维知识问答"智能体
本教程带你用 Dify(开源、可私有化、可视化)从零搭出一个能查你内部资料的智能体:建知识库 → 配检索 → 搭问答应用 → 用"六支柱"把它调得更好用。全程无需写代码,跟着点即可。
第 1 步 部署 Dify(选一种方式)
有两个选择:云端版(最快,适合先体验)或 私有化部署(数据留内网,适合电力这类敏感场景)。按你实际的合规要求选。
| 方式 | 特点 | 适合 |
|---|---|---|
| 云端版 cloud.dify.ai |
注册即用,免安装,国际版 | 先快速体验流程、验证想法 |
| 私有化部署 Docker Compose |
数据不出内网,可离线 | 有内网服务器、数据要求合规的正式落地 |
如果你已经有内网 Linux 服务器,私有化部署最稳妥:在服务器上装 Docker,跑官方 docker-compose,几分钟起一个 Dify。这个教程聚焦"怎么配置",安装细节交给网管或官方文档即可。先用云端版验证流程完全没问题。
云版快速开始
- 访问 Dify 官网注册账号,进入工作台(Workspace)。
- 你会在左侧看到"知识库、工具、应用"等入口。
第 2 步 配置三个模型(LLM / Embedding / Rerank)
在开始前,先把"三块引擎"配好。左上角用户设置 → 模型供应商,分别添加或选择:
| 用途 | 作用 | 配置要点 |
|---|---|---|
| LLM(生成模型) | 负责组织语言、生成回答 | 选中文效果好的商用/开源模型;按组织已有的密钥接入 |
| Embedding(嵌入模型) | 把文本变向量,用于建库与召回 | 务必选中文优化模型;这是知识库召回好坏的根本 |
| Rerank(重排模型) | 对初步召回的片段二次精排 | 强烈建议配,能明显提精度 |
三个模型各管一摊:生成用 LLM、建库用 Embedding、精排用 Rerank。很多人只配了 LLM,结果知识库全部用默认英文嵌入,中文召回很差——这是最常见的坑,优先排查。
第 3 步 用 AI 预处理你的文件(建库前的准备)
对应 8.5.6 的"最大化效用"。别直接把一堆 PDF 灌进库。先用一个临时"Dify 里的聊天"或本地大模型做一次预处理:
- 让 AI 盘点并清洗:去水印页脚、去重复、统一术语。
- 按主题分类:规程 / 风险清单 / 案例库 / 报告 分开。
- 让 AI 为高价值条款 生成问句式条目("夜间作业有哪些风险?"→ 要点),这些对召回最友好。
- 为每条标注来源、版本、时间、部门(写进元数据)。
把原始文件直接丢进库,等于把乱糟糟的一堆纸塞进书架又不标索引——谁也找不到。AI 预处理 = 先把纸分好类、每一类换成"好找的形式"(关键词 + 问答卡)、贴好标签(序号/版本),再上架。这样检索命中率才高。
第 4 步 创建知识库与检索设置
左侧"知识库" → 创建知识库,按向导操作:
- 上传文件:把第 3 步整理好的文件(或已生成的 FAQ)上传,支持 PDF / Word / txt 等。
- 索引方式:选"高质量模式"(走 Embedding)和"混合检索"。
- 切分设置:选"自动分段"或"自定义",起步建议块大小 300–800 token、重叠 50–100。规程类长条款优先整条切。
- 元数据:把来源、版本、密级等信息补上——检索时可据此过滤。
- 入库完成后再配 检索设置:开启 混合检索 + Rerank 模型,并设 Top-K(如 3–5)与相似度阈值。
索引:高质量模式 + 混合检索。
召回:开启 Rerank,Top-K = 3–5,阈值设为 0.5 左右(太低易混入无关,太高会漏)。
元数据过滤:按"现行版本"过滤,避免新旧规程混答。
第 5 步 测试召回质量
建完库先别急着搭应用。在知识库详情页找"召回测试"功能:输入多个真实问题,看它召回哪几条。
- 召回对了 → 继续。
- 召回不对/漏了 → 回去调切分、换嵌入模型、补 FAQ 条目。
至少准备 20~50 个你真实会问的问题做测试集。这一步是"质量飞轮"的起点:管好召回,答案才会准。
第 6 步 创建问答应用:接知识库 + 写提示词
左侧"应用" → 创建空白应用 → 对话型应用(Chatflow)。基础版这样搭:
- 在编排画布起点节点后加一个 知识检索节点,选择你建的知识库。
- 把检索节点接到 LLM 节点:把"检索到的资料 + 用户问题"一起喂给 LLM(Dify 一般会自动串好上下文变量)。
- 在 LLM 节点的系统提示词里写约束,例如:
你是电力运维助手。只依据"知识库检索"给出的资料回答;资料里没有就明确说不知道,不要编造;回答须给出出处;先给结论再给依据。
知识库是"书",提示词是"考试纪律"。纪律写得好,专家才不会是"乱猜的学霸":㊀ 只能照书答(减少幻觉)、㊁ 不确定就说不知道、㊂ 答完标出处(好溯源)。
系统提示词完整模板(把背景卡嵌进去,复制可用)
上面那句只是"纪律"。真正好用的系统提示词 = 你的背景卡 + 答题纪律。把第 0 章 0.6.1 的【我的学习背景卡】整段粘在最前面,再补上知识库约束——它就知道"在跟谁说话、要按什么口径答":
【我的学习背景卡】 (把第 0 章 0.6.1 的那 6 行整段粘在这里:专业背景 / 数学口径 / 工作全景 / 学习目标 / 讲解偏好) 【答题纪律】 1. 只依据"知识库检索"给出的资料回答;资料里没有就明确说"资料里没有",不要编造。 2. 先给结论,再给依据;引用时标明出处(文件名 / 条款号)。 3. 涉及数字,说明它来自哪张表或哪次检索,不要自行推算后当成事实。 4. 遇到我的台账、口径问题,优先按知识库里"口径字典"的定义回答,不要用通用常识替代。 5. 若我的提问本身有歧义,先复述你的理解并向我确认,不要猜着答。
第 7 步 用"六支柱"把它调成真正的智能体
基础问答只能"会查"。要把 8.5.7 的六根支柱落到 Dify,关键是系统提示词 + 变量 + 工具:
| 支柱 | 在 Dify 里怎么做 |
|---|---|
| ① 上下文注入 | 知识检索节点已提供;把制度/项目背景写进系统提示词的可变「背景」 |
| ② 目标与验收 | 在提示词声明输出格式与验收标准;用「输出格式」变量约束 |
| ③ 记忆画像 | 开启对话记忆;把第 0 章 0.6.1 的【学习背景卡】整段写进系统提示词(身份 + 工作全景 + 偏好),比只写一句"先结论后数据"有效得多 |
| ④ 工具与权限 | 给 LLM 节点挂工具(查数据接口),只给最小必要权限 |
| ⑤ 结果验证 | 提示词强制"数字注明来源,来自代码计算结果";加人工抽检机制 |
| ⑥ 反馈迭代 | 用「日志与标注」收集差评,每周回填知识库/改提示词,形成闭环 |
别指望一次到位。上线后设一个每周半小时的"迭代会":看这周它哪里答错了 → 归类(是库里没有?还是召回没找到?还是提示词没约束好?)→ 分别对症补库 / 调检索 / 改提示。这就是 ⑥ 反馈迭代的落地。
第 8 步 发布与接入
右上角发布(Publish)后,可选择接入方式:
- 网页应用:Dify 生成一个独立对话网页,把链接发给同事用——最适合内部试点。
- API:拿到 API Key,接入你们自己的系统/IM 机器人(如飞书机器人)。
- 嵌入:把对话窗口嵌到内部 Web 系统里。
用第 5 步那批测试问题,在发布后的网页上再全部跑一遍,重点看:① 有没有乱编(没资料不该硬答);② 出处明不明显;③ 敏感数据是否只在内网流转。合规链没问题再正式用。
本教程与教材关系:先读 8.5 章理解 RAG 原理 → 再照本教程操作 → 卡住时回 8.5 查概念。
第 9 步(进阶)搭一个"截屏违章识别"模式
除了"文字问答",Dify 也可以搭一个看图的违章识别应用。前提:你接入的 LLM 是多模态(能看图),且已配好 Embedding + Rerank(用于查现场台账)。这个模式对应 8.5.8 的工程:人上传/程序传入一张截屏 → 大模型看图 → 输出结构化 JSON → 按置信度分流告警或复核。
① 建一个"对话型(Chatflow)"应用
- 创建空白应用 → 对话型 Chatflow。
- 在编排画布,先加上变量:start 节点里加一个图片变量(Image input),代表上传的截屏。
- 模型供应商确认你的 LLM 支持视觉(如多模态模型),然后在 LLM 节点的输入里带上这个图片变量。
② 把 8.5.8 的提示词模板粘进 LLM 节点
打开 8.5 章复制"VLM 提示词模板",粘贴到 LLM 节点的系统提示词,把 {站点/区域、当前作业阶段} 替换成自动填的变量(来自"知识检索"节点查到的现场台账,或人工预设)。这样大模型就知道"这是哪个站、正在干嘛",判断更贴合现场。
③ 用"条件分支"做置信分层(对应判定路由)
在 LLM 节点后加一个条件分支(If/Else)读取返回的字段:
| 分支 | 规则(示例) | 动作 |
|---|---|---|
| 高置信告警 | 有违章 且 confidence ≥ 0.9 | 触发"发送消息/写日志":告警 + 附带原图与位置框说明 |
| 人工复核 | 置信度中等,或标记 needs_review | 把图片与 JSON 记入待复核清单(配合任务/通知) |
| 忽略 | 无违章或画面质量差 | 仅记录台账,不打扰 |
Dify 的 Chatflow 可以用代码节点或条件节点解析 JSON;解析不出合法 JSON 时走兜底(视为"待复核"),避免模型崩了静默消失。
④ 取证留档 + 反馈闭环
- 告警时把原图 + 时间戳 + 位置框裁剪 + 模型 JSON 写入你指定的存储(Dify 变量、日志、或接外部库)。
- 人工复核后,把最终结论写回台账——供每周迭代会用:更新提示词、攒该站的 few-shot 范例、调整该区域抽帧频率与阈值。这就是"越用越准"的飞轮,对应 8.5.8 第 ④ 条。
第一次跑通别追求完美。先拿 20–50 张真实截屏批量试一遍,看它对"没戴帽/没穿马甲"这类典型违章的置信度够不够。够 → 上调告警线;不够 → 把它判不确定,逐条人工复核攒范例。多点耐心,这套会越用越准。