配套 5 · 实战手把手

Dify 上搭一个"电力运维知识问答"智能体

本教程带你用 Dify(开源、可私有化、可视化)从零搭出一个能查你内部资料的智能体:建知识库 → 配检索 → 搭问答应用 → 用"六支柱"把它调得更好用。全程无需写代码,跟着点即可。

第 1 步 部署 Dify(选一种方式)

有两个选择:云端版(最快,适合先体验)或 私有化部署(数据留内网,适合电力这类敏感场景)。按你实际的合规要求选。

方式特点适合
云端版
cloud.dify.ai
注册即用,免安装,国际版 先快速体验流程、验证想法
私有化部署
Docker Compose
数据不出内网,可离线 有内网服务器、数据要求合规的正式落地
怎么看待"要不要装 Docker"

如果你已经有内网 Linux 服务器,私有化部署最稳妥:在服务器上装 Docker,跑官方 docker-compose,几分钟起一个 Dify。这个教程聚焦"怎么配置",安装细节交给网管或官方文档即可。先用云端版验证流程完全没问题。

云版快速开始

  1. 访问 Dify 官网注册账号,进入工作台(Workspace)。
  2. 你会在左侧看到"知识库、工具、应用"等入口。

第 2 步 配置三个模型(LLM / Embedding / Rerank)

在开始前,先把"三块引擎"配好。左上角用户设置 → 模型供应商,分别添加或选择:

用途作用配置要点
LLM(生成模型) 负责组织语言、生成回答 选中文效果好的商用/开源模型;按组织已有的密钥接入
Embedding(嵌入模型) 把文本变向量,用于建库与召回 务必选中文优化模型;这是知识库召回好坏的根本
Rerank(重排模型) 对初步召回的片段二次精排 强烈建议配,能明显提精度
记住

三个模型各管一摊:生成用 LLM、建库用 Embedding、精排用 Rerank。很多人只配了 LLM,结果知识库全部用默认英文嵌入,中文召回很差——这是最常见的坑,优先排查。

第 3 步 用 AI 预处理你的文件(建库前的准备)

对应 8.5.6 的"最大化效用"。别直接把一堆 PDF 灌进库。先用一个临时"Dify 里的聊天"或本地大模型做一次预处理:

  1. 让 AI 盘点并清洗:去水印页脚、去重复、统一术语。
  2. 按主题分类:规程 / 风险清单 / 案例库 / 报告 分开。
  3. 让 AI 为高价值条款 生成问句式条目("夜间作业有哪些风险?"→ 要点),这些对召回最友好。
  4. 为每条标注来源、版本、时间、部门(写进元数据)。
比喻:建库前先"整理图书"

把原始文件直接丢进库,等于把乱糟糟的一堆纸塞进书架又不标索引——谁也找不到。AI 预处理 = 先把纸分好类、每一类换成"好找的形式"(关键词 + 问答卡)、贴好标签(序号/版本),再上架。这样检索命中率才高。

第 4 步 创建知识库与检索设置

左侧"知识库" → 创建知识库,按向导操作:

  1. 上传文件:把第 3 步整理好的文件(或已生成的 FAQ)上传,支持 PDF / Word / txt 等。
  2. 索引方式:选"高质量模式"(走 Embedding)和"混合检索"。
  3. 切分设置:选"自动分段"或"自定义",起步建议块大小 300–800 token、重叠 50–100。规程类长条款优先整条切。
  4. 元数据:把来源、版本、密级等信息补上——检索时可据此过滤。
  5. 入库完成后再配 检索设置:开启 混合检索 + Rerank 模型,并设 Top-K(如 3–5)与相似度阈值。
重点选项一张表

索引:高质量模式 + 混合检索。
召回:开启 Rerank,Top-K = 3–5,阈值设为 0.5 左右(太低易混入无关,太高会漏)。
元数据过滤:按"现行版本"过滤,避免新旧规程混答。

第 5 步 测试召回质量

建完库先别急着搭应用。在知识库详情页找"召回测试"功能:输入多个真实问题,看它召回哪几条。

至少准备 20~50 个你真实会问的问题做测试集。这一步是"质量飞轮"的起点:管好召回,答案才会准。

第 6 步 创建问答应用:接知识库 + 写提示词

左侧"应用" → 创建空白应用 → 对话型应用(Chatflow)。基础版这样搭:

  1. 在编排画布起点节点后加一个 知识检索节点,选择你建的知识库。
  2. 把检索节点接到 LLM 节点:把"检索到的资料 + 用户问题"一起喂给 LLM(Dify 一般会自动串好上下文变量)。
  3. 在 LLM 节点的系统提示词里写约束,例如:
    你是电力运维助手。只依据"知识库检索"给出的资料回答;资料里没有就明确说不知道,不要编造;回答须给出出处;先给结论再给依据。
提示词 = 给专家下"答题纪律"

知识库是"书",提示词是"考试纪律"。纪律写得好,专家才不会是"乱猜的学霸":㊀ 只能照书答(减少幻觉)、㊁ 不确定就说不知道、㊂ 答完标出处(好溯源)。

系统提示词完整模板(把背景卡嵌进去,复制可用)

上面那句只是"纪律"。真正好用的系统提示词 = 你的背景卡 + 答题纪律。把第 0 章 0.6.1 的【我的学习背景卡】整段粘在最前面,再补上知识库约束——它就知道"在跟谁说话、要按什么口径答":

【我的学习背景卡】
(把第 0 章 0.6.1 的那 6 行整段粘在这里:专业背景 / 数学口径 / 工作全景 / 学习目标 / 讲解偏好)

【答题纪律】
1. 只依据"知识库检索"给出的资料回答;资料里没有就明确说"资料里没有",不要编造。
2. 先给结论,再给依据;引用时标明出处(文件名 / 条款号)。
3. 涉及数字,说明它来自哪张表或哪次检索,不要自行推算后当成事实。
4. 遇到我的台账、口径问题,优先按知识库里"口径字典"的定义回答,不要用通用常识替代。
5. 若我的提问本身有歧义,先复述你的理解并向我确认,不要猜着答。

第 7 步 用"六支柱"把它调成真正的智能体

基础问答只能"会查"。要把 8.5.7 的六根支柱落到 Dify,关键是系统提示词 + 变量 + 工具:

支柱在 Dify 里怎么做
① 上下文注入知识检索节点已提供;把制度/项目背景写进系统提示词的可变「背景」
② 目标与验收在提示词声明输出格式与验收标准;用「输出格式」变量约束
③ 记忆画像开启对话记忆;把第 0 章 0.6.1 的【学习背景卡】整段写进系统提示词(身份 + 工作全景 + 偏好),比只写一句"先结论后数据"有效得多
④ 工具与权限给 LLM 节点挂工具(查数据接口),只给最小必要权限
⑤ 结果验证提示词强制"数字注明来源,来自代码计算结果";加人工抽检机制
⑥ 反馈迭代用「日志与标注」收集差评,每周回填知识库/改提示词,形成闭环
从"能用"到"好用"的正确姿势

别指望一次到位。上线后设一个每周半小时的"迭代会":看这周它哪里答错了 → 归类(是库里没有?还是召回没找到?还是提示词没约束好?)→ 分别对症补库 / 调检索 / 改提示。这就是 ⑥ 反馈迭代的落地。

第 8 步 发布与接入

右上角发布(Publish)后,可选择接入方式:

上线前最后一道检查

用第 5 步那批测试问题,在发布后的网页上再全部跑一遍,重点看:① 有没有乱编(没资料不该硬答);② 出处明不明显;③ 敏感数据是否只在内网流转。合规链没问题再正式用。


本教程与教材关系:先读 8.5 章理解 RAG 原理 → 再照本教程操作 → 卡住时回 8.5 查概念。

第 9 步(进阶)搭一个"截屏违章识别"模式

除了"文字问答",Dify 也可以搭一个看图的违章识别应用。前提:你接入的 LLM 是多模态(能看图),且已配好 Embedding + Rerank(用于查现场台账)。这个模式对应 8.5.8 的工程:人上传/程序传入一张截屏 → 大模型看图 → 输出结构化 JSON → 按置信度分流告警或复核。

① 建一个"对话型(Chatflow)"应用

  1. 创建空白应用 → 对话型 Chatflow。
  2. 在编排画布,先加上变量:start 节点里加一个图片变量(Image input),代表上传的截屏。
  3. 模型供应商确认你的 LLM 支持视觉(如多模态模型),然后在 LLM 节点的输入里带上这个图片变量。

② 把 8.5.8 的提示词模板粘进 LLM 节点

打开 8.5 章复制"VLM 提示词模板",粘贴到 LLM 节点的系统提示词,把 {站点/区域、当前作业阶段} 替换成自动填的变量(来自"知识检索"节点查到的现场台账,或人工预设)。这样大模型就知道"这是哪个站、正在干嘛",判断更贴合现场。

③ 用"条件分支"做置信分层(对应判定路由)

在 LLM 节点后加一个条件分支(If/Else)读取返回的字段:

分支规则(示例)动作
高置信告警有违章 且 confidence ≥ 0.9触发"发送消息/写日志":告警 + 附带原图与位置框说明
人工复核置信度中等,或标记 needs_review把图片与 JSON 记入待复核清单(配合任务/通知)
忽略无违章或画面质量差仅记录台账,不打扰

Dify 的 Chatflow 可以用代码节点或条件节点解析 JSON;解析不出合法 JSON 时走兜底(视为"待复核"),避免模型崩了静默消失。

④ 取证留档 + 反馈闭环

容积与实测提醒

第一次跑通别追求完美。先拿 20–50 张真实截屏批量试一遍,看它对"没戴帽/没穿马甲"这类典型违章的置信度够不够。够 → 上调告警线;不够 → 把它判不确定,逐条人工复核攒范例。多点耐心,这套会越用越准。