












dify者,开源之LLM應用開發平台也。自Agent構築至AI工作流排布,兼RAG、agent等,皆所支持。具檢索策略、模型管理等能,可輕易構築運營AI應用。
至要者,比LangChain更易用,且有好觀之節目。
欲觀部署安裝之教,直點本文目錄。
Dify涵蓋生成式AI原生應用所需之核心技術樁,開發者可專注於創造應用之核心價值。

| 类别 | 内容 |
|---|---|
| LLM推演引擎 | Dify Runtime(自v0.4已去LangChain) |
| 支持之商业模型 | 十以上,含OpenAI与Anthropic<br>新模型主流者,可于四十八时内接入 |
| 所支持之MaaS厂商 | 七家:Hugging Face, Replicate, AWS Bedrock, NVIDIA, GroqCloud, together.ai, OpenRouter |
| 所支持之本地模型推理运行时 | 六种:Xoribits(推荐)、OpenLLM、LocalAI、ChatGLM、Ollama、NVIDIA TIS |
| OpenAI接口标准模型集成 | 无限支持 |
| 多模态之能 | 语音识别模型、富文本模型(最高支持 GPT-4o 规格) |
| 内置应用类型 | 文本生成、对答之器、代理、工作流、对话流 |
| Prompt-as-a-Service编排 | 广受赞誉之可视编排界面,可集中修改 Prompt 并预览其效 |
| 编排模式 | 简易编排、代理编排、流程编排 |
| Prompt 变量类型 | 字符串、单选枚举 |
| 外部 API 支持 | 文件(2024 Q3 上线) |
| 代理工作流特性 | 行业领先之可视化工作流编排界面,实时编辑节点调试、模块化DSL、原生代码运行时 |
| 所支持之节点 | 大语言模型、知识检索、问题分类器、条件判断、代码、模板、HTTP请求、工具 |
| RAG特性 | 首见可视知识库之管理界面,能预览片段,可试召回之效 |
| 索引之法 | 关键词、文本向量、LLM 辅助问题-片段模型 |
| 检索之法 | 关键词、文本相似度匹配、混合搜索、多路径检索、重排序模型 |
| 召优 | 重排序模型 |
| ETL之能 | 自能涤荡 TXT、Markdown、PDF、HTML、DOC、CSV 之数据;兼通非结构化之务 |
| 智识库同步 | 协同步 Notion 文档、网页为知识库 |
| 支持向量数据库 | Qdrant(Qdrant)(推荜)、Weaviate、Zilliz/Milvus、Pgvector、Pgvector-rs、Chroma、OpenSearch、TiDB、腾訊向量、Oracle、Relyt、Analyticdb、Couchbase |
| 代行之术 | 反应函数调用 |
| 器用可依 | 调用 OpenAI 插件之标准器,直载 OpenAPI 规范之 API 为器 |
| 内置之器 | 四旬以上之器(至二零二四年第二季度) |
| 記錄日誌 | 持之,依日志而注。 |
| 注釋回應 | 依人工标注之问答,以相似性为应答;可导出为数据式,以微调模型 |
| 審核內容 | OpenAI內容審核或外部API |
| 众擎易举 | 工坊、众贤共治 |
| API规范 | RESTful,涵盖众般之能 |
| 之布设, | Docker、Helm是也。 |
Dify中所言“器”,乃基于大言模型所成之实景器用,意在融大言、RAG与低码技于特需。此器合AI器用范式与具象交付物,予开发者:
开发者可据需,灵择全部或部分之能,助AI器用高效开发。
Dify 提供五种应用之型:
各类应用之功能异同,具见表格。
| 能事 | 文本生成之用 | 谈天说地之助 | 代理者 | 对白之流(Chatflow) | 工穀之序(Workflow) |
|---|---|---|---|---|---|
| 网络应用之界面 | 表单与结果式 | 对答如流 | 对答式 | 程序式 | 表单流程式 |
| WebAPI之端点 | /completion-messages | 聊消息 | /聊消息 | /聊消息 | /workflows/运行 |
| 交互之道 | 一问一答 | 多轮应答 | 多轮应答 | 流程控制与多轮对话 | 独轮生成+多轮应答 |
| 流式之结果返 | 支持 | 支持 | 支持 | 支持 | 支持 |
| 上下文存之 | 之际 | 恒续 | 恒续 | 恒续 | 之际 |
| 用户输入表单 | 可 | 可 | 可 | 可 | 可 |
| 知识库与工具 | 可 | 可 | 可 | 可 | 可 |
| AI 开场白 | 不支 | 支 | 支 | 支 | 不支 |
| 情景举例 | 译、判、索 | 聊 | 务分、理 | 程控、景定 | 批、自 |
| 时反 | 无 | 支 | 支 | 辅 | 无 |
初用之际,须先于Dify之设(右上角)——模型供应商页,添置并调适所需之模。

Dify已纳众主流模型供应商,如OpenAI之GPT系列、Anthropic之Claude系列,及deepseek等。诸模之能及参数各殊,用户可据应用之境择适之供。
若于本地,可用ollama或lmstudio或gpustack以布模,接入甚便。
欲用商用大模型之能,须于各大模型厂商官网取API Key。
Dify将大模型依使用之境分为四类:
模型供应商,类有二:
Dify 以 PKCS1_OAEP 之术藏用户所托 API 密钥,每户各配独立钥对,以保密钥无虞,防其泄走。
Dify 需模型时,依境择所设默认模型。于 设置 > 模型供应商 中设之。

于 Dify 之 设置 > 模型供应商 中设所接模型。系统默认推理模型(System Reasoning Model):设为创应用所用默认推理模型,及对话名生成、次问建议等亦用此默认推理模型。

模型既设,即可于应用中用之:

于 Dify 之工坊,创应用有三途:
初涉 Dify,于应用之立或生疏。为助初学者速晓 Dify 所能构何类应用,Dify 之提示词师已制多境、高质之应用模板。
可于导航择「工坊」,于应用列中择「从模版立」。

任择一模板,加之于工区。
若欲于 Dify 中创一空应用,可自导航择「工作室」,于应用列中择「从空白创建」。

Dify之上,可创四类异构之应用,曰聊天助手,曰文本生成之用,曰Agent,曰工作流。
创制应用,须为应用命名,择适切之图标,或上传所爱之图像为图标,并撰明畅之文字以述其用途,俾后续应用于团队内得用。

對話型應用,一問一答,與人持續交談。
于首页,点击“创建应用”之钮,以立应用。书应用之名,择应用之型,曰聊天助手。

编排之用
创应用毕,自转至应用概览页。点左侧菜单“编排”,以编应用。

示词用以约AI,使应更专,更精。可藉内置示词生器,撰适示词。示词内可插表单变量,如{{input}}。示词中变量之值,将易为用户所填。
例:

为善用者之体,可加对话始白:你好,{{name}}。我是你的面试官,Bob。你准备好了吗?。点页底“加功能”钮,启“对话始白”之能:

制题启言之际,犹可增数问以发端:

欲使 AI 对答之域囿于知识库中,如企业之客服应答规范,可于“设境”内引知识库。

添文上传
今多模态 LLM 已原生能处文书,如Claude 3.5 Sonnet或Gemini 1.5 Pro。其文上传之能,可于 LLM 官方之府察其情状。
择具读文件之 LLM,启“文牍”之能。无需繁设,则当 Chatbot 具识文之能。

调适
于右填用户所入,以试其效。

若 LLM 所答不惬,可调其辞,或易其下模型,以较其效。欲更进之,欲观异模于同问之答,可参多模调适。
调适既毕,击右上“布”钮,以成独立 AI 之用。除以公 URL 体验此用外,亦可依 APIs 为二次开,或纳于网内等事。详可参布用。。
智能助手(Agent Assistant),假大语言之智,能自主规划复杂任务,析之,调之,迭之,无人类之助,亦能成之。
欲速成之,可于“探索”中觅智能助手之应用模板,添于己之工作区,或依此自定。于全新之Dify工作室,亦可自零编之,成专属于汝之智能助手,助汝成财务报表之析、报告之撰、Logo之设、旅程之规等务。

择智能助手之推理模型,其能成务,系于模型推理之智,吾等建议,用智能助手时,择推理智更强之模型系列如deepseek,以得更稳之成务效果。

汝可于“提示词”中著智能助之命,欲求更优之效,宜明其任、定其程、备其资、设其限。

于“上下文”中,可添智助可询之知识库器,助其得外境之识。
于“工具”中,可添所需之器。器可扩 LLM 之能,若联网索、科计、绘图,赋而强 LLM 之能,使其通外世。Dify 提供二类之器:一方之器与自造之器。
汝可直接用 Dify 生态所供之一方内置器,或易导入自造之 API 器(今支持 OpenAPI / Swagger 与 OpenAI Plugin 规范)。

"工具新能,俾用户假外力,于Dify之上成更雄之AI应用。譬如,汝可为智能助理型应用(Agent)配置适器,其能以务理、步析、调用工具新能,成繁务。"
复有器,可便通汝之用与诸系统或务相接,与外境互应。若代码之施、专有信息源之访等。汝但于言辞中及需调用之器名,即自能唤之。

于 Dify 之上,为智能辅佐设 Function calling(函数调用)与 ReAct 二种推演之式。已通 Function Call 之模型系列,如 gpt-3.5/gpt-4,其效更优,其稳更固。未通 Function calling 之模型系列,吾等亦设 ReAct 推演之架,以成相似之效。
于 Agent 配置之中,可更易助手迭次之限。

函数调用之式

ReAct 之式
配置对话之始言
可于智能助手配置一套会话之始言及始问,配置之对话始言,将于每用户初遇对话时示之助手所能为之事,及可提之问之例。

部分多模态 LLM 已原生支持处理文件,例如 Claude 3.5 Sonnet 或 Gemini 1.5 Pro。
择具读文件之LLM,启“文牍”之能。无需繁设,则今Chatbot得识文书。

编成智能助手,未布为用,可试演而观其效。

编成智能助手,未布为用,可试演而观其效。

用之发布

于“工坊——用之编排”中,点“添能”,启用之器箱
用之器箱,为Dify之用供异能:

对谈之始语
于应答之属,AI 自启其言,或设问以发端,汝可修整其辞,涵开场之问。用此应答之始,可导人以问,明应之境,减启问之艰。

次问之议
设次问之议,则每应答毕,AI 可据前语续生三问,导启次轮之谈。

文转声之术TTS
启之,则AI之复可化自然之声而播之。

声转文之术ASR
启之,则于应内可录声,自化之文。

引据与归宗
功能既启,则 LLM 引用知识库以应问时,可于答下察得引段之详,含原文分段、序号、匹配度等。
详述请参引用与归属。
吾辈与 AI 互应,每于内容安泰、体验佳妙、律法周全等处,求之甚苛。是故需“敏感内容审查”之能,为终端者营一更善之互应境。
详述请参敏感内容审查。
标注回复功能,经人工编辑标注,为应用提供可定制之高质量问答回复能力。
工作流者,将繁任务分解为小步骤(节点),以降系统之复杂,减对提示词技术及模型推理之依赖,增 LLM 应用于繁任务之效能,升系统之可释性、稳定性与容错性。
Dify 工作流,分二类:

为解自然语言输入中用户意图之繁复,Chatflow设问题理解类节点。较之Workflow,增Chatbot特性之支持,如:对话历史(Memory)、标注回复、Answer节点等。
为解自动化与批处理情景中复杂业务逻辑,工作流供丰富逻辑节点,如代码节点、IF/ELSE节点、模板转换、迭代节点等,除此之外亦将供定时与事件触发之能,便构建自动化流程。
通过将LLM集成于客户服务系统中,可自动化回答常见问题,减支持团队之劳。LLM能解客户查询之上下文与意图,并实时生成有益且精准之回答。
无论尔需撰文立说、述物明理,抑或营谋宣达,LLM皆可助尔以生成佳作。但须赐以大纲或主旨,LLM将恃其渊博之智库,撰制引人入胜、事理丰赡且条理井然之文辞。
可与之众务管理系统相合,如Trello、Slack、Lark等,以自动化项目与任务之管理。藉自然语言之理,LLM能通晓解释尔之输入,制任务、更状态、定优先,无需手自操持。
可施于分析宏富之智库,以生成报告或摘要。尔但予相关信息于LLM,其能辨识趋势、模式与洞见,化原始之数据为可行之智。于欲据数据以决事者,此尤可贵。
LLM 可用以草拟尺牍、社交之更新及其他交际文书。但得简明之提纲或要旨,LLM 即能生成结构井然、脉络相承且合乎境脉之文辞。如此则可省时良多,且使应答明晰而专业。
节点
节点乃工作流之要构,由之联接异能之节点,遂能施行工作流之诸般操作。
工作流之枢要节点,请参节点说明。
变量
变量用以贯通工作流前后节点之输入与输出,以成流程中繁复之处理逻辑,含系统变量、环境变量及会话变量。
适于对答之境:
主对话之场,涵客户之助、意语之索,及诸需累步构应之对答应用。其异在能于生成之果,行多轮对答,调其生成。
常对之途:示令→生文→就文多论→重生其果→终事

作业之序
适于自动化与批理之境:
主自动批理之场,宜高质译事、数理析事、文生事、邮电自动等应用。此类应用,无以行多轮对答于生成之果。
常对之途:示令→生文→终事

sys.query,sys.files,sys.conversation_id。sys.user_id者,工作流之始节点,内置变量有二:sys.files,sys.user_id。此间,吾辈立一空应用,择工作流:

随意命名,击“立”则成。
继之,吾辈立流程节点。前步既成,自显流程节点之画布,复有“始”之按钮:

依前流程而行。
1)设标题之提示,设内容之提示。
启按“开始”,设二值:一为题旨,一为文旨。

既成,则见面板增二字段。

2)以AI制题
于前步面板之“下一步”,

添一LLM模型:

此间可择多模,依需而定。吾之需,乃以模型制题,故择LLM,既添,则见节点增一LLM:

于此设LLM之模即可:

唯设上述四事,今略言之:
BASIC
1、system部分其实就是我们给ai的提示语,也就是给他场景和要求。
2、user部分主要是作为用户传递的一些特定指向的注释信息。
3)以AI制文
次之上诉二之位,复添一LLM于其下,用以成文:

四)合标题与正文
于此之上诉三之面板,择次步,增一模板转换,以取前之标题内容,其文需自为编辑:

五)终此流程
于此上诉四之面板,增次节点为终,设其输出之讯:

至此,吾等之全流程已成,画布中当显其全貌:

流程既定,可择运行之钮以试之:

既点运行,则示以入标题正文之提示,如左图所示:

可依己需而填,填毕,击“开始运行”,少顷即见其果:

此乃Dify中用工作流之例,上多演示,未多言,盖此可依己需而制,非千篇一律之论,然其要者,吾等于此仍明示之:
一、用工作流之先,必将一事析之,使每步相合,可联贯也。
二、欲启AI,则择LLM节点;欲为他事,则择他节点。
三、AI之用,其精在提示语,即System之述,宜详尽之。
四、凡提示语,皆可于网中索之。
一、备知识库
此间备置之知识库格式,几无限制。若遇对答之境,常择QA为式,如客服之辞令,尤相宜。是故,吾于网间觅得客服相关之术语,其文如下:
### 新项目之创法如何?欲创新项目,但右上角“新建项目”之钮,入项目名,择项目模版(若存),然击“创建”。项目自现于汝之项目列中。### 任务之截止日如何添?于任务详页,击截止日区,择一日并存。任务之截止日自现于任务列中。### 与Google Calendar之同步如何?入“设置”页,觅“集成”选,择“Google Calendar”,依提示授权同步。同步后,所有项目任务之截止日自现于汝之Google Calendar中。### 可为任务设优先级乎?可也。于任务详页,击“优先级”之下拉,择“高”、“中”或“低”。设后,优先级自现于任务列中。### 汝之账户邮箱地址如何改?入“账户设置”页,于“个人信息”部,击邮箱地址旁“编辑”之钮,入新邮箱地址并存。需新邮箱验证后,方可成改。### 密码遗忘,当如何处?于登录页,击“忘记密码”之链,入注册邮箱地址,吾将发重置密码之链至汝之邮箱。依链可设新密码。### 团队成员如何邀入项目?于项目页,击“邀请成员”之钮,入欲邀成员之邮箱地址,并择其角色(如管理员、编辑者等)。击“发送邀请”后,对方自收邀请邮件。### 汝之订阅计划如何观?往“账户设置”页,于“订阅”部,可观当前订阅计划、次计费日及费用明细。### 订阅计划如何升?于“账户设置”之“订阅”部,击“升级计划”之钮,择欲升计划并确认付款。升级立时生效,费用依比例计算。### 可否取消订阅?可也。于“账户设置”之“订阅”部,击“取消订阅”之钮,依提示完成取消。取消后,仍可用付费功能至当前计费周期终。### 任务列不见,当如何处?请确认是否择正确项目。于左侧栏项目列中,重新择项目。若问题犹存,请刷新页面或退出重登录。### 通知邮件未收,为何?请检通知设置,确认是否开启相关通知。若已开启仍未收,请检垃圾邮件箱,并加吾之邮件地址于汝之联系人。### 系统示“操作失败”,当如何处?此或网络问题所致,请检网络连接并重试。若问题犹存,请联系客服并提供错误信息及截图。### 系统更新后,数据部分失,如何复?若系统更新后遇数据失,请立即联系客服。吾将助汝通过系统备份恢复失数据,但请尽量于问题发生后24小时内联系。### 软件漏洞如何报?若发现软件漏洞,请入“帮助中心”,击“报告问题”,择“安全漏洞”,并填相关信息。技术团队自尽快处理。### 项目无法载,当如何处?请先检网络连接,并尝试于他设备上访问。若问题犹存,请清浏览器缓存或尝试他浏览器。若问题未解,请联系客服。
于此创一空文,将上所载者录之,而后存之,名曰:客服知识问答语料库.md。其状如左:

二、增知识库
次当访Dify之dashboard,觅上方之知识库,择而创之:

取“导入既有文本”(余二项“nation”与“web站点”俟后论之),将前所录《客服知识问答语料库.md》上传之

复点“下一步”

于此,吾辈几可循其常设。然须留意者:
1)索引之法
常择“经济”,盖此乃免费,若择“高质量”,则需用openai,费资矣。故欲免费,则当择“经济”可也。
2)检索之设
此间固定为三,后可依实情调整
终点击存之,并处之即可

既存,则于智库之下可见前所加之料

三、用智库
智库既加,当用之,故吾等返于前所创之聊器,入之

上图可见上下文,吾等择添加,以入前所加之智库

既入,则于右可调试预览

择与智库相近之题以问之,如:Google Calendar何以同步?

少待片刻,吾等观其应之果如何:

可见此间之答,几与客服之辞相合。盖Dify上所增之知识库,已被模型所识,而用之也。终乃发布此模型:

发布既毕,凡所交谈,皆依当前知识库而匹配引据。

附注:
一、于特定之业,知识库之准确愈高,则结合AI大模型之引答愈善;若知识库之内容不良,则AI大模型之引答亦劣。
据前文所述,诸君可于垂直行业营事乎?
职场犹游戏也,然游戏非人生之全。勿太萦怀眼前之得失,亦勿常为焦虑所缚。当致力积累底气,俟将来,必感念今日之己。盖彼时,方知人生之主动权,终操于己也。
是时,吾等当示Dify之部署安装,并合前之大模型以相交互。
Dify之安装,简而易为。直以docker启之即可,故必先确保服务器有docker及docker-compose之环境。
docker之安装,可参《docker》。
docker-compose之安装,可参《docker-compose安装》。
Dify乃开源之码,故需自GitHub克隆其码于本地:
输入指令;
git clone https://github.com/langgenius/dify.git
如左图所示:

既而启Dify,入dify/docker目录,可见docker-compose.yml之文在焉。

执如下之令以启之:
#拷贝env文件
cp -r middleware.env.example .env
#执行环境
. .env
#启动dify
docker-compose up -d

稍待片刻,Dify即启毕。

启毕之后,以docker ps观之,有十docker之实例运行于上。

既而可于浏览器中访Dify,输入服务器之IP即可。http://128.0.0.1或localhost。端口乃默认之八十。初访需设管理员之户:

设之既毕,将跃转至登录之页,入此前设之管理员信息,便可访问:

今当承继qwen3-8b大模型,首当入Dify之dashboard,点右上角之头像,可见设之按钮:

点设之按钮,择模型之供,因吾等于此添前在本地部署之ollama,故此择ollama:

此处所填之信息如下
模型名称:填写 qwen3:8b
此中模型之名不可随意填写,须填于服务器上运行之名,即下图:

若书他名,则配置ollama必示404未觅,故于此须慎,所填之名即运行之模名,字符串必全然一致。
基础URL: 这里填写服务器的ip+11434端口即可,例如:http://192.168.1.129:11434
如果ollama在本地,那就是127.0.0.1或者localhost
必加前缀于此http://iPhone (iPhone),且端口为11434,吾等前已将11434端口改为0.0.0.0/0以供访问。
所余信息悉可依默认,吾所填示例如此。

终而存之。
继之者,创应用之阶也。择聊助,立一空应用。

填名述状,点创即入聊助之用。

继而于右上隅,得见前所添之qwen3:8b模型:

但启右上小牖上之发布键

即入聊境而语,例如是:

岂非甚便。
尤当留意者,此应答之速,系于服务器之配置,若吾处为8C16G之设,发问时CPU已竭,应答亦候时良久。

此乃吾用dify集成本地部署之qwen3:8b大模型之例。后当逐次述如何集成本地知识库等例,以契业务之境。
SEO博客文章生成器(SEO Blog Generator)
郵件助手之勢也(Email Assistant Workflow)
三步译事之序(Three-Step Translation Workflow)
社群与生境:或涵开发者之群、夥伴及生境,以促智识共享,合而共济。
此內容由慣性聚合(RSS閱讀器)自動聚合整理,僅供閱讀參考。 原文來自 — 版權歸原作者所有。