2024年8月24日星期六

开启新航线-Dify搭建AI 智能体

"点击上方卡片关注 / 不要错过精彩文章"

📢 船长的文章主要是实操攻略,至今已经更新AI agent RPA方面60余篇文章,跟着船长一步一步学起来!🚢 如果觉得内容对您有帮助,就请支持一下船长吧!点一点上方的🔵蓝色小字关注,你的支持是我最大的动力!🙏谢谢啦!🌟"



大家好, 我是船长的团队的缪斯,专注于模型算法与AI agent 开发多年,今天和各位分享另一个智能体搭建平台—Dify的入门基础文章,同时在本周日(8/25)晚20:00,给大家带来一场Dify技术直播分享


在分享前,需要对Dify有基础的了解,今天这篇文章对Dify的基础功能模块做了详细的介绍。


直播的参加方式:
添加船长的微信,发送暗号"参与Dify教学"参与8/25 晚20:00 Dify直播分享快闪活动.
往期快闪活动说明:直播分享通知: 8月20日 扣子Coze智能体之 多Agent 工作流、图像流实战拆解



扫描二维码:

添加船长微信

领提示词资料





X

认识Dify


首先要知道Dify是什么?

Dify 是一个搭建智能体的开源平台LLMOps,目前在github的start高达42.5k,Dify专门为开发大语言模型 (LLM) 应用而设计。它结合了后端即服务(Backend as a Service)和 LLMOps 的理念,可以帮助开发者迅速创建生产级生成式 AI 应用。即使是非技术人员,也能轻松参与到 AI 应用的定义与数据运营中。

Dify 集成了构建 LLM 应用所需的核心技术栈,支持数百种模型,提供直观的 Prompt 编排界面、高效的 RAG 引擎、强大的 Agent 框架和灵活的流程管理。这个平台不仅提供了易用的界面和 API,还让开发者避免了重复工作,将精力集中在创新和业务需求上。


LLMOps是什么?

LLMOps(Large Language Model Operations)是一个涵盖了大型语言模型(如GPT系列)开发、部署、维护和优化的一整套实践和流程。

LLMOps 的目标是确保高效、可扩展和安全地使用这些强大的 AI 模型来构建和运行实际应用程序。它涉及到模型训练、部署、监控、更新、安全性和合规性等方面。


下表👇🏻说明了使用 Dify 前后开发 AI 应用的各环节差异:


同时 Dify 能做什么?

在Dify文档中明确指出了Dify的作用,同时这个作用也代表着dify前进的方向👇🏻:

Dify 一词源自 Define + Modify,意指定义并且持续的改进你的 AI 应用,它是为你而做的(Do it for you)。
  • 创业,快速的将你的 AI 应用创意变成现实,无论成功和失败都需要加速。在真实世界,已经有几十个团队通过 Dify 构建 MVP(最小可用产品)获得投资,或通过 POC(概念验证)赢得了客户的订单。

  • 将 LLM 集成至已有业务,通过引入 LLM 增强现有应用的能力,接入 Dify 的 RESTful API 从而实现 Prompt 与业务代码的解耦,在 Dify 的管理界面是跟踪数据、成本和用量,持续改进应用效果。

  • 作为企业级 LLM 基础设施,一些银行和大型互联网公司正在将 Dify 部署为企业内的 LLM 网关,加速 GenAI 技术在企业内的推广,并实现中心化的监管。

  • 探索 LLM 的能力边界,即使你是一个技术爱好者,通过 Dify 也可以轻松的实践 Prompt 工程和 Agent 技术,在 GPTs 推出以前就已经有超过 60,000 开发者在 Dify 上创建了自己的第一个应用。


为什么使用Dify?

Dify作为除了Coze、Fastgpt、Langchain等众多智能体开发平台中的一种,他有什么优势呢?请看如下👇🏻


!!!Dify分为云上平台和本地部署两种使用方式。


X

Dify的基础功能模块展示

一:模型

Dify 是基于大语言模型的 AI 应用开发平台,初次使用时你需要先在 Dify 的 设置 -- 模型供应商 页面内添加并配置所需要的模型。


二:构建

在 Dify 中,一个"应用"是指基于 GPT 等大语言模型构建的实际场景应用。通过创建应用,您可以将智能 AI 技术应用于特定的需求。它既包含了开发 AI 应用的工程范式,也包含了具体的交付物。


简而言之,一个应用为开发者交付了:

  • 封装友好的 API,可由后端或前端应用直接调用,通过 Token 鉴权

  • 开箱即用、美观且托管的 WebApp,你可以 WebApp 的模版进行二次开发

  • 一套包含提示词工程、上下文管理、日志分析和标注的易用界面


你可以任选其中之一全部,来支撑你的 AI 应用开发。



三:应用类型

Dify 中提供了四种应用类型:

  • 聊天助手:基于 LLM 构建对话式交互的助手

  • 文本生成:构建面向文本生成类任务的助手,例如撰写故事、文本分类、翻译等

  • Agent:能够分解任务、推理思考、调用工具的对话式智能助手

  • 工作流:基于流程编排的方式定义更加灵活的 LLM 工作流


四:Dify 工作流:

Dify 工作流分为两种类型:

  • Chatflow:针对对话类场景,适用于客户服务、语义搜索等需要多步逻辑构建响应的对话式应用程序。

  • Workflow:用于自动化和批处理场景,适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用。


为应对自然语言输入中用户意图识别的复杂性,Chatflow 提供了专门用于问题理解的节点。相比 Workflow,Chatflow 增加了支持 Chatbot 特性的功能,如对话历史(Memory)、标注回复、Answer 节点等。


五:知识库

在Dify中,知识库(Knowledge)是由多个文档(Documents)组成的集合。你可以将整个知识库集成到应用中,作为检索上下文使用。文档可以由开发者或运营人员上传,也可以通过其他数据源进行同步(通常对应于数据源中的一个文件)。


六:工具

工具能够扩展 LLM 的能力,使其具备联网搜索、科学计算或图像生成等功能,从而增强其与外部世界交互的能力。
Dify 提供了两种工具类型:官方工具和自定义工具。你可以直接使用 Dify 生态中的内置官方工具,或轻松导入自定义的 API 工具(当前支持 OpenAPI / Swagger 和 OpenAI Plugin 规范)。


工具的作用包括:

1. 工具使用户能够在 Dify 上创建更强大的 AI 应用。例如,你可以为智能助理型应用(Agent)编排合适的工具,使其能够通过任务推理、步骤拆解和调用工具来完成复杂任务。

2. 工具还方便将你的应用与其他系统或服务连接,从而与外部环境进行交互,比如执行代码或访问专属信息源等。


发布为公开 Web 站点

使用 Dify 创建 AI 应用的一个优势是,你可以在几分钟内发布一个可供用户公开访问的 Web 应用,该应用会根据你的 Prompt 和编排设置运行。

  • 如果你使用的是自部署的开源版本,应用将运行在你的服务器上。

  • 如果你选择云服务,应用将托管在网址:https://udify.app/。


日志与标注

日志(Logs)功能用于监测和记录 Dify 应用的运行情况,无论是通过 WebApp 还是 API 调用,Dify 都会记录下所有交互过程。
如果你是 Prompt 工程师或 LLM 运营人员,这一功能将为你提供直观的 LLM 应用运营体验。


监测

你可以在概览中监控和追踪应用程序在生产环境下的表现,在数据分析仪表盘中深入分析生产环境中的应用使用成本、延迟、用户反馈和性能等各项指标,并通过持续调试和迭代来不断优化你的应用程序。



确实要感谢很多小伙伴的支持,本次直播分享用"快闪活动规则进行参与",希望能给大家带来帮助和感悟

谢谢各位的支持,船长团队会一直坚持更新AI的相关内容和教程

关注船长,不迷路~


没有评论:

发表评论

[ComfyUI]FramePack首尾帧工作流,生成丝滑AI视频,实现视频过程精准控制

前几天向大家介绍了通过FramePack实现超长时长AI视频的制作方法,收到了很多小伙伴的留言,今天我们来介绍 前几天向大家介绍了通过FramePack实现超长时长AI视频的制作方法,收到了很多小伙伴的留言,今天向大家介绍如何通过首尾帧控制来提高FramePack视频的可控性...