大语言模型 和 编排 的企业智能体开发平台
源代码
https://www.gitpp.com/websalt/project-sparkx
采用 Springboot3 + PgSQL + Vue3 开发的,采用大语言模型 和 编排 的企业智能体开发平台。开箱即用、模型任选、灵活编排,支持快速嵌入到第三方业务系统。
软件特点
模型任选:采用
langchain4j
框架,灵活的接入市面上常见的框架。且接口统一,便于扩展。同时引入了 OpenAI 标准接口,几乎可以接入任何主流的大模型,不限于官方服务,同时也能支持自建模型。RAG 索引增强技术:采用
RAG
索引增强技术,有效的消除大模型的幻觉,同时增强大模型的知识精度,对私有的数据问答尤为有效。灵活编排:采用
AntvX6
可视化流程编排引擎,灵活的扩展应用的实用性。可以让多个 Agent 协同工作,更好的完成用户的咨询。嵌入简单:系统支持 2 种部署方式,
单页面
和弹层嵌入
方式,可以瞬间提升被嵌入系统的服务能力,让被嵌入系统无需任何修改,就可以轻松接入 AI。插件无限扩展:系统
支持自定义插件
,可以让自有 api 灵活的与 AI 交互,从而提供回复的准确性和专业性,另外通过强大的MCP
可以无限制扩展 AI 的能力。
技术架构
语言: Java17 + JavaScript + Node.js
框架工具:Springboot3 + Langchain4j + Vue.js + ElementUI PLUS + NPM + Maven
数据库:PgSQL (vector 扩展) + MapDB
开发工具:IntelliJ IDEA + WebStorm + Navicat
本地开发建议版本
Java17、Node.js v22.17.0 、NPM 10.9.2 、PgSQL 15、Navicat Premium Lite 17
未提及的,可以使用任意版本或者项目中已经约定了版本。
一个基于 Spring Boot 3 + PostgreSQL + Vue 3 开发的企业级智能体开发平台,专注于通过 大语言模型(LLM) 和 编排技术 构建可嵌入业务系统的 AI 解决方案。其核心价值在于:
- 开箱即用
:降低企业 AI 应用开发门槛,支持快速部署。 - 模型中立
:兼容主流大模型及自建模型,避免技术绑定。 - 灵活编排
:通过可视化流程引擎实现多 Agent 协同,适配复杂业务场景。 - 无缝集成
:支持单页面/弹层嵌入,无需修改现有系统即可接入 AI 能力。
二、核心功能与技术亮点
1. 模型任选:多框架兼容与扩展性
- Langchain4j 框架
:统一接口设计,支持市面上主流大模型(如 OpenAI、智谱AI 等),同时兼容自建模型。 - OpenAI 标准接口
:降低迁移成本,企业可灵活切换模型供应商。 - 扩展性
:通过插件机制接入自有 API,满足定制化需求。
2. RAG 索引增强技术:消除幻觉,提升精度
- 私有数据适配
:针对企业私有文档(如技术手册、合同)进行向量化存储与相似度检索,有效解决大模型"幻觉"问题。 - 检索优化
:结合向量检索与全文检索,通过 RRF 算法重排结果,提升问答准确性。 - 引用溯源
:支持答案来源追溯,增强信息可信度。
3. 灵活编排:多 Agent 协同与可视化设计
- AntvX6 流程引擎
:拖拽式设计复杂业务逻辑,支持条件分支、API 调用等节点。 - 多 Agent 协作
:例如"产品文档生成"场景中,可定义"产品经理""研发工程师""审稿专家"等角色,通过消息调度实现任务分解与结果验证。 - 调试与监控
:提供完整的工作流运行日志,便于问题排查与性能优化。
4. 嵌入简单:两种部署方式
- 单页面部署
:独立运行 AI 问答界面,适用于客服、知识库等场景。 - 弹层嵌入
:以浮层形式集成至现有系统(如 ERP、CRM),用户无需跳转即可调用 AI 功能。 - 零修改接入
:被嵌入系统无需调整代码,通过 iframe 或 API 快速对接。
5. 插件无限扩展:MCP 协议与自定义能力
- MCP(Model Context Protocol)
:通过标准化协议扩展 AI 能力,例如接入数据库查询、外部 API 调用等。 - 自定义插件开发
:支持企业基于自有业务逻辑开发插件,提升回复专业性与准确性。
三、技术架构与开发环境
1. 技术栈
- 后端
: 语言:Java 17 框架:Spring Boot 3 + Langchain4j 数据库:PostgreSQL(支持 vector 扩展)+ MapDB AI 集成:智谱AI、OpenAI 等大模型 - 前端
: 语言:JavaScript + Node.js 框架:Vue 3 + Element UI Plus 构建工具:Vite + NPM 特色组件:Markdown 渲染( md-editor-v3
)、代码高亮(highlight.js
)、流程编排(@antv/x6
)
2. 开发环境建议
- Java 17
:确保与 Spring Boot 3 兼容。 - Node.js v22.17.0 + NPM 10.9.2
:支持前端构建与依赖管理。 - PostgreSQL 15
:启用 vector 扩展以支持向量检索。 - 开发工具
:IntelliJ IDEA(后端)、WebStorm(前端)、Navicat(数据库管理)。
四、应用场景与优势
1. 企业知识库
- 场景
:构建内部知识问答系统,支持技术文档、政策法规等私有数据检索。 - 优势
:RAG 技术消除幻觉,确保答案准确性;多 Agent 协作完成复杂查询。
2. 智能客服
- 场景
:替代传统客服,自动处理用户咨询。 - 优势
:嵌入简单,支持弹层交互;插件机制接入订单查询、工单系统等。
3. 数据分析助手
- 场景
:辅助业务人员分析报表、生成报告。 - 优势
:多 Agent 协作完成数据清洗、可视化、结论生成全流程。
4. 业务系统集成
- 场景
:为现有系统(如 CRM、ERP)添加 AI 能力。 - 优势
:零修改接入,通过 MCP 协议扩展功能(如自动生成销售话术)。
大语言模型 和 编排 的企业智能体开发平台
源代码
https://www.gitpp.com/websalt/project-sparkx
没有评论:
发表评论