# 大模型智能体

**Repository Path**: biehaocheng/Light-particle-software-robot

## Basic Information

- **Project Name**: 大模型智能体
- **Description**: 1、私有化部署大模型，并提供api、jdbc、kafka等方式和第3方系统对接。2：提供数据清洗ETL，用户画像以及记忆体等功能，自动生成和优化提示词。3：提供调度、action优化、影刀RPA对接等1000+常用的工具库，方便大模型调用。4：满足常用的AIGC业务，如意图识别、NLP，并生成聊天、多媒体文案、场景和计划等。
- **Primary Language**: Java
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: http://8.130.66.117:8080/ui
- **GVP Project**: No

## Statistics

- **Stars**: 29
- **Forks**: 12
- **Created**: 2023-11-26
- **Last Updated**: 2025-07-25

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# 大模型智能体工具
1. 大模型智能体工具是一个用于大模型数据库、RAG、多代理大模型应用的产品。
2. 快速构建和部署 AI 驱动的应用程序。
3. 无需深入了解底层技术，即可利用最新的 AI 模型和 API。
4. 通过可视化界面简化开发流程，提高效率。
![img_8.png](img_8.png)
![img_9.png](img_9.png)
![img_5.png](img_5.png)

## 主要特点
1. 与模型、API、数据源或数据库无关。
2. 可视化IDE,通过拖放方式构建和测试工作流。
3. 立即测试和迭代工作流,具有逐步控制功能。
4. 多代理协调,管理和检索对话。
5. 工作流就是API,也可以导出或生成API,默认通过nacos+gateway提供微服务,也可以使用大模型数据库调用。
6. 企业级的应用,安全性和可扩展性,支持通过java,python,js等自由扩展组件。
7. 自定义工作流,方便创建流程。
8. 方便生态系统集成,作为模型、API 或数据库的可重用组件。
9. 集成git,Jenkins,grafana等,方便对项目的统计,监控,版本控制,部署发布等。

## 私有化分布式知识库大模型
1. 系统默认使用qwen0.5B和7B大模型作为基础的大模型。
2. 用户可以自己方便增加大模型的数据源（excel，pdf，txt，图片,视频,各种数据库等）。
3. 根据客户机器的配置自由选择0.5B, 1.8B, 4B, 7B, 14B, 72B等模型。
4. 通过jdbc和api的方式访问大模型，方便集成到大模型智能体。
5. 借鉴hadoop的MapReduce的架构，利用cpu集群和低配GPU共同达到高端GPU效果，解决高端GPU芯片卡脖子的难题。
6. 可视化零代码生成客服机器人,数字人和各种OA工作流,系统默认自带系统运维和医生数字人,小病可以不用去医院看医生。
7. 增加大模型生成工作流、调度任务、md文件。
8. 增加大模型生成svg文件。
9. 增加大模型生成界面原型、流程设计、数据库设计的drawio文件。
10. 增加大模型生成html文件
11. 增加可以在线编辑 md文件，svg文件，drawio设计文件，3D的文件，
12. 增加web版本的ssh，并且通过大模型在ssh直接和linux用中文对话，用中文执行linux命令
13. 增加可以在线查看doc，excel，pdf，能上传，下载。
![img_10.png](img_10.png)
![img_11.png](img_11.png)
![img_6.png](img_6.png)

## 大模型数据库
1. 数据库结合大模型，可以通过jdbc，odbc，API方便访问大模型。
2. 提供20多个常用的大模型接口。
3. 提供PIP功能实现数据fabric的桥接能力，对于数据库的表不用做数据迁移，直接在sql里面查询，还可以把api，xml，json，pdf等当表查询。
4. 大模型+RAG+强化学习相结合,减少大大模型幻觉。

![img_23.png](img_23.png)
![img_24.png](img_24.png)
![img_25.png](img_25.png)

## hadoop+agent智能体，实现离线场景下CPU集群替换GPU，解决芯片卡脖子的问题
![img_22.png](img_22.png)

## RAG查询和生成知识库大模型
1. 按目录和文件查询、生成文件；
2. 按目录把文件加载到知识库，根据不同的权限查询不同的目录；

![img_13.png](img_13.png)
![img_14.png](img_14.png)
![img_19.png](img_19.png)
![img_20.png](img_20.png)
![img_21.png](img_21.png)

## 通过jdbc实现对大模型的数据进行增删查改
1. 通过jdbc调用rag_chat存储过程,通过RAG从知识库查询数据。
2. 通过jdbc调用rag_sql存储过程,通过自然语言转sql在数据库查询数据。
3. 通过jdbc调用rag_dir2vec存储过程,把文件目录下的pdf，word，excel，图片，mp3等文件加入RAG。
4. 通过jdbc调用rag_db2vec存储过程,把数据库的记录加入RAG。
5. 通过jdbc调用reg_delvec存储过程,从RAG里面删除数据。
![img_7.png](img_7.png)

## linux终端SSH +大模型
1. shell理解中文输入命令，不用记忆繁琐的linux命令。
2. 可以在linux上和大模型聊天。
![img_15.png](img_15.png)
![img_16.png](img_16.png)
![img_17.png](img_17.png)
![img_18.png](img_18.png)

## 智能体配置

1. 通过爬虫或数据的ETL采集数据。
2. 数据清洗过后，根据场景和需求，让大模型生成常用的prompt模板，通过人工审核后，发布到prompt库。
3. 读取内置的知识库和历史的聊天，作为记忆体的上下文。
4. 生成用户的画像profile，作为prompt的人格设定。
5. 根据场景和需求，让大模型生成story和steps，通过人工审核后，发布到story库。
6. 如果是定时调度的story，如晚上8点整模拟发朋友圈，需要发布到调度工具。
7. 配置和审核好上面的内容，大模型智能体就可以运行了。
![img_1.png](img_1.png)
![img_2.png](img_2.png)

## story(场景)识别

1. 从kafka获取到客户的聊天信息。
2. 通过对客户的聊天内容进行意图分析，识别出系统已经存在的story（场景）。
3. 如果story（场景）识别成功，会自动触发story（场景）的聊天工具。
4. 如果没有识别成功，转人工接管或大模型自己闲聊。
![img_3.png](img_3.png)

## AIGC自优化

1. 通过平台,定制聊天机器人实现AI助理、旅游AI助理、美食AI助理、购物AI助理等story。
2. 通过大模型，自然语言生成sql。
3. 通过大模型，自然语言生成微服务api、网页、BI报表、工作流、调度等。
4. 通过大模型，生成文本、生成图片、生成视频。
5. 通过大模型，实现nlp的情感分析、文本分类、自然语言推理等。
6. 根据用户意图，能自动执行工作流、NLP文本提取和分类、图片识别、调用API、执行数据采集、生成图片等。
7. 通过对历史数据的学习，大模型生成的内容越用越准。
![img_4.png](img_4.png)


# 新手必读

1. 大模型智能体（软件机器人）演示地址：http://8.130.66.117:8080/ui
2. 抖音视频教程：![抖音.png](%E6%8A%96%E9%9F%B3.png)



# 机器人启动环境和命令

1. 需要在Linux上运行，windows系统暂不支持。
2. 从【发行版】下载最新的版本，安装jdk18以上。
3. 安装nacos和git。
4. 设置整个目录有读写权限。
5. 修改./webappsROOT/BOOT-INF/classes/bootstrap.yaml 的nacos配置。
5. 修改./webapps/ROOT/index.js的机器人ip。
6. 启动./bin/start.sh。