# 大模型智能体 **Repository Path**: elfbobo_admin_admin/Light-particle-software-robot ## Basic Information - **Project Name**: 大模型智能体 - **Description**: 1、私有化部署大模型,并提供api、jdbc、kafka等方式和第3方系统对接。2:提供数据清洗ETL,用户画像以及记忆体等功能,自动生成和优化提示词。3:提供调度、action优化、影刀RPA对接等1000+常用的工具库,方便大模型调用。4:满足常用的AIGC业务,如意图识别、NLP,并生成聊天、多媒体文案、场景和计划等。5:对LLM生成的聊天和计划等,都能无缝实现人工审核和接管。 - **Primary Language**: Java - **License**: Apache-2.0 - **Default Branch**: master - **Homepage**: http://8.130.66.117:8080/ui - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 12 - **Created**: 2024-03-18 - **Last Updated**: 2024-03-18 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # 光粒软件机器人 使用普通的PC电脑,没有互联网的情况下,还能享受到快速、私密的AI大模型服务——这不再是科幻小说的情节,而是已经成为现实。 # 大模型编排工具 1. 模型支持 Qwen、ChatGLM、Baichuan等常用大模型私有化部署。 2. 支持AIGC角色,支持生成api、网页、图片等。 3. 支持工作流角色,支持story和工作流配置,让机器按配置执行代码。 4. 支持api角色,支持执行系统里面存在的api。 5. 支持ELT角色,支持执行系统里面存在ELT和调度。 6. 通过大模型中间件,java,python等语言通过jdbc访问大模型. ![img_11.png](img_11.png) ## AIGC智能体 1. 内置大模型聊天机器人,根据机器的配置自由选择0.5B, 1.8B, 4B, 7B, 14B, 72B等模型。 2. 通过平台,定制聊天机器人实现AI助理、旅游AI助理、美食AI助理、购物AI助理等。 3. 通过大模型,自然语言生成sql。 4. 通过大模型,自然语言生成微服务api、网页、BI报表、工作流、调度等。 5. 通过大模型,生成文本、生成图片、生成视频。 6. 通过大模型,实现nlp的情感分析、文本分类、自然语言推理等。 7. 根据用户意图,能自动执行工作流、NLP文本提取和分类、图片识别、调用API、执行数据采集、生成图片等。 ![img_12.png](img_12.png) ## 工作流和Story智能体 1. 定义工作流和story节点。 2. 运行会话会对应启动一个story实例。 3. 按工作流和story逐一完成实体的提取,并且填充到参数里面。 4. 汇集参数的值,最后调用对应的智能体。 ## NLP和OCR智能体 1. 命名实体识别:抽取输入文本中的实体片段。 2. 关系抽取:抽取输入文本中具备特定关系类型的主客实体片段。 3. 事件抽取:抽取输入文本中相互联系的事件论元片段。 4. 属性情感抽取:抽取输入文本中特定对象的相关情感词片段。 5. 指代消解:判断给定代词是否指向文中的某一对象。 6. 情感分类:给定一段文本和候选情感标签,返回可以恰当表示该段文本情感倾向的标签。 7. 文本分类:给定一段文本和候选类别标签,返回可以恰当表示该段文本所属类别的标签。 8. 文本匹配:给定两段文本和相应相似度标签,返回可以恰当表示两段文本相似度的标签,文本相似度标签通常为“相似”,“不相似”两种。 9. 自然语言推理:给定两段文本和相应文本关系标签,返回可以恰当表示两段文本关系的标签,文本关系标签通常为“蕴含”,“矛盾”,“中立”三种。 10. 阅读理解:输入问题及参考文本,返回基于该段参考文本的问题答案,通常分为选择类阅读理解和抽取类阅读理解。 11. 视觉检测跟踪、 光学字符识别、 人脸人体、 视觉分类等。 ## 大数据ELT智能体 1. 提供50+常用关系型和非关系型数据库的集成。 2. 常用的txt,csv,excel,pdf等文件集成。 3. 常用的API集成。 4. kafka,rabbitmq等消息队列集成。 5. 通过大模型的OCR等技术,实现图片和视频的集成。 ## API编排智能体 1. 每张表自动生成500+微服务接口,100张表自动生成50000+的微服务接口。 2. 通过sql或托拉拽组件编排后发布为微服务接口。 3. 提供1000+以上的常用数据处理组件和函数等。 4. 内置dataops提升数据采集和共享的能力。 5. 内置3种计算引擎,包括flink、spark、微服务。 # 功能介绍 ![img_5.png](img_5.png) ![img_6.png](img_6.png) ![img_7.png](img_7.png) ![img_8.png](img_8.png) ![img_4.png](img_4.png) ![img_10.png](img_10.png) ![img_9.png](img_9.png) ## 新手必读 1. 数据治理智能机器人演示地址:http://8.130.66.117:8080/ui 2. 基于robotframework+智数通datax-cloud 开发的数据治理前端页面: 3. 抖音视频教程:![抖音.png](%E6%8A%96%E9%9F%B3.png) 4. 接受外包开发。联系邮箱: bie_zm@163.com ## 未来微服务架构要被微脑架构替换 基于yudao-cloud+kettle开源版本构建,通过强化学习,光粒机器人能自我学习,自我进化,越用越省钱! ![强化学习.png](%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0.png) 光粒软件机器人免费下载,并且功能会定期升级更新。 为了支持教育和培训事业,可以免费使用会员服务。 ## 软件机器人使用场景 1. 还在为搭建聊天机器人、订票预约系统、客服系统、医生律师咨询系统、AI平台等困惑吗? 2. 还在熬夜写测试方案和用例吗? 3. 还在搭建低代码平台,为组件版本冲突头疼吗? 4. 还在写需求原型,架构等设计文档? 5. 还在想去找软件外包吗? 6. 还在为信息集成平台和数据治理,数据安全睡不着吗? 7. 还在熬夜写增删改查的软件代码吗? 8. 还在为数字化转型苦恼吗? 9. 还在为小孩的未来不懂人工智能焦虑吗? 10. 还在为软件工程效率低,成本高不满意吗? ### 使用场景-可视化生成客服聊天机器人 1. 通过界面配置常见的客户问题。 2. 通过界面配置标准答案。 3. 配置机器人自动升级的周期,机器人能自学习和自进化。 ### 使用场景-可视化生成专家咨询机器人 1. 通过界面配置专业问题。 2. 通过界面配置标准答案。 3. 配置专家人工咨询规则。 4. 配置机器人自动升级的周期,机器人能自学习和自进化。 ### 使用场景-可视化生成订票点餐预约机器人 1. 通过界面配置订票、点餐、预约等常用问题。 2. 通过界面配置标准答案。 3. 定制订票、点餐、预约等用户输入表单。 4. 定制对表单的增加、删除、修改、删除等微服务接口。 5. 配置机器人自动升级的周期,机器人能自学习和自进化。 ### 使用场景-可视化生成OA工作流机器人 1. 通过界面配置常用的OA问题。 2. 通过界面配置标准答案。 3. 配置OA工作流的节点、用户、角色、权限等。 4. 配置每个节点上访问数据库的微服务接口。 5. 配置机器人自动升级的周期,机器人能自学习和自进化。 ### 使用场景-可视化生成购物机器人 1. 通过界面配置购物问题。 2. 通过界面配置标准答案。 3. 配置对接购物平台。 4. 配置购物工作流和微服务接口。 5. 配置机器人自动升级的周期,机器人能自学习和自进化。 ### 使用场景-MLOps和机器人结合 ![img.png](img.png) 1. 集成了常用知识图谱、机器学习、深度学习算法等粒子组件。 2. 机器人提供完善的MLOps平台,方便扩展自己的业务算法和模型粒子组件。 3. 采用机器人比传统MLOps,效率提升3倍以上。 4. 使用Huggingface的NLU模型(如BERT)或使用Keras、Tensorflow等库/框架,备用为OpenAI GPT,建立复杂的对话管道。 5. 使用Langchain扩展主体、记忆等能力。 6. 模式支持多租户、会话、数据存储。 7. 自定义智能体个性, 保存所有聊天历史并从所有交互中创建embeddings,以适应未来的检索策略。 8. 从知识库语料库和客户反馈中自动生成embeddings。 9. 支持Telegram,轻松集成Slack、Whatsapp、Line、短信等 10. 通过python组件,拖拉拽把模型直接发布成微服务。 10. 程序员只是需要 做模型开发和数据开发,剩下功能全部交给机器人。 ### 使用场景-企业数据集成和治理架构改进 ![img_1.png](img_1.png) 1. 数据治理分3个套餐:数据集成、轻量治理、智能数据治理。 2. 根据不同的粒子组件,我们可以选择不用的数据治理套餐。 3. 系统提供接近1000+组件,基本能满足常用的数据治理。 4. 传统ELT架构会产生大量中间表,采用数据编织技术,不用中间表实现T+0实时查询,速度提升3倍以上。 5. 通过AI模型辅助对采集的数据筛选、去重、查缺补漏、平滑噪音等。 通过AI算法对数据进行自动分类和打标签。 构建图谱模型,形成基于元数据和业务关联的关系。 准确识别出数据安全风险,提高风险识别的效率和准确性。 根据自然语言生成BI报表和各种指标。 6. 采用机器人比传统DataOps,效率提升5倍以上。 7. 程序员只是需要 做数据开发,剩下功能全部交给机器人。 ### 使用场景-机器人和微服务架构相结合 ![img_2.png](img_2.png) 1. 1个表自动生成500+接口,100个表机器人秒级生成50000+常用接口,能满足常用的CRUD场景,基本零代码实现。 2. 多库(文件+关系库,关系库+关系库,关系库+非关系库等)关联查询,采用数据编织技术,不需要中间表,T+0实时查询。 3. 文件读写(excel等)、队列(kafka等)、MQTT等需要通过可视化服务对接。 4. 人工编写业务粒子组件,沉淀出属于自己的特殊行业的粒子组件。 5. 采用机器人比传统开发微服务,效率提升10倍以上。 6. 程序员只是需要 做业务组件开发,剩下功能全部交给机器人。 ### 使用场景-企业人AI中台和聊天机器人架构改进 1. 集成了常用知识图谱、机器学习、深度学习算法等粒子组件。 2. 机器人提供完善的MLOps平台,方便扩展自己的业务算法和模型粒子组件。 3. 采用机器人比传统MLOps,效率提升3倍以上。 4. 使用Huggingface的NLU模型(如BERT)或使用Keras、Tensorflow等库/框架,备用为OpenAI GPT,建立复杂的对话管道。 5. 使用Langchain扩展主体、记忆等能力。 6. 模式支持多租户、会话、数据存储。 7. 自定义智能体个性, 保存所有聊天历史并从所有交互中创建embeddings,以适应未来的检索策略。 8. 从知识库语料库和客户反馈中自动生成embeddings。 9. 支持Telegram,轻松集成Slack、Whatsapp、Line、短信等 ### 比传统的低代码平台效率提升点 1. 基于yudao低代码平台开发,低代码平台和机器人功能相互补充。 2. 集成了40+基础粒子组件,粒子自动生成800+常用的接口,包括使用常用的函数、视图、存储过程等。 3. 对于复杂流程通过可视化拖拉拽的方式实现微服务。 4. 自动生成测试用例。 5. crud等基本接口不用开发,初级程序员可视化编程,中级程序员完善业务组件库,高级程序员设计数据架构。 ### 比传统的数据集成、数据治理效率提升点 1. 通过可视化拖拉拽的实现ELT的数据采集和DataOps。 2. 集成了kettle+nifi+streamsets+公司自定义子组件,接近1000+组件,能满足常用的结构化数据、非结构化数据集成需求。 3. 集成了元数据管理、数据标准、数据质量、数据建模、任务开发、资产目录、微服务市场、主数据、数据安全等组件。 4. 兼容传统的ETL和ELT架构,推荐使用数据编织技术。 5. 用户可以基于数据治理组件库做2次开发和扩展。 ### 比传统AI中台效率提升点 1. 通过可视化拖拉拽的实现MLOPS。 2. 集成了30+的常用知识图谱、机器学习、AI算法等粒子组件和模版。 3. 集成了样本标记、样本数据、基础算法组件库、模型中心、AI微服务市场等组件。 4. 用户可以基于AI组件库做2次开发和扩展。 ## 对中小型IT企业的价值点 1. 购买机器人会员,企业数字化转型的效率可以提升10倍以上。 1. 数据集成机器人:提供关系型数据库、非关系型数据库、第3方API、消息队列、文件、数据转换、机器学习、NLP等组件600+。 2. 信息系统零代码机器人:全自动生成CRUD和统计接口,复杂的数据处理微服务接口通过拖拉拽实现。 3. 数据治理和编织机器人:利用AI和大模型实现 自动生成数据流、数据质量、主数据等。 4. AI模型机器人:零门槛建模、数据特征工程,模型实验,模型的一键部署等的全生命周期。 5. 软件工程SE机器人:输入IT需求描述,自动生成需求原型,开发任务,测试用例、数据库设计、微服务接口、UI界面、自动化测试脚本、自动部署打包等。 6. 如果感觉系统自带的模型不准,可以切换大模型。 7. 如果感觉大模型不准,可以从组件市场购买第3方模型和组件。 8. 组件市场找不到特殊模型和组件,可以发布外包任务。 ## 对微型企业和个人的价值点 1. 通过聊天机器人助理协助企业OA流程的流转和审批。 2. 通过聊天机器人助理提升企业办公效率。 3. 研发模型的算法和模型,发布到组件市场。 4. 对接外包需求和任务,发布到组件市场。 5. 制作学习案例和视频,发布到组件市场。 6. 注册会员,推荐新会员能拿提成。 7. 把重复、繁重的工作交给机器人,像玩游戏一样工作,头发也不掉了,颈椎和腰椎也不疼了,多年的老抑郁症也好了:) ## 对于学生价值点 1. 学习用途的软件机器人 完全免费,对应学生的不同阶段,机器人默认附带相关例子和视频。 2. 如果系统自带案例和教学视频看不懂,可以从组件市场购买第3方案例和教学视频。 3. 幼儿园和小学阶段, 通过机器人学习 变量、数组、条件、循环等 4. 初中阶段, 通过机器人学习 函数、接口、对象等。 5. 高中阶段, 通过机器人学习 数据库 、redis等。 6. 大学初级阶段,通过机器人学习 物联网、消息队列、大数据、数据治理、VRAR等。 7. 大学高级阶段,通过机器人学习 机器学习、深度学习、大模型等。 8. 学好人工智能和大模型等,年薪百万不是梦。 ## 软件机器人亮点功能展示 1. 自动生成关系型数据库的增加、修改、删除、查询、统计等常用的微服务接口展示。 2. 拖拉拽自定义生成 跨库查询、spark统计、flink统计、机器学习、深度学习等微服务接口展示。 3. 编写和发布 自定义组件、模型到组件市场展示。 4. 机器人生成文件展示。 5. 机器人的个性化训练和模型使用展示。 6. 自动生成测试用例展示。 7. 自动生成ui界面、js代码展示。 ## 机器人启动环境和命令 1. 需要在Linux上运行,windows系统暂不支持。 2. 从【发行版】下载最新的版本,安装jdk18以上。 3. 安装nacos和git。 4. 设置整个目录有读写权限。 5. 修改./webappsROOT/BOOT-INF/classes/bootstrap.yaml 的nacos配置。 5. 修改./webapps/ROOT/index.js的机器人ip。 6. 启动./bin/start.sh。