# dify-mysql-llm

**Repository Path**: fly-llm/dify-mysql-llm

## Basic Information

- **Project Name**: dify-mysql-llm
- **Description**: 将开源项目dify切换成MySQL 数据库 dify-mysql-llm
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 9
- **Forks**: 7
- **Created**: 2023-12-27
- **Last Updated**: 2025-03-10

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README


#### 开源Dify.ai

Dify.ai是一个易于使用的LLMOps（Large Language Model Operations）平台，
它可以帮助您的团队基于诸如GPT-4等模型开发AI应用，并通过视觉操作来进行操作​。
这个平台让你能够简单地创建并运营基于GPT-4的AI本地应用​。

github 地址：

https://github.com/langgenius/dify.git

https://gitee.com/dify_ai/dify


#### 大模型知识库系统，使用 dify+fastchat+milvus+mysql实现

| 项目 | 介绍 | 端口 |
|--|--| --|
| dify | dify | 80 |
| mysql | 数据库 | 3306 |
| milvus | 向量数据库 | 19530 |
| fastchat | 模型服务ChatGLM3，BGE-zh，对外API | 8000 |


## 启动 dify 启动


```bash
cd dify-docker-compose
docker-compose up -d
```

## 启动 fastchat LLM+embedding 的api 服务

需要执行下载模型脚本再启动才可以，只支持linux系统。
前提要安装docker和nvidia-docker 才可以，只能在GPU上运行

```bash
cd fastchat-docker-compose
sh download_and_run.sh
```

## 配置 doker 

```json
{
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
  },
  "registry-mirrors": [ 
	  "https://mirror.ccs.tencentyun.com"
  ]
}
```

## 增加 大模型支持

chatglm3 大模型

qwen 大模型

yi-6b 大模型


#### 升级日至

2023.01.17 升级到dify 0.4.7 版本
2023.01.19 升级到dify 0.4.9 版本