# local-fast-gpt

**Repository Path**: dev-linhu/local-fast-gpt

## Basic Information

- **Project Name**: local-fast-gpt
- **Description**: ##Docker一键启动FastGpt+OneApi+Mysql+Redis+重排模型(re-rank)+向量模型(m3e)+大模型 model(chatglm2)
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 2
- **Forks**: 3
- **Created**: 2024-03-23
- **Last Updated**: 2025-03-05

## Categories & Tags

**Categories**: Uncategorized

**Tags**: Docker, Python, gpt

## README

## [Docker一键启动FastGpt+OneApi+Mysql+Redis+重排模型(re-rank)+向量模型(m3e)+大模型 model(chatglm2)](https://gitee.com/dev-linhu/local_fast_gpt)

##### 引用项目
[FastGpt](https://github.com/linhue/FastGPT/tree/main) 
[OneApi](https://github.com/songquanpeng/one-api)


## 启动
##### 第一步 拉取项目代码并使用启动docker启动

```
git clone https://gitee.com/dev-linhu/local-docker.git

cd local_fast_gpt
cd docker-compose.sample.yaml docker-compose.yaml
docker-compose up -d

```
#### 第二步 mysql启动需要手动创建oneapi数据库

```
docker exec -it mysql8.3.0 bash 
# mysql默认密码为启动文件中MYSQL_ROOT_PASSWORD变量 asdasdasdasdavcgfafsda
mysql -uroot -p 

CREATE DATABASE oneapi;
```
 
#### 本地启动大语言模型
##### 1.本地大模型和向量化模型放置在model文件夹内

```
# 如需更换模型 请修改run.py from_pretrained 方法传入的模型名称，可写本地路径 
python model\Qwen\Qwen1.5-1.8B-Chat\run.py

```