From 3471c6e1db88e94dca414c141a9513c32f4fd2ea Mon Sep 17 00:00:00 2001 From: hwxu Date: Tue, 11 Feb 2025 03:44:50 +0000 Subject: [PATCH] =?UTF-8?q?update=20docs/zh/docs/AI/openEuler=5FCopilot=5F?= =?UTF-8?q?System/=E9=83=A8=E7=BD=B2=E6=8C=87=E5=8D=97/=E6=97=A0=E7=BD=91?= =?UTF-8?q?=E7=BB=9C=E7=8E=AF=E5=A2=83=E4=B8=8B=E9=83=A8=E7=BD=B2=E6=8C=87?= =?UTF-8?q?=E5=8D=97.md.=20=E4=BF=AE=E6=94=B9markdown=E6=A0=BC=E5=BC=8F?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- ...50\347\275\262\346\214\207\345\215\227.md" | 34 +++++++++---------- 1 file changed, 17 insertions(+), 17 deletions(-) diff --git "a/docs/zh/docs/AI/openEuler_Copilot_System/\351\203\250\347\275\262\346\214\207\345\215\227/\346\227\240\347\275\221\347\273\234\347\216\257\345\242\203\344\270\213\351\203\250\347\275\262\346\214\207\345\215\227.md" "b/docs/zh/docs/AI/openEuler_Copilot_System/\351\203\250\347\275\262\346\214\207\345\215\227/\346\227\240\347\275\221\347\273\234\347\216\257\345\242\203\344\270\213\351\203\250\347\275\262\346\214\207\345\215\227.md" index 4a7712788..b912e3599 100644 --- "a/docs/zh/docs/AI/openEuler_Copilot_System/\351\203\250\347\275\262\346\214\207\345\215\227/\346\227\240\347\275\221\347\273\234\347\216\257\345\242\203\344\270\213\351\203\250\347\275\262\346\214\207\345\215\227.md" +++ "b/docs/zh/docs/AI/openEuler_Copilot_System/\351\203\250\347\275\262\346\214\207\345\215\227/\346\227\240\347\275\221\347\273\234\347\216\257\345\242\203\344\270\213\351\203\250\347\275\262\346\214\207\345\215\227.md" @@ -122,8 +122,8 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot wget https://repo.oepkgs.net/openEuler/rpm/openEuler-22.03-LTS/contrib/EulerCopilot/text2vec-base-chinese-paraphrase.tar.gz ``` -- 镜像包下载 - - x86或arm架构的EulerCopilot服务的各组件镜像单独提供 +- 镜像包下载 + x86或arm架构的EulerCopilot服务的各组件镜像单独提供 ### 3. 安装部署工具 @@ -319,7 +319,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot vim values.yaml ``` - - 注意： + 注意： 1. authHub 需要域名，可预先申请域名或在 'C:\Windows\System32\drivers\etc\hosts' 下配置。 authhub和euler-copilot必须是同一个根域名的两个子域名, 例如authhub.test.com和 eulercopilot.test.com @@ -350,7 +350,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot - 登录 AuthHub - AuthHub 的域名以 为例，浏览器输入`https://authhub.test.com`, 登录界面如下图所示： + AuthHub 的域名以 为例，浏览器输入, 登录界面如下图所示： ![部署图](./pictures/authhub登录界面.png) @@ -379,7 +379,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot vim values.yaml ``` - - 注意： + 注意： 1. 查看系统架构，并修改values.yaml中的tag； 2. 修改values.yaml中的globals的domain为EulerCopilot域名，并配置大模型的相关信息 3. 手动创建`docs_dir`、`plugin_dir`、`models`三个文件挂载目录 @@ -455,7 +455,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot ## 验证安装 恭喜您，openEuler Copilot System 的部署已完成！现在，您可以开启智能问答的非凡体验之旅了。 -请在浏览器中输入 https://$(host_ip):8080 或 （其中 port 默认值为8080，若更改则需相应调整）访问 openEuler Copilot System 网页，并尝试进行问答体验。 +请在浏览器中输入 或 （其中 port 默认值为8080，若更改则需相应调整）访问 openEuler Copilot System 网页，并尝试进行问答体验。 ![Web 界面](./pictures/WEB界面.png) @@ -466,13 +466,13 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot ## 构建专有领域智能问答 ### 1. 构建 openEuler 专业知识领域的智能问答 - - 1. 修改 values.yaml 的 pg 的镜像仓为 `pg-data` - 2. 修改 values.yaml 的 rag 部分的字段 `knowledgebaseID: openEuler_2bb3029f` - 3. 将 `vim euler-copilot-helm/chart/databases/templates/pgsql/pgsql-deployment.yaml` 的 volumes 相关字段注释 - 4. 进入 `cd euler-copilot-helm/chart/databases`，执行更新服务 `helm upgrade -n euler-copilot databases .` - 5. 进入 `cd euler-copilot-helm/chart/euler_copilot`，执行更新服务 `helm upgrade -n euler-copilot service .` - 6. 进入网页端进行 openEuler 专业知识领域的问答 + +1. 修改 values.yaml 的 pg 的镜像仓为 `pg-data` +2. 修改 values.yaml 的 rag 部分的字段 `knowledgebaseID: openEuler_2bb3029f` +3. 将 `vim euler-copilot-helm/chart/databases/templates/pgsql/pgsql-deployment.yaml` 的 volumes 相关字段注释 +4. 进入 `cd euler-copilot-helm/chart/databases`，执行更新服务 `helm upgrade -n euler-copilot databases .` +5. 进入 `cd euler-copilot-helm/chart/euler_copilot`，执行更新服务 `helm upgrade -n euler-copilot service .` +6. 进入网页端进行 openEuler 专业知识领域的问答 ### 2. 构建项目专属知识领域智能问答 @@ -502,7 +502,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot python3 -m fastchat.serve.controller ``` - - 按 Ctrl A+D 置于后台 + 按 Ctrl A+D 置于后台 3. 创建新终端 api @@ -555,7 +555,7 @@ openEuler Copilot System 是一款智能问答工具，使用 openEuler Copilot python3 -m fastchat.serve.vllm_worker --model-path /root/models/Qwen1.5-14B-Chat/ --model-name qwen1.5 --num-gpus 8 --gpu-memory-utilization=0.7 --dtype=half ``` - - 按 Ctrl A+D 置于后台 + 按 Ctrl A+D 置于后台 5. 按照如下方式配置文件，并更新服务。 @@ -610,7 +610,7 @@ curl -k -X POST "http://localhost:8005/kb/get_answer" -H "Content-Type: applic "fetch_source": true }' ``` -### 3. 执行 `helm upgrade` 报错? +### 3. 执行 `helm upgrade` 报错？ ```text Error: INSTALLATI0N FAILED: Kubernetes cluster unreachable: Get "http:/localhost:880/version": dial tcp [:1:8089: connect: connection refused @@ -704,7 +704,7 @@ pip show flashinfer 3. CUDA 版本：确保你的系统上安装了 CUDA 12.1 和 PyTorch 2.4，因为 `flashinfer` 包依赖于这些特定版本。 4. 线程池大小：根据你的GPU资源和预期负载调整线程池大小。如果你有 8 个 GPU，那么可以选择 --tp 8 来充分利用这些资源。 -### 7. 如何 curl embedding? +### 7. 如何 curl embedding？ ```bash curl -k -X POST http://$IP:8001/embedding \ -- Gitee