From 1c2fe8e6cdc0dcc5776ef1865747eb763f526f9d Mon Sep 17 00:00:00 2001 From: zouxiaoyi Date: Thu, 6 Jun 2024 17:29:30 +0800 Subject: [PATCH] =?UTF-8?q?=E6=9B=B4=E6=96=B0=E7=AB=AF=E4=BE=A7AI=E6=A8=A1?= =?UTF-8?q?=E5=9E=8B=E7=AE=A1=E7=90=86=E5=B7=A5=E5=85=B7=E5=86=85=E5=AE=B9?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- ...41\345\236\213\347\256\241\347\220\206.md" | 53 +++++++++++++++++++ 1 file changed, 53 insertions(+) diff --git "a/04_\347\244\276\345\214\272\350\264\241\347\214\256/\345\274\200\345\217\221\346\214\207\345\215\227/\347\253\257\344\276\247AI\346\250\241\345\236\213\347\256\241\347\220\206.md" "b/04_\347\244\276\345\214\272\350\264\241\347\214\256/\345\274\200\345\217\221\346\214\207\345\215\227/\347\253\257\344\276\247AI\346\250\241\345\236\213\347\256\241\347\220\206.md" index 84642e70..ce22b813 100644 --- "a/04_\347\244\276\345\214\272\350\264\241\347\214\256/\345\274\200\345\217\221\346\214\207\345\215\227/\347\253\257\344\276\247AI\346\250\241\345\236\213\347\256\241\347\220\206.md" +++ "b/04_\347\244\276\345\214\272\350\264\241\347\214\256/\345\274\200\345\217\221\346\214\207\345\215\227/\347\253\257\344\276\247AI\346\250\241\345\236\213\347\256\241\347\220\206.md" @@ -1 +1,54 @@ # 端侧 AI 模型管理 + +openKylin 系统不仅支持云端模型,也支持本地大模型。系统中集成了麒麟 AI 模型管理工具,可以自动下载本地大模型。性能不错的机器可以使用本地大模型体验 AI 助手。 + +## 工具获取 + +麒麟模型管理工具包名是`kylin-model-management-tools`,新的 openKylin 系统中已经默认集成了此包。若你的系统中还没有,可以执行`sudo apt install kylin-model-management-tools`进行安装。 + +## 工具使用 + +### 工具启动 + +在终端中执行`kylin-model-downloader`或者在开始菜单中打开`麒麟模型管理工具`。 + +### 模型下载 + +当前支持的模型有三种,分别用于自然语言处理、语音识别和搜索。 + +#### 一键下载 + +模型管理工具支持一键下载,只需点击`一键下载`按钮,然后输入管理员密码即可。 + +#### 高级下载 + +用户也可以自行选择下载的模型。 + + - `自然语言处理`模型只有一个: + 1. 在`模型类型`处选择`nlp`; + 2. 点击`下载模型`按钮即可; + + - `语音识别`模型有 4 个: + 1. 在`模型类型`处选择`speech`; + 2. 在`模型名称`处选择一个模型; + 3. 点击`下载模型`按钮即可; + 4. 重复 2 和 3 直到下载完成所有`speech`模型; + + - `搜索`模型有 2 个: + 1. 在`模型类型`处选择`搜索`; + 2. 在`模型名称`处选择一个模型; + 3. 点击`下载模型`按钮即可; + 4. 重复 2 和 3 直到下载完成所有`搜索`模型; + +### 模型检查 + +工具中有一个`检查本地模型文件`按钮,用于检查下载模型的完整性。如果所有模型均存在且文件正确,则输出全为成功;若输出有失败,请重新下载对应模型。 + +### 工具退出 + +模型下载成功后,工具可以退出。 + +## 注意 + +1. 模型下载需要连接**可以访问`https://www.modelscope.cn/`的网络**。 +2. 初次下载模型时,需要先下载一些依赖,时间可能较长,请耐心等待。 -- Gitee