From 37c09497392bfcb49b8e632fb7870092a1f6c50e Mon Sep 17 00:00:00 2001 From: lzk Date: Tue, 5 Jan 2021 23:07:22 -0800 Subject: [PATCH] ms lite build modify --- tutorials/lite/source_zh_cn/use/build.md | 47 ++++++++++++++++++++++-- 1 file changed, 44 insertions(+), 3 deletions(-) diff --git a/tutorials/lite/source_zh_cn/use/build.md b/tutorials/lite/source_zh_cn/use/build.md index 9dd636836c..f17aa61213 100644 --- a/tutorials/lite/source_zh_cn/use/build.md +++ b/tutorials/lite/source_zh_cn/use/build.md @@ -106,6 +106,7 @@ MindSpore Lite提供编译脚本`build.sh`用于一键式编译，位于MindSpor | -o | 设置该参数，则编译基准测试工具、静态库裁剪工具，默认为on | on、off | 否 | | -t | 设置该参数，则编译测试用例，默认为off | on、off | 否 | | -T | 是否编译训练版本工具，默认为off | on、off | 否 | +| -W | x86_64架构指令集优化是否开启及可选的优化方案，默认为off | avx、sse、off | 否 | > 在`-I`参数变动时，如`-I x86_64`变为`-I arm64`，添加`-i`参数进行增量编译不生效。 > @@ -197,6 +198,18 @@ git clone https://gitee.com/mindspore/mindspore.git bash build.sh -I x86_64 -T on ``` +- 编译x86_64架构avx指令集优化版本。 + + ```bash + bash build.sh -I x86_64 -W avx + ``` + +- 编译x86_64架构sse指令集优化版本。 + + ```bash + bash build.sh -I x86_64 -W sse + ``` + ### 端侧推理框架编译输出 执行编译指令后，会在`mindspore/output/`目录中生成如下文件： @@ -205,6 +218,8 @@ git clone https://gitee.com/mindspore/mindspore.git - `mindspore-lite-{version}-inference-{os}-{arch}.tar.gz`：包含模型推理框架runtime、基准测试工具benchmark、库裁剪工具cropper。 +- `mindspore-lite-{version}-inference-{os}-x64-{IS}.tar.gz`：包含模型推理框架runtime、基准测试工具benchmark、库裁剪工具cropper（仅在x86_64架构下开启指令集优化时生成）。 + - `mindspore-lite-maven-{version}.zip`：包含模型推理框架runtime(java)的AAR。 > version: 输出件版本号，与所编译的分支代码对应的版本一致。 @@ -212,12 +227,15 @@ git clone https://gitee.com/mindspore/mindspore.git > os: 输出件应部署的操作系统。 > > arch: 输出件应部署的系统架构。 +> +> IS(Instruction Set): avx/sse指令集优化 执行解压缩命令，获取编译后的输出件： ```bash tar -xvf mindspore-lite-{version}-converter-{os}-{arch}.tar.gz tar -xvf mindspore-lite-{version}-inference-{os}-{arch}.tar.gz +tar -xvf mindspore-lite-{version}-inference-{os}-x64-{IS}.tar.gz unzip mindspore-lite-maven-{version}.zip ``` @@ -427,6 +445,7 @@ MindSpore Lite提供编译脚本build.bat用于一键式编译，位于MindSpore | 参数 | 参数说明 | 是否必选 | | -------- | ----- | ---- | | lite | 设置该参数，则对MindSpore Lite工程进行编译 | 是 | +| avx/sse/off | 该参数对MindSpore Lite进行avx或者sse指令集优化,默认off不进行指令集优化 | 否 | | [n] | 设定编译时所用的线程数，否则默认设定为6线程 | 否 | ### 编译示例 @@ -439,32 +458,54 @@ git clone https://gitee.com/mindspore/mindspore.git 然后，使用cmd工具在源码根目录下，执行如下命令即可编译MindSpore Lite。 -- 以默认线程数（6线程）编译Windows版本。 +- 以默认线程数（6线程），不进行指令集优化编译Windows版本。 ```bat call build.bat lite ``` -- 以指定线程数8编译Windows版本。 +- 以指定线程数为8，不进行指令集优化编译Windows版本。 ```bat call build.bat lite 8 ``` +- 以指定线程数为8，不进行指令集优化编译Windows版本。 + +```bat +call build.bat lite off 8 +``` + +- 以指定线程数为8，avx指令集优化编译Windows版本。 + +```bat +call build.bat lite avx 8 +``` + +- 以指定线程数为8，sse指令集优化编译Windows版本。 + +```bat +call build.bat lite sse 8 +``` + ### 端侧推理框架编译输出 编译完成后，进入`mindspore/output/`目录，可查看编译后生成的文件。文件分为以下几种： - `mindspore-lite-{version}-converter-win-x64.zip`：包含模型转换工具converter。 -- `mindspore-lite-{version}-inference-win-x64.zip`：包含模型推理框架runtime、基准测试工具benchmark。 +- `mindspore-lite-{version}-inference-win-x64.zip`：不开启指令集优化下模型推理框架runtime和基准测试工具benchmark。 +- `mindspore-lite-{version}-inference-win-x64-{IS}.zip`：开启IS（指令集）优化下模型推理框架runtime和基准测试工具benchmark。 > version：输出件版本号，与所编译的分支代码对应的版本一致。 +> +> IS(Instruction Set): avx/sse指令集优化 执行解压缩命令，获取编译后的输出件： ```bat unzip mindspore-lite-{version}-converter-win-x64.zip unzip mindspore-lite-{version}-inference-win-x64.zip +unzip mindspore-lite-{version}-inference-win-x64-{IS}.zip ``` #### 模型转换工具converter目录结构说明 -- Gitee