# pytorch **Repository Path**: wangshouce/pytorch ## Basic Information - **Project Name**: pytorch - **Description**: Ascend PyTorch adapter - **Primary Language**: Python - **License**: BSD-3-Clause - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 1178 - **Created**: 2023-06-14 - **Last Updated**: 2023-11-08 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # PyTorch Ascend Adapter插件 ## 简介 本项目开发了名为**torch_npu**的**PyTorch Ascend Adapter**插件，使昇腾NPU可以适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。 昇腾为基于华为昇腾处理器和软件的行业应用及服务提供全栈AI计算基础设施。您可以通过访问[昇腾社区](https://www.hiascend.com/zh/)，了解关于昇腾的更多信息。 ## 安装 ### 使用二进制文件进行安装 我们为用户提供可以快速安装**torch_npu**的whl安装包。在安装**torch_npu**之前，您需要先安装**CANN**软件。[昇腾辅助软件](#昇腾辅助软件)中有更多关于CANN的版本信息。请参考[CANN安装指南](https://www.hiascend.com/zh/software/cann/community)获取**CANN**安装包。 1. **安装PyTorch** 通过 pip 安装 PyTorch。 **aarch64:** ```Python pip3 install torch==2.1.0 ``` **x86:** ```Python pip3 install torch==2.1.0+cpu --index-url https://download.pytorch.org/whl/cpu ``` 若使用pip命令安装失败，请使用下载链接或进入[PyTorch官方网站](https://pytorch.org/)进行查询下载对应版本。 | 架构 | Python版本 | 下载链接 | | ------- | ---------- | ------------------------------------------------------------ | | x86 | Python3.8 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0%2Bcpu-cp38-cp38-linux_x86_64.whl#sha256=9e5cfd931a65b38d222755a45dabb53b836be31bc620532bc66fee77e3ff67dc) | | x86 | Python3.9 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0%2Bcpu-cp39-cp39-linux_x86_64.whl#sha256=86cc28df491fa84738affe752f9870791026565342f69e4ab63e5b935f00a495) | | x86 | Python3.10 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0%2Bcpu-cp310-cp310-linux_x86_64.whl#sha256=5077921fc2b54e69a534f3a9c0b98493c79a5547c49d46f5e77e42da3610e011) | | aarch64 | Python3.8 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0-cp38-cp38-manylinux_2_17_aarch64.manylinux2014_aarch64.whl#sha256=761822761fffaa1c18a62c5deb13abaa780862577d3eadc428f1daa632536905) | | aarch64 | Python3.9 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0-cp39-cp39-manylinux_2_17_aarch64.manylinux2014_aarch64.whl#sha256=de7d63c6ecece118684415a3dbd4805af4a4c1ee1490cccf7405d8c240a481b4) | | aarch64 | Python3.10 | [下载链接](https://download.pytorch.org/whl/cpu/torch-2.1.0-cp310-cp310-manylinux_2_17_aarch64.manylinux2014_aarch64.whl#sha256=a04a0296d47f28960f51c18c5489a8c3472f624ec3b5bcc8e2096314df8c3342) | 2. **安装torch_npu依赖** 运行一下命令安装依赖。 ```Python pip3 install pyyaml pip3 install setuptools ``` 3. **安装torch_npu** ``` pip3 install torch-npu==2.1.0rc1 ``` ### 使用源代码进行安装 某些特殊场景下，用户可能需要自行编译**torch_npu**。可以根据[昇腾辅助软件表](#昇腾辅助软件)和[PyTorch与Python版本配套表](#PyTorch与Python版本配套表)选择合适的分支。推荐使用Docker镜像编译**torch_npu**，可以通过以下步骤获取： 1. **克隆torch_npu代码仓** ``` git clone https://gitee.com/ascend/pytorch.git -b v2.1.0-5.0.rc3 --depth 1 ``` 2. **构建镜像** ``` cd pytorch/ci/docker/{arch} # {arch} for X86 or ARM docker build -t manylinux-builder:v1 . ``` 3. **进入Docker容器** ``` docker run -it -v /{code_path}/pytorch:/home/pytorch manylinux-builder:v1 bash # {code_path} is the torch_npu source code path ``` 4. **编译torch_npu** 以**Python 3.8** 为例。 ``` cd /home/pytorch bash ci/build.sh --python=3.8 ``` ## 入门 ### 前提 运行以下命令初始化**CANN**环境变量。 ```Shell # Default path, change it if needed. source /usr/local/Ascend/ascend-toolkit/set_env.sh ``` ### 快速验证 可以通过以下样例快速体验**昇腾NPU**。 ```Python import torch import torch_npu x = torch.randn(2, 2).npu() y = torch.randn(2, 2).npu() z = x.mm(y) print(z) ``` ## PyTorch与Python版本配套表 | PyTorch版本 | Python版本 | | ------------- | :----------------------------------------------------------- | | PyTorch1.11.0 | Python3.7.x(>=3.7.5), Python3.8.x, Python3.9.x, Python3.10.x | | PyTorch2.0.1 | Python3.8.x, Python3.9.x, Python3.10.x | | PyTorch2.1.0 | Python3.8.x, Python3.9.x, Python3.10.x | ## 昇腾辅助软件

CANN版本

支持的PyTorch版本

支持的Adapter版本

Github分支

AscendHub镜像版本/名称(链接)

CANN 7.0.RC1

2.1.0

2.1.0.rc1

v2.1.0-5.0.rc3

-

2.0.1

2.0.1

v2.0.1-5.0.rc3

-

1.11.0

1.11.0.post4

v1.11.0-5.0.rc3

-

CANN 6.3.RC3.1

1.11.0

1.11.0.post3

v1.11.0-5.0.rc2.2

-

CANN 6.3.RC3

1.11.0

1.11.0.post2

v1.11.0-5.0.rc2.1

-

CANN 6.3.RC2

2.0.1

2.0.1.rc1

v2.0.1-5.0.rc2

-

1.11.0

1.8.1.post2

v1.8.1-5.0.rc2

23.0.RC1-1.8.1

1.8.1

1.11.0.post1

v1.11.0-5.0.rc2

23.0.RC1-1.11.0

CANN 6.3.RC1

1.11.0

1.8.1.post1

v1.8.1-5.0.rc1

-

1.8.1

1.11.0

v1.11.0-5.0.rc1

-

CANN 6.0.1

1.5.0

1.5.0.post8

v1.5.0-3.0.0

22.0.0

1.8.1

1.8.1

v1.8.1-3.0.0

22.0.0-1.8.1

1.11.0

1.11.0.rc2（beta)

v1.11.0-3.0.0

-

CANN 6.0.RC1

1.5.0

1.5.0.post7

v1.5.0-3.0.rc3

22.0.RC3

1.8.1

1.8.1.rc3

v1.8.1-3.0.rc3

22.0.RC3-1.8.1

1.11.0

1.11.0.rc1（beta)

v1.11.0-3.0.rc3

-

CANN 5.1.RC2

1.5.0

1.5.0.post6

v1.5.0-3.0.rc2

22.0.RC2

1.8.1

1.8.1.rc2

v1.8.1-3.0.rc2

22.0.RC2-1.8.1

CANN 5.1.RC1

1.5.0

1.5.0.post5

v1.5.0-3.0.rc1

22.0.RC1

1.8.1

1.8.1.rc1

v1.8.1-3.0.rc1

-

CANN 5.0.4

1.5.0

1.5.0.post4

2.0.4.tr5

21.0.4

CANN 5.0.3

1.8.1

1.5.0.post3

2.0.3.tr5

21.0.3

CANN 5.0.2

1.5.0

1.5.0.post2

2.0.2.tr5

21.0.2
## 建议与交流 欢迎大家为社区做贡献。如果有任何疑问或建议，请提交[gitee Issues](https://gitee.com/Ascend/pytorch/issues)，我们会尽快回复。感谢您的支持。 ## 分支维护策略 AscendPyTorch版本分支的维护阶段如下： | **状态** | **时间** | **说明** | | ------------------- | -------- | ------------------------------------------------ | | 计划 | 1—3 个月 | 计划特性 | | 开发 | 3个月 | 开发特性 | | 维护 | 6—12个月 | 合入所有已解决的问题并发布版本 | | 无维护 | 0—3 个月 | 合入所有已解决的问题，无专职维护人员，无版本发布 | | 生命周期终止（EOL） | N/A | 分支不再接受任何修改 | ## 现有分支的维护状态 | **分支** | **状态** | **发布日期** | **后续状态** | **EOL日期** | | ------------ | -------- | ------------ | -------------------------- | ----------- | | **v2.0.2** | EOL | 2021/7/29 | N/A | | | **v2.0.3** | EOL | 2021/10/15 | N/A | | | **v2.0.4** | EOL | 2022/1/15 | N/A | | | **v3.0.rc1** | EOL | 2022/4/10 | N/A | | | **v3.0.rc2** | EOL | 2022/7/15 | N/A | | | **v3.0.rc3** | 维护 | 2022/10/20 | 预计2023/10/20起无维护 | | | **v3.0.0** | 维护 | 2023/1/18 | 预计2024/1/18起无维护 | | | **v5.0.rc1** | 维护 | 2023/4/19 | 预计2024/4/19起无维护 | | | **v5.0.rc2** | 维护 | 2023/7/19 | 预计2024/7/19起无维护 | | | **v5.0.rc3** | 维护 | 2023/10/15 | 预计2024/10/15起无维护 | | ## 参考文档 有关安装指南、模型迁移和训练/推理教程和API列表等更多详细信息，请参考[昇腾社区PyTorch Ascend Adapter](https://www.hiascend.com/software/ai-frameworks/commercial)。 | 文档名称 | 文档链接 | | -------------------------- | ------------------------------------------------------------ | | AscendPyTorch 安装指南 | [参考链接](https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/envdeployment/instg/instg_0083.html) | | AscendPyTorch 网络模型迁移和训练 | [参考链接](https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/modeldevpt/ptmigr/AImpug_0002.html) | | AscendPyTorch 在线推理 | [参考链接](https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/modeldevpt/ptonlineinfer/PyTorch_Infer_000001.html) | | AscendPyTorch 算子适配 | [参考链接](https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/operatordev/tbeaicpudevg/atlasopdev_10_0086.html) | | AscendPyTorch API清单（PyTorch原生接口与自定义接口） | [参考链接](https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/modeldevpt/ptmigr/ptaoplist_001.html) | ## 许可证 PyTorch Ascend Adapter插件使用BSD许可证。详见[LICENSE](LICENSE)文件。