# huaweicloud-solution-constructing-automatic-converted-model-based-on-ascend **Repository Path**: HuaweiCloudDeveloper/huaweicloud-solution-constructing-automatic-converted-model-based-on-ascend ## Basic Information - **Project Name**: huaweicloud-solution-constructing-automatic-converted-model-based-on-ascend - **Description**: 帮助用户快速实现已有AI模型一键转换迁移到昇腾平台,提供一个配置完善的昇腾运行环境。 - **Primary Language**: Unknown - **License**: Apache-2.0 - **Default Branch**: master-dev - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 0 - **Created**: 2022-12-29 - **Last Updated**: 2025-06-16 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README [TOC] **解决方案介绍** =============== 该解决方案能帮您快速在华为云上部署一套完整的[昇腾](https://www.hiascend.com/zh/)验证运行环境,自动配置好昇腾驱动、ATC工具,适用于对昇腾感兴趣并需要快速验证已有AI模型在昇腾的兼容性或性能的场景: - 刚接触昇腾,不想配置繁琐的运行环境 - 需要快速将已有模型转换为昇腾模型 - 需要直接将已有模型运行到云上昇腾ECS上 解决方案实践详情页面地址:https://www.huaweicloud.com/solution/implementations/constructing-automatic-converted-model-based-on-ascend.html **架构图** --------------- ![方案架构](./document/constructing-automatic-converted-model-based-on-ascend.png) **架构描述** --------------- 该解决方案会部署如下资源: - 创建一个安装有ATC、msame、obsutil的AI加速型弹性云服务器 ECS,配置昇腾运行环境。 - 创建一个弹性公网IP EIP,并绑定到弹性云服务器 ECS,用于下载用户已有模型、上传转换后的模型。 - 创建一个账号密钥对,用于使用密钥对进行安全、无密码访问弹性云服务器 ECS。 - 创建一个安全组,通过配置安全组规则,为弹性云服务器 ECS提供安全防护。 - 通过[统一身份认证服务 IAM](https://www.huaweicloud.com/product/iam.html)的委托功能,将帐号[对象存储服务 OBS](https://www.huaweicloud.com/product/obs.html)的操作权限委托给弹性云服务器 ECS。 **组织结构** --------------- ``` lua huaweicloud-solution-constructing-automatic-converted-model-based-on-ascend ├── constructing-automatic-converted-model-based-on-ascend.tf.json -- 资源编排模板 ├── userdata ├── initialize-convert-environment.sh -- 脚本配置文件 ├── msame.zip -- msame工具源码文件 ``` **开始使用** --------------- **安全组规则修改(可选)** > [**须知**] > > - 该解决方案使用5000端口用来以SSH方式远程登录弹性云服务器ECS,默认对该方案创建的VPC子网网段放开,请参考[修改安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0005.html),配置IP地址白名单,以便能正常访问服务。 > - 该解决方案部署成功后,环境初始化大约用时10分钟左右,受待转换模型文件的大小、弹性云服务器ECS规格以及网络带宽的影响会有波动,部署完成之后方可验证环境的可用性。 安全组实际是网络流量访问策略,包括网络流量入方向规则和出方向规则,通过这些规则为安全组内具有相同保护需求并且相互信任的云服务器、云容器等实例提供安全保护。如果您的实例关联的安全组策略无法满足使用需求,比如需要添加、修改、删除某个TCP端口,请参考以下内容进行修改。 - 添加安全组规则:根据业务使用需求需要新开放某个TCP端口,请参考[添加安全组规则](https://support.huaweicloud.com/usermanual-vpc/zh-cn_topic_0030969470.html)添加入方向规则,打开指定的TCP端口。 - 修改安全组规则:安全组规则设置不当会造成严重的安全隐患。您可以参考[修改安全组规则](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0005.html),来修改安全组中不合理的规则,保证云服务器等实例的网络安全。 - 删除安全组规则:当安全组规则入方向、出方向源地址/目的地址有变化时,或者不需要开放某个端口时,您可以参考[删除安全组](https://support.huaweicloud.com/usermanual-vpc/vpc_SecurityGroup_0006.html)规则进行安全组规则删除。。 1.登录[华为云控制台](https://console.huaweicloud.com/console/?region=cn-north-4#/home)。 图1 华为云控制台 ![华为云控制台](./document/readme-image-001.png) > [**温馨提示**] > > - 若您只是想验证该解决方案一键部署后的效果而无需登录弹性云服务器ECS进行相关管理操作的话,可跳过步骤2、3、4、5、6、7、8。 2.在[弹性云服务器ECS控制台](https://console.huaweicloud.com/ecm/?agencyId=21c19ac150bf4867a8302133acfa94ec®ion=cn-north-4&locale=zh-cn#/ecs/manager/vmList),查看该方案一键部署创建的ECS实例及其绑定的弹性公网IP(可选)。 图2 ECS实例 ![ECS实例](./document/readme-image-002.png) 3.在[数据加密服务DEW控制台](https://console.huaweicloud.com/dew/?agencyId=21c19ac150bf4867a8302133acfa94ec®ion=cn-north-4&locale=zh-cn#/dew/kps/kpsList/ecsList),查看该方案一键部署创建的账号秘钥对与弹性云服务器ECS实例的绑定关系(可选)。 图3 账号秘钥对和ECS的绑定关系 ![账号秘钥对和ECS的绑定关系](./document/readme-image-003.png) 4.在[数据加密服务DEW控制台](https://console.huaweicloud.com/dew/?agencyId=21c19ac150bf4867a8302133acfa94ec®ion=cn-north-4&locale=zh-cn#/dew/kps/kpsList/accountKey),查看该方案一键部署生成的账号秘钥对,并导出需要登录的ECS绑定的私钥到本地(可选)。 图4 导出账号秘钥对 ![导出账号秘钥对](./document/readme-image-004.png) 5.通过MobaXterm或其他SSH客户端以私钥方式连接云服务器即可登录。SSH默认的连接端口为5000(可选)。 图5 登录ECS ![登录ECS](./document/readme-image-005.png) 6.在已登录的ECS上使用ATC工具进行转化,该工具的使用方式请参考[ATC快速入门](https://www.hiascend.com/document/detail/zh/canncommercial/504/openform/devgopen/atlasatc_16_0005.html)。用户已有待转换模型文件默认放置在/opt/atc/model目录下,输出的受昇腾AI处理器支持的.om格式离线模型文件默认放置在/opt/atc/output目录下(可选)。 7.在使用ATC工具得到受昇腾AI处理器支持的.om格式离线模型文件后,再使用msame工具进行模型推理。该工具的使用方式请参考[msame模型推理工具](https://gitee.com/ascend/tools/tree/master/msame)。推理出的文件默认放置在/opt/msame/output目录下(可选)。 8.在使用msame工具得到最终经推理后得出的文件后,可使用obsutil工具通过内网访问OBS的方式将该文件上传至已有的对象存储服务 OBS桶中(可选)。 使用obsutil工具常见的数据存储操作请参见: - [上传对象](https://support.huaweicloud.com/utiltg-obs/obs_11_0013.html) - [下载对象](https://support.huaweicloud.com/utiltg-obs/obs_11_0018.html) 详细使用指南请参见[对象存储服务工具指南(obsutil)](https://support.huaweicloud.com/utiltg-obs/obs_11_0001.html) 9.在[对象存储服务 OBS控制台](https://console.huaweicloud.com/console/?agencyId=21c19ac150bf4867a8302133acfa94ec®ion=MOS&locale=zh-cn#/obs/manager/buckets),在用户一键部署时填写的已有待转换模型的OBS桶中查看转换成功的昇腾模型文件。 图6 查看转换成功的昇腾模型文件已上传至OBS桶中 ![查看转换成功的昇腾模型文件已上传至OBS桶中](./document/readme-image-006.png)