# msit

**Repository Path**: gitjunc/msit

## Basic Information

- **Project Name**: msit
- **Description**: 统一推理工具链入口，提供客户一体化开发工具，支持一站式调试调优
- **Primary Language**: Python
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 430
- **Created**: 2025-06-09
- **Last Updated**: 2025-06-09

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# msIT

## 介绍

MindStudio Inference Tools，昇腾推理工具链。 【Powered by MindStudio】

**请根据自己的需要进入对应文件夹获取工具，或者点击下面的说明链接选择需要的工具进行使用。**

### 模型推理迁移全流程
![模型推理迁移全流程](./msit-flow.png)

### 大模型推理迁移全流程
![大模型推理迁移全流程](./msit-llm-flow.png)

## 使用说明

1.  [msit](https://gitee.com/ascend/msit/tree/master/msit)

    **一体化推理开发工具**：作为昇腾统一推理工具，提供客户一体化开发工具，支持一站式调试调优，当前包括benchmark、debug、analyze等组件。

2.  [msmodelslim](https://gitee.com/ascend/msit/tree/master/msmodelslim)

    **昇腾模型压缩加速工具**：一个以加速为目标、压缩为技术、昇腾为根本的亲和压缩工具。支持训练加速和推理加速，包括模型低秩分解、稀疏训练、训练后量化、量化感知训练等功能，昇腾AI模型开发用户可以灵活调用Python API接口，对模型进行性能调优，并支持导出不同格式模型，在昇腾AI处理器上运行。

#### 许可证
[Apache License 2.0](LICENSE)