[develop][refactor] optimizer nativemodel code · Pull Request !699 · MindSpore/vllm-mindspore

优化nativemodel相关的一些代码， 提升性能。 
---
<!--  Thanks for sending a pull request!  Here are some tips for you:

1) If this is your first time, please read our contributor guidelines: https://gitee.com/mindspore/mindspore/blob/master/CONTRIBUTING.md

2) If you want to contribute your code but don't know who will review and merge, please add label `mindspore-assistant` to the pull request, we will find and do it as soon as possible.
-->

**What type of PR is this?**

/kind refactor

**What does this PR do / why do we need it**:
1. 优化了NativeModelBase中set_model_inputs函数的逻辑。 存储了set_inputs所需的dynamic Tensor， 避免了每次执行时重复创建。
2. 在prefill 和 decode 阶段， 分别为self.ready_model 设置了不同的phase变量， 该变量可以让mindspore识别不同阶段， 简化编译流程。 
3. 用AddRmsNorm大算子替换了add + rmsnorm小算子。
4. 修复rotaryembedding load_weights 的bug。

qwen3 32b 
bs1 256 256 :    27tok/s @ 36.4ms -> 30tok/s @ 32ms
bs192 256 256:   2674tok/s @ 66.7 ms-> 2809tok/s @ 64.5ms
bs256 256 256:   3030tok/s @76.3ms -> 3209tok/s @ 71.5ms

qwen3 0.6B
bs1 256 256:       70tok/s @ 14.0ms   -> 89tok/s @ 11.0ms
bs192 256 256      7215tok/s @ 24.7ms -> 7680tok/s @ 23.1ms
bs256 256 256      7769tok/s @ 29.2ms -> 8015tok/s @ 27.6ms

qwen3 8B
bs1 256 256:       47tok/s @ 21.1ms   ->    49tok/s @ 20.0ms
bs192 256 256      3853tok/s @ 46.2ms ->    4059tok/s @ 43.8ms
bs256 256 256      4364tok/s @ 51.9ms ->    4521tok/s @ 49.5ms

**Which issue(s) this PR fixes**:

Fixes #ICFOAD

**Code review checklist [【代码检视checklist说明】](https://gitee.com/mindspore/community/blob/master/security/code_review_checklist_mechanism.md)**:

+ - [ ] 是否进行返回值校验 (禁止使用void屏蔽安全函数、自研函数返回值，C++标准库函数确认无问题可以屏蔽)
+ - [ ] 是否遵守 ***SOLID原则 / 迪米特法则***
+ - [ ] 是否具备UT测试用例看护 && 测试用例为有效用例 (若新特性无测试用例看护请说明原因)
+ - [ ] 是否为对外接口变更
+ - [ ] 是否涉及官网文档修改

类型	指派人员	状态
审查	TronZhang	已完成 (0/0人)
测试	TronZhang	已完成 (0/0人)

MindSpore/vllm-mindspore .gitee-modal { width: 500px !important; }

搜索帮助

MindSpore/vllm-mindspore