[feature]Enable MLA op · Pull Request !572 · MindSpore/vllm-mindspore

[feature]deepseek接入mla算子
---
### PR来源
- [ ] issue单（请关联issue）
- [ ] 需求特性
- [ ] 问题单
- [ ] 其他（社区开发者等）

### 修改描述（做了什么，变更了什么）
- **修改原因：**
Deepseek新增MLA算子替换PA算子。
- **修改内容：**
1. vllm_mindspore/model_executor/models/mf_models/deepseek_v3.py
   vllm_mindspore/model_executor/models/mf_models/mf_model_base.py
   vllm_mindspore/v1/worker/gpu_model_runner.py
支持读取"use_mla_op"配置；支持deepseekv3 kvcache申请两个tensor。
2. vllm_mindspore/model_executor/models/mf_models/deepseekv3_weight_processor.py
"qkv_concat：True"时，使能mla算子，需要按照kv、q顺序concat。

### 功能验证
- [ ] **功能自验**
a. 算子规格：
    decode阶段，相较PA输入：1.query拆分：q_nope和q_rope；2.kvcache拆分为两个tensor：ctkv、k_rope；
b. 当前使用场景：vllm v1，DeepSeekV3模型输入bs=1，不支持PC、CP；
c. 后续待支持场景：bs>1 触发chunk-prefill；
d. 使能MLA方法：
    mindformers yaml配置 "use_mla_op: 1"
    vllm-mindspore启动指令添加 "{"use_mla_op": 1}"
    新增环境变量：export MS_INTERNAL_ENABLE_NZ_OPS="QuantBatchMatmul,MlaPreprocess,Mla"
    小EP指令示例：vllm-mindspore serve --model="/data3/ckpt/dsr1-w8a8/" --trust_remote_code --max-num-seqs=512 --max_model_len=32768 --max-num-batched-tokens=4096 --block-size=128 --gpu-memory-utilization=0.93 --tensor-parallel-size 4 --data-parallel-size 4 --data-parallel-size-local 4 --data-parallel-start-rank 0 --enable-expert-parallel --additional-config '{"use_mla_op": 1}' --no-enable-prefix-caching > vllm_server.log 2>&1 &
- [ ] **本地自验用例截图**
![输入图片说明](https://foruda.gitee.com/images/1753101706592137748/79ab0dc7_12317514.png "屏幕截图")
CEval数据集评测结果：89.23%
![输入图片说明](https://foruda.gitee.com/images/1753176249938229542/8d5beb36_12317514.png "屏幕截图")
### check list
- [ ] **是否经过代码检视**
- [ ] **是否具备UT测试用例看护**（如不符合，请说明原因：____________________）
- [ ] **是否涉及对外接口变更**（若涉及则完成变更说明）
- [ ] **是否涉及公共组件或对外接口修改，涉及时需给出修改范围和影响评估**（请详细描述）

### 代码检视
- **要求：**
    - 合入代码超过1000行，需组织会议检视并附上检视结论
    - 无功能验证不允许合入
    - 自检项未完成，不允许合入
    - 无UT看护，原则上不允许合入，需单独说明原因
    - 来源未标识，修改描述不清晰，不允许合入

### 变更说明
- [ ] **资料修改**
- [ ] **变更通知（原有接口变动时涉及，版本接口公告）：**

类型	指派人员	状态
审查	TronZhang	已完成 (0/0人)
测试	TronZhang	已完成 (0/0人)

MindSpore/vllm-mindspore .gitee-modal { width: 500px !important; }

搜索帮助

MindSpore/vllm-mindspore