From 8f859686359679d708504822fa62e6b956c8e7cb Mon Sep 17 00:00:00 2001 From: "mingjiang.li" Date: Thu, 12 Dec 2024 02:59:57 +0000 Subject: [PATCH] add 24.12 release notes Signed-off-by: mingjiang.li --- RELEASE.md | 90 ++++++++++++++++++++++++++++++++++++++++++++++++++++++ 1 file changed, 90 insertions(+) diff --git a/RELEASE.md b/RELEASE.md index 598cb55d..d9c6d0c9 100644 --- a/RELEASE.md +++ b/RELEASE.md @@ -1,5 +1,95 @@ # DeepSparkInference Release Notes +## 24.12 Release Notes + +### 模型与算法 + +* 新增了24个推理小模型示例，其中支持IGIE推理引擎的15个，支持IxRT推理引擎的9个。 +* 新增了9个大语言模型的推理示例，其中支持vLLM的8个，支持ixFormer的1个。 + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +
IGIE
ConvNeXt-BaseDenseNet201EfficientNet-B3
EfficientNetV2-SMNASNet0_5MViTv2_base
Regnet_y_1_6gfResNetV1_D50ResNeXt101_64x4d
ShuffleNetV2_x1_5Kie_layoutXLMRec_SVTR
YOLOv9YOLOv10PAA
IxRT
CenterNetOpenPoseRTMPose
CSPDarkNet53DensNet161DensNet169
EfficientNetB2ResNeXt50_32x4dConvNeXt-Small
大模型推理
CLIP (IxFormer)ChatGLM3-6B-32K (vLLM）Llama2-7B (vLLM)
MiniCPM-V-2 (vLLM）Qwen-7B (vLLM)Qwen1.5-32B-Chat (vLLM）
Qwen2-72B-Instruct (vLLM）Qwen2-7B-Instruct (vLLM）StableLM2-1.6B (vLLM）
+ +### 问题修复 + +* 新增了IGIE推理模型自动化测试的运行脚本。 +* 修复了YOLOv8 IxRT模型运行推理脚本报错的问题。 +* 更新了YOLOv9和YOLOv10的IGIE模型的配置文件。 +* 完善了IxRT模型BERT，Mask RCNN，MobileNetV2和YOLOX的end2end推理时间打印。 + +### 版本关联 + +DeepSparkInference 24.12对应天数软件栈4.1.2版本。 + +### 感谢以下社区贡献者 + +YoungPeng，majorli，xinchi.tian，xiaomei.wang，honglyua，qiang.zhang。 + +--- + ## 24.09 Release Notes ### 模型与算法 -- Gitee