登录 注册
开源 企业版 高校版 私有云 模力方舟
人工智能
/
推理框架
开源许可
MulanPSL-2.0 0BSD AFL-3.0 AGPL-3.0 Apache-2.0 Artistic-2.0 BSD-2-Clause BSD-3-Clause BSD-3-Clause-Clear BSD-4-Clause BSL-1.0 CC-BY-4.0 CC-BY-SA-4.0 CC0-1.0 CECILL-2.1 CERN-OHL-P-2.0 CERN-OHL-S-2.0 CERN-OHL-W-2.0 ECL-2.0 EPL-1.0 EPL-2.0 EUPL-1.1 EUPL-1.2 GFDL-1.3 GPL-2.0 GPL-3.0 ISC LGPL-2.1 LGPL-3.0 LPPL-1.3c MIT MIT-0 MPL-2.0 MS-PL MS-RL MulanPSL-1.0 MulanPubL-1.0 MulanPubL-2.0 NCSA ODbL-1.0 OFL-1.1 OSL-3.0 PostgreSQL UPL-1.0 Unlicense Vim WTFPL Zlib
全部语言
Java JavaScript HTML CSS Python C Shell C++ TypeScript PHP C# Go Objective-C Android Kotlin Ruby Assembly Swift NodeJS Perl Dart Lua Rust Matlab 其他 PowerShell HTML/CSS Scala 微信 Groovy C/C++ XSLT Verilog R QML Pascal Docker CoffeeScript FORTRAN Erlang Emacs Lisp ActionScript SQL Smalltalk VHDL M Delphi TeX/LaTeX ASP Visual Basic Common Lisp Clojure LiveScript Awk Scheme Haskell Elixir Julia 易语言 Pawn YAML AutoHotkey OCaml Ada Puppet D Standard ML Logos XML Arduino Prolog VimL Coq 汇编 Haxe ColdFusion Vala Scilab Crystal Racket Lisp Slash Eiffel eC DOT Zephir Nemerle
Stars
Stars 最新推荐 最近更新
6854763 mindspore 1604325217

MindSpore/vllm-mindspore

16
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
Python
推理框架
|
1天前
12 mirrors 1578989292

Gitee 极速下载/vllm

10
vLLM 是一个快速且易于使用的 LLM 推理和服务库
Python
推理框架
|
6天前
14713870 metax maca 1740555567

MetaX-MACA/FlashMLA

9
Fast and efficient attention method exploration and implementation.
推理框架
|
1个月前
12 mirrors 1578989292

Gitee 极速下载/bentoml

8
BentoML 是 AI 应用程序开发人员的平台，提供工具和基础架构来简化整个 AI 产品开发生命周期
Python
推理框架
|
6天前
12 mirrors 1578989292

Gitee 极速下载/KTransformers

5
‌KTransformers‌是由清华大学的KVCache.AI团队与趋境科技联合发布的开源项目
Python
推理框架
|
6天前
12 mirrors 1578989292

Gitee 极速下载/FlashMLA

5
FlashMLA 是针对 Hopper GPU 优化的高效 MLA 解码内核，由 DeepSeek 开源，专为处理可变长度序列而设计，目前已投入生产环境
C/C++
推理框架
|
6天前
12 mirrors 1578989292

Gitee 极速下载/deepep

3
DeepEP 是专为 Mixture-of-Experts (MoE) 和 expert parallelism (EP) 定制的通信库
C/C++
推理框架
|
6天前
12 mirrors 1578989292

Gitee 极速下载/sglang

2
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架
Python
推理框架
|
6天前
12 mirrors 1578989292

Gitee 极速下载/deepgemm

2
DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法（GEMM）设计的库
Python
推理框架
|
6天前
今日热门
本周热门
MindSpore/vllm-mindspore
16
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
MindSpore/vllm-mindspore
16
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
MetaX-MACA/FlashMLA
9
Fast and efficient attention method exploration and implementation.
点此查找更多帮助

搜索帮助

Git 命令在线学习 如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
回到顶部