登录 注册
开源 企业版 高校版 私有云 模力方舟 模力方舟
人工智能
/
推理框架
Apache-2.0
全部项目 MulanPSL-2.0 0BSD AFL-3.0 AGPL-3.0 Artistic-2.0 BSD-2-Clause BSD-3-Clause BSD-3-Clause-Clear BSD-4-Clause BSL-1.0 CC-BY-4.0 CC-BY-SA-4.0 CC0-1.0 CECILL-2.1 CERN-OHL-P-2.0 CERN-OHL-S-2.0 CERN-OHL-W-2.0 ECL-2.0 EPL-1.0 EPL-2.0 EUPL-1.1 EUPL-1.2 GFDL-1.3 GPL-2.0 GPL-3.0 ISC LGPL-2.1 LGPL-3.0 LPPL-1.3c MIT MIT-0 MPL-2.0 MS-PL MS-RL MulanPSL-1.0 MulanPubL-1.0 MulanPubL-2.0 NCSA ODbL-1.0 OFL-1.1 OSL-3.0 PostgreSQL UPL-1.0 Unlicense Vim WTFPL Zlib
Python
全部语言 Java JavaScript HTML CSS C Shell C++ TypeScript PHP C# Go Objective-C Kotlin Android Ruby Assembly Swift NodeJS Perl Dart Lua Rust Matlab 其他 PowerShell HTML/CSS Scala 微信 Groovy C/C++ XSLT Verilog R QML Pascal Docker CoffeeScript FORTRAN Erlang Emacs Lisp ActionScript SQL Smalltalk VHDL M Delphi TeX/LaTeX ASP Visual Basic Common Lisp Clojure LiveScript Awk Scheme Haskell Elixir Julia 易语言 Pawn YAML AutoHotkey OCaml Ada Puppet D Standard ML Logos XML Arduino Prolog Coq VimL 汇编 Haxe ColdFusion Vala Scilab Crystal Racket Lisp Slash Eiffel eC DOT Zephir Nemerle
Stars
Stars 最新推荐 最近更新
6854763 mindspore 1604325217

MindSpore/vllm-mindspore

141
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
Python
推理框架
|
4小时前
12 mirrors 1578989292

Gitee 极速下载/vllm

13
vLLM 是一个快速且易于使用的 LLM 推理和服务库
Python
推理框架
|
3天前
12 mirrors 1578989292

Gitee 极速下载/bentoml

8
BentoML 是 AI 应用程序开发人员的平台，提供工具和基础架构来简化整个 AI 产品开发生命周期
Python
推理框架
|
3天前
12 mirrors 1578989292

Gitee 极速下载/KTransformers

6
‌KTransformers‌是由清华大学的KVCache.AI团队与趋境科技联合发布的开源项目
Python
推理框架
|
3天前
12 mirrors 1578989292

Gitee 极速下载/sglang

5
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架
Python
推理框架
|
3天前
热门项目
今日
本周
额，这里啥也没有呢!
额，这里啥也没有呢!
点此查找更多帮助

搜索帮助

Git 命令在线学习 如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
回到顶部