# FastDeploy **Repository Path**: paddlepaddle/FastDeploy ## Basic Information - **Project Name**: FastDeploy - **Description**: โšก๏ธAn Easy-to-use and Fast Deep Learning Model Deployment Toolkit for โ˜๏ธCloud ๐Ÿ“ฑMobile and ๐Ÿ“นEdge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models. - **Primary Language**: Python - **License**: Apache-2.0 - **Default Branch**: develop - **Homepage**: https://www.paddlepaddle.org.cn/fastdeploy - **GVP Project**: No ## Statistics - **Stars**: 88 - **Forks**: 36 - **Created**: 2022-06-28 - **Last Updated**: 2025-05-30 ## Categories & Tags **Categories**: machine-learning **Tags**: None ## README [English](README_EN.md) | ็ฎ€ไฝ“ไธญๆ–‡ | [เคนเคฟเคจเฅเคฆเฅ€](./docs/docs_i18n/README_เคนเคฟเคจเฅเคฆเฅ€.md) | [ๆ—ฅๆœฌ่ชž](./docs/docs_i18n/README_ๆ—ฅๆœฌ่ชž.md) | [ํ•œ๊ตญ์ธ](./docs/docs_i18n/README_ํ•œ๊ตญ์ธ.md) | [Pัƒฬััะบะธะน ัะทั‹ฬะบ](./docs/docs_i18n/README_Pัƒฬััะบะธะน_ัะทั‹ฬะบ.md) ![โšก๏ธFastDeploy](https://user-images.githubusercontent.com/31974251/185771818-5d4423cd-c94c-4a49-9894-bc7a8d1c29d0.png)

ๅฎ‰่ฃ… | ไฝฟ็”จๆ–‡ๆกฃ | ๅฟซ้€Ÿๅผ€ๅง‹ | APIๆ–‡ๆกฃ | ๆ›ดๆ–ฐๆ—ฅๅฟ—

[](examples/vision/classification) [](examples/vision/detection) [](examples/vision/segmentation/paddleseg) [](examples/vision/segmentation/paddleseg) [](examples/vision/matting) [](examples/vision/matting) [](examples/vision/ocr)
[](examples/vision/facealign) [](examples/vision/keypointdetection) [](https://user-images.githubusercontent.com/54695910/200162475-f5d85d70-18fb-4930-8e7e-9ca065c1d618.gif) [](examples/text) [](https://paddlespeech.bj.bcebos.com/Parakeet/docs/demos/parakeet_espnet_fs2_pwg_demo/tn_g2p/parakeet/001.wav)
**โšก๏ธFastDeploy**ๆ˜ฏไธ€ๆฌพ**ๅ…จๅœบๆ™ฏ**ใ€**ๆ˜“็”จ็ตๆดป**ใ€**ๆž่‡ด้ซ˜ๆ•ˆ**็š„AIๆŽจ็†้ƒจ็ฝฒๅทฅๅ…ท๏ผŒ ๆ”ฏๆŒ**ไบ‘่พน็ซฏ**้ƒจ็ฝฒใ€‚ๆไพ›่ถ…่ฟ‡ ๐Ÿ”ฅ160+ **Text**๏ผŒ**Vision**๏ผŒ **Speech**ๅ’Œ**่ทจๆจกๆ€**ๆจกๅž‹๐Ÿ“ฆ**ๅผ€็ฎฑๅณ็”จ**็š„้ƒจ็ฝฒไฝ“้ชŒ๏ผŒๅนถๅฎž็Žฐ๐Ÿ”š**็ซฏๅˆฐ็ซฏ**็š„ๆŽจ็†ๆ€ง่ƒฝไผ˜ๅŒ–ใ€‚ๅŒ…ๆ‹ฌ [็‰ฉไฝ“ๆฃ€ๆต‹](./examples/vision/detection)ใ€[ๅญ—็ฌฆ่ฏ†ๅˆซ๏ผˆOCR๏ผ‰](./examples/vision/ocr)ใ€[ไบบ่„ธ](./examples/vision/facedet)ใ€[ไบบๅƒๆ‰ฃๅ›พ](./examples/vision/matting)ใ€[ๅคš็›ฎๆ ‡่ทŸ่ธช็ณป็ปŸ](./examples/vision/tracking/pptracking)ใ€[NLP](./examples/text)ใ€[Stable Diffusionๆ–‡ๅ›พ็”Ÿๆˆ](./examples/multimodal/stable_diffusion)ใ€[TTS](./examples/audio/pp-tts) ็ญ‰ๅ‡ ๅ็งไปปๅŠกๅœบๆ™ฏ๏ผŒๆปก่ถณๅผ€ๅ‘่€…**ๅคšๅœบๆ™ฏใ€ๅคš็กฌไปถใ€ๅคšๅนณๅฐ**็š„ไบงไธš้ƒจ็ฝฒ้œ€ๆฑ‚ใ€‚
## ๐ŸŒ  ่ฟ‘ๆœŸๆ›ดๆ–ฐ - FastDeploy็ณปๅˆ—[**็›ดๆ’ญ่ฏพ็จ‹ๅ›žๆ”พ**](https://aistudio.baidu.com/aistudio/education/group/info/27800) - **2023.01.17** ๅ‘ๅธƒ [**YOLOv8**](./examples/vision/detection/paddledetection/) ๅœจFastDeploy็ณปๅˆ—็กฌไปถ็š„้ƒจ็ฝฒๆ”ฏๆŒใ€‚ ๅ…ถไธญๅŒ…ๆ‹ฌ [**Paddle YOLOv8**](https://github.com/PaddlePaddle/PaddleYOLO/tree/release/2.5/configs/yolov8) ไปฅๅŠ [**็คพๅŒบ ultralytics YOLOv8**](https://github.com/ultralytics/ultralytics) - [**Paddle YOLOv8**](https://github.com/PaddlePaddle/PaddleYOLO/tree/release/2.5/configs/yolov8) ๅฏไปฅ้ƒจ็ฝฒ็š„็กฌไปถ๏ผš[**Intel CPU**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**NVIDIA GPU**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**Jetson**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**้ฃž่…พ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**ๆ˜†ไป‘่Šฏ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**ๆ˜‡่…พ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ€[**ARM CPU**](./examples/vision/detection/paddledetection/cpp/infer_yolov8.cc)ใ€[**RK3588**](./examples/vision/detection/paddledetection/rknpu2) ๅ’Œ [**Sophgo TPU**](./examples/vision/detection/paddledetection/sophgo), ้ƒจๅˆ†็กฌไปถๅŒ…ๅซ **Python** ้ƒจ็ฝฒๅ’Œ **C++** ้ƒจ็ฝฒ๏ผ› - [**็คพๅŒบ ultralytics YOLOv8**](https://github.com/ultralytics/ultralytics) ๅฏไปฅ้ƒจ็ฝฒ็š„็กฌไปถ๏ผš[**Intel CPU**](./examples/vision/detection/yolov8)ใ€[**NVIDIA GPU**](./examples/vision/detection/yolov8)ใ€[**Jetson**](./examples/vision/detection/yolov8)๏ผŒๅ‡ๅŒ…ๅซ **Python** ้ƒจ็ฝฒๅ’Œ **C++** ้ƒจ็ฝฒ๏ผ› - FastDeploy ไธ€่กŒๆจกๅž‹APIๅˆ‡ๆข๏ผŒๅฏไปฅๅฎž็Žฐ**YOLOv8**ใ€ **PP-YOLOE+**ใ€**YOLOv5** ็ญ‰ๆจกๅž‹ๆ€ง่ƒฝๅฏนๆฏ”ใ€‚ - ๆœๅŠกๅŒ–้ƒจ็ฝฒ็ป“ๅˆVisualDLๆ–ฐๅขžๆ”ฏๆŒๅฏ่ง†ๅŒ–้ƒจ็ฝฒใ€‚ๅœจFastDeployๅฎนๅ™จไธญๅฏๅŠจVDLๆœๅŠกๅŽ๏ผŒๅณๅฏๅœจVDL็•Œ้ขไฟฎๆ”นๆจกๅž‹้…็ฝฎใ€ๅฏๅŠจ/็ฎก็†ๆจกๅž‹ๆœๅŠกใ€ๆŸฅ็œ‹ๆ€ง่ƒฝๆ•ฐๆฎใ€ๅ‘้€่ฏทๆฑ‚็ญ‰๏ผŒ่ฏฆ็ป†ๆ“ไฝœๅฏๅ‚่€ƒ็›ธๅ…ณๆ–‡ๆกฃ - [Servingๅฏ่ง†ๅŒ–้ƒจ็ฝฒ](https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/docs/zh_CN/vdl_management.md) - [Servingๅฏ่ง†ๅŒ–่ฏทๆฑ‚](https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/docs/zh_CN/client.md#%E4%BD%BF%E7%94%A8fastdeploy-client%E8%BF%9B%E8%A1%8C%E5%8F%AF%E8%A7%86%E5%8C%96%E8%AF%B7%E6%B1%82) - **โœจ๐Ÿ‘ฅโœจ ็คพๅŒบไบคๆต** - **Slack**๏ผšJoin our [Slack community](https://join.slack.com/t/fastdeployworkspace/shared_invite/zt-1o50e4voz-zbiIneCNRf_eH99eS2NVLg) and chat with other community members about ideas - **ๅพฎไฟก**๏ผšๆ‰ซๆไบŒ็ปด็ ๏ผŒๅกซๅ†™้—ฎๅทๅŠ ๅ…ฅๆŠ€ๆœฏ็คพๅŒบ๏ผŒไธŽ็คพๅŒบๅผ€ๅ‘่€…ไบคๆต้ƒจ็ฝฒไบงไธš่ฝๅœฐ็—›็‚น้—ฎ้ข˜
## ๐ŸŒŒ ๆŽจ็†ๅŽ็ซฏๅŠ่ƒฝๅŠ› | | | || | | | | |:----------|:----------:|:----------:|:----------:|:----------:|:----------:|:----------:|:----------:| | X86_64 CPU | |       | |

|

| |

| | NVDIA GPU | | |
|

|

| | | |้ฃž่…พ CPU | | | |
| | | | | ๆ˜†ไป‘่Šฏ XPU | | | | | | | | | ๅŽไธบๆ˜‡่…พ NPU | | |
| | | | | |Graphcore IPU | | | | | | | | | ็ฎ—่ƒฝ | | | | | | | | |Intel ๆ˜พๅก | | | | | | | | |Jetson | | |
|

|

| | | |ARM CPU | | |
|
| | | | |RK3588็ญ‰ | | | | | | | | |RV1126็ญ‰ | | | | | | | | | ๆ™ถๆ™จ | | | | | | | | | ๆฉๆ™บๆตฆ | | | | | | | |
## ๐Ÿ”ฎ ๆ–‡ๆกฃๆ•™็จ‹ - [โœด๏ธ Python SDKๅฟซ้€Ÿๅผ€ๅง‹](#fastdeploy-quick-start-python) - [โœด๏ธ C++ SDKๅฟซ้€Ÿๅผ€ๅง‹](#fastdeploy-quick-start-cpp) - **ๅฎ‰่ฃ…ๆ–‡ๆกฃ** - [้ข„็ผ–่ฏ‘ๅบ“ไธ‹่ฝฝๅฎ‰่ฃ…](docs/cn/build_and_install/download_prebuilt_libraries.md) - [GPU้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/gpu.md) - [CPU้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/cpu.md) - [IPU้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/ipu.md) - [ๆ˜†ไป‘่ŠฏXPU้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/kunlunxin.md) - [็‘ž่ŠฏๅพฎRV1126้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/rv1126.md) - [็‘ž่ŠฏๅพฎRK3588้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/rknpu2.md) - [ๆ™ถๆ™จA311D้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/a311d.md) - [ๅŽไธบๆ˜‡่…พ้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/huawei_ascend.md) - [Jetson้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/jetson.md) - [Androidๅนณๅฐ้ƒจ็ฝฒ็Žฏๅขƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](docs/cn/build_and_install/android.md) - **ๅฟซ้€Ÿไฝฟ็”จ** - [PP-YOLOE Python้ƒจ็ฝฒ็คบไพ‹](docs/cn/quick_start/models/python.md) - [PP-YOLOE C++้ƒจ็ฝฒ็คบไพ‹](docs/cn/quick_start/models/cpp.md) - **ไธๅŒๅŽ็ซฏไฝฟ็”จ** - [Runtime Pythonไฝฟ็”จ็คบไพ‹](docs/cn/quick_start/runtime/python.md) - [Runtime C++ไฝฟ็”จ็คบไพ‹](docs/cn/quick_start/runtime/cpp.md) - [ๅฆ‚ไฝ•้…็ฝฎๆจกๅž‹้ƒจ็ฝฒ็š„ๆŽจ็†ๅŽ็ซฏ](docs/cn/faq/how_to_change_backend.md) - **ๆœๅŠกๅŒ–้ƒจ็ฝฒ** - [ๆœๅŠกๅŒ–้ƒจ็ฝฒ้•œๅƒ็ผ–่ฏ‘ๅฎ‰่ฃ…](serving/docs/zh_CN/compile.md) - [ๆœๅŠกๅŒ–้ƒจ็ฝฒ](serving) - **APIๆ–‡ๆกฃ** - [Python APIๆ–‡ๆกฃ](https://www.paddlepaddle.org.cn/fastdeploy-api-doc/python/html/) - [C++ APIๆ–‡ๆกฃ](https://www.paddlepaddle.org.cn/fastdeploy-api-doc/cpp/html/) - [Android Java APIๆ–‡ๆกฃ](java/android) - **ๆ€ง่ƒฝ่ฐƒไผ˜** - [้‡ๅŒ–ๅŠ ้€Ÿ](docs/cn/quantize.md) - [ๅคš็บฟ็จ‹ๅคš่ฟ›็จ‹ไฝฟ็”จ](/tutorials/multi_thread) - **ๅธธ่ง้—ฎ้ข˜** - [1. WindowsไธŠC++ SDKๅฆ‚ไฝ•ไฝฟ็”จ](docs/cn/faq/use_sdk_on_windows.md) - [2. AndroidไธŠๅฆ‚ไฝ•ไฝฟ็”จFastDeploy C++ SDK](docs/cn/faq/use_cpp_sdk_on_android.md) - [3. TensorRTไฝฟ็”จไธญ็š„ไธ€ไบ›ๆŠ€ๅทง](docs/cn/faq/tensorrt_tricks.md) - **ๆ›ดๅคšFastDeploy้ƒจ็ฝฒๆจกๅ—** - [Benchmarkๆต‹่ฏ•](benchmark) - **ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ** - [๐Ÿ–ฅ๏ธ ๆœๅŠก็ซฏ ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ](#fastdeploy-server-models) - [๐Ÿ“ณ ็งปๅŠจ็ซฏๅ’Œ็ซฏไพง ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ](#fastdeploy-edge-models) - [โš›๏ธ Webๅ’Œๅฐ็จ‹ๅบ ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ](#fastdeploy-web-models) - **๐Ÿ’•ๅผ€ๅ‘่€…่ดก็Œฎ** - [ๅขžๅŠ ๆ–ฐๆจกๅž‹](docs/cn/faq/develop_a_new_model.md)
## ๅฟซ้€Ÿๅผ€ๅง‹๐Ÿ’จ
Python SDKๅฟซ้€Ÿๅผ€ๅง‹๏ผˆ็‚นๅผ€ๆ”ถ็ผฉ๏ผ‰
### ๐ŸŽ† ๅฟซ้€Ÿๅฎ‰่ฃ… #### ๐Ÿ”ธ ๅ‰็ฝฎไพ่ต– - CUDA >= 11.2ใ€cuDNN >= 8.0ใ€Python >= 3.6 - OS: Linux x86_64/macOS/Windows 10 #### ๐Ÿ”ธ ๅฎ‰่ฃ…GPU็‰ˆๆœฌ ```bash pip install numpy opencv-python fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html ``` #### [๐Ÿ”ธ Condaๅฎ‰่ฃ…(ๆŽจ่โœจ)](docs/cn/build_and_install/download_prebuilt_libraries.md) ```bash conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2 ``` #### ๐Ÿ”ธ ๅฎ‰่ฃ…CPU็‰ˆๆœฌ ```bash pip install numpy opencv-python fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html ``` ### ๐ŸŽ‡ Python ๆŽจ็†็คบไพ‹ * ๅ‡†ๅค‡ๆจกๅž‹ๅ’Œๅ›พ็‰‡ ```bash wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz tar xvf ppyoloe_crn_l_300e_coco.tgz wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg ``` * ๆต‹่ฏ•ๆŽจ็†็ป“ๆžœ ```python # GPU/TensorRT้ƒจ็ฝฒๅ‚่€ƒ examples/vision/detection/paddledetection/python import cv2 import fastdeploy.vision as vision model = vision.detection.PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel", "ppyoloe_crn_l_300e_coco/model.pdiparams", "ppyoloe_crn_l_300e_coco/infer_cfg.yml") im = cv2.imread("000000014439.jpg") result = model.predict(im) print(result) vis_im = vision.vis_detection(im, result, score_threshold=0.5) cv2.imwrite("vis_image.jpg", vis_im) ```
C++ SDKๅฟซ้€Ÿๅผ€ๅง‹๏ผˆ็‚นๅผ€ๆŸฅ็œ‹่ฏฆๆƒ…๏ผ‰
### ๐ŸŽ† ๅฎ‰่ฃ… - ๅ‚่€ƒ[C++้ข„็ผ–่ฏ‘ๅบ“ไธ‹่ฝฝ](docs/cn/build_and_install/download_prebuilt_libraries.md)ๆ–‡ๆกฃ #### ๐ŸŽ‡ C++ ๆŽจ็†็คบไพ‹ * ๅ‡†ๅค‡ๆจกๅž‹ๅ’Œๅ›พ็‰‡ ```bash wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz tar xvf ppyoloe_crn_l_300e_coco.tgz wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg ``` * ๆต‹่ฏ•ๆŽจ็†็ป“ๆžœ ```C++ // GPU/TensorRT้ƒจ็ฝฒๅ‚่€ƒ examples/vision/detection/paddledetection/cpp #include "fastdeploy/vision.h" int main(int argc, char* argv[]) { namespace vision = fastdeploy::vision; auto model = vision::detection::PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel", "ppyoloe_crn_l_300e_coco/model.pdiparams", "ppyoloe_crn_l_300e_coco/infer_cfg.yml"); auto im = cv::imread("000000014439.jpg"); vision::DetectionResult res; model.Predict(im, &res); auto vis_im = vision::VisDetection(im, res, 0.5); cv::imwrite("vis_image.jpg", vis_im); return 0; } ```
ๆ›ดๅคš้ƒจ็ฝฒๆกˆไพ‹่ฏทๅ‚่€ƒ[ๆจกๅž‹้ƒจ็ฝฒ็คบไพ‹](examples) .
## โœด๏ธ โœด๏ธ ๆœๅŠก็ซฏๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ โœด๏ธ โœด๏ธ ็ฌฆๅท่ฏดๆ˜Ž: (1) โœ… : ๅทฒ็ปๆ”ฏๆŒ; (2) โ”: ๆญฃๅœจ่ฟ›่กŒไธญ; (3) N/A : ๆš‚ไธๆ”ฏๆŒ.
ๆœๅŠก็ซฏๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ๏ผˆ็‚นๅ‡ปๅฏๆ”ถ็ผฉ๏ผ‰
| ไปปๅŠกๅœบๆ™ฏ | ๆจกๅž‹ | Linux | Linux | Win | Win | Mac | Mac | Linux | Linux | Linux | Linux | Linux | Linux | Linux | |:----------------------:|:--------------------------------------------------------------------------------------------:|:------------------------------------------------:|:----------:|:-------:|:----------:|:-------:|:-------:|:-----------:|:---------------:|:-------------:|:-------------:|:-------:|:-------:|:-------:| | --- | --- | X86 CPU | NVIDIA GPU | X86 CPU | NVIDIA GPU | X86 CPU | Arm CPU | AArch64 CPU | ้ฃž่…พD2000 aarch64 | [NVIDIA Jetson](./docs/cn/build_and_install/jetson.md) | [Graphcore IPU](./docs/cn/build_and_install/ipu.md) | [ๆ˜†ไป‘่Šฏ XPU](./docs/cn/build_and_install/kunlunxin.md) |[ๅŽไธบ ๆ˜‡่…พ](./docs/cn/build_and_install/huawei_ascend.md) | [Serving](./serving) | | Classification | [PaddleClas/ResNet50](./examples/vision/classification/paddleclas) | [โœ…](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | | Classification | [TorchVison/ResNet](examples/vision/classification/resnet) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โ” | | Classification | [ultralytics/YOLOv5Cls](examples/vision/classification/yolov5cls) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” |โ” | | Classification | [PaddleClas/PP-LCNet](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/PP-LCNetv2](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/EfficientNet](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/GhostNet](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/MobileNetV1](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/MobileNetV2](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/MobileNetV3](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/ShuffleNetV2](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/SqueeezeNetV1.1](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Classification | [PaddleClas/Inceptionv3](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โœ… | | Classification | [PaddleClas/PP-HGNet](./examples/vision/classification/paddleclas) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… |โœ… | โœ… | | Detection | ๐Ÿ”ฅ๐Ÿ”ฅ[PaddleDetection/PP-YOLOE+](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โœ… | | Detection | [๐Ÿ”ฅPaddleDetection/YOLOv8](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โ” | | Detection | [๐Ÿ”ฅultralytics/YOLOv8](./examples/vision/detection/yolov8) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” |โ” | โ” | | Detection | [PaddleDetection/PicoDet](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… | | Detection | [PaddleDetection/YOLOX](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… | โœ… | | Detection | [PaddleDetection/YOLOv3](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… | โœ… | | Detection | [PaddleDetection/PP-YOLO](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… | โœ… | | Detection | [PaddleDetection/PP-YOLOv2](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… | โœ… | | Detection | [PaddleDetection/Faster-RCNN](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โ” | โœ… | | Detection | [PaddleDetection/Mask-RCNN](./examples/vision/detection/paddledetection) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โ” | โœ… | | Detection | [Megvii-BaseDetection/YOLOX](./examples/vision/detection/yolox) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โ” | | Detection | [WongKinYiu/YOLOv7](./examples/vision/detection/yolov7) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โ” | | Detection | [WongKinYiu/YOLOv7end2end_trt](./examples/vision/detection/yolov7end2end_trt) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” |โ” | โ” | | Detection | [WongKinYiu/YOLOv7end2end_ort](./examples/vision/detection/yolov7end2end_ort) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” |โ” | โ” | | Detection | [meituan/YOLOv6](./examples/vision/detection/yolov6) | โœ… | โœ… | โœ… |โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | | Detection | [ultralytics/YOLOv5](./examples/vision/detection/yolov5) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… |โœ… | | Detection | [WongKinYiu/YOLOR](./examples/vision/detection/yolor) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โœ… | โ” | | Detection | [WongKinYiu/ScaledYOLOv4](./examples/vision/detection/scaledyolov4) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” |โ” | โ” | | Detection | [ppogg/YOLOv5Lite](./examples/vision/detection/yolov5lite) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | ? | โ” |โ” |โ” | | Detection | [RangiLyu/NanoDetPlus](./examples/vision/detection/nanodet_plus) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” |โ” | โ” | | Perception | [Paddle3D/Smoke](./examples/vision/perception/paddle3d/smoke) | โ” | โœ… | โ” | โœ… | โ” | โ” | โ” | โ” | โ” | โ” | โ” |โ” | โœ… | | KeyPoint | [PaddleDetection/TinyPose](./examples/vision/keypointdetection/tiny_pose) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โ” | โ” | | KeyPoint | [PaddleDetection/PicoDet + TinyPose](./examples/vision/keypointdetection/det_keypoint_unite) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” |โ” | | HeadPose | [omasaht/headpose](examples/vision/headpose) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” |โ” | | Tracking | [PaddleDetection/PP-Tracking](examples/vision/tracking/pptracking) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | OCR | [PaddleOCR/PP-OCRv2](./examples/vision/ocr) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… |โœ… | โ” | | OCR | [PaddleOCR/PP-OCRv3](./examples/vision/ocr) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โœ… | | Segmentation | [PaddleSeg/PP-LiteSeg](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… |โ” | โ” | | Segmentation | [PaddleSeg/PP-HumanSegLite](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… |โœ… | โ” | | Segmentation | [PaddleSeg/HRNet](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… | โœ… |โ” | | Segmentation | [PaddleSeg/PP-HumanSegServer](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… | โœ… |โ” | | Segmentation | [PaddleSeg/Unet](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โœ… | โœ… | โœ… |โ” | | Segmentation | [PaddleSeg/Deeplabv3](./examples/vision/segmentation/paddleseg) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โœ… | โœ… |โ” | | FaceDetection | [biubug6/RetinaFace](./examples/vision/facedet/retinaface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” | โ” | | FaceDetection | [Linzaer/UltraFace](./examples/vision/facedet/ultraface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceDetection | [deepcam-cn/YOLOv5Face](./examples/vision/facedet/yolov5face) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceDetection | [insightface/SCRFD](./examples/vision/facedet/scrfd) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceAlign | [Hsintao/PFLD](examples/vision/facealign/pfld) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceAlign | [Single430/FaceLandmark1000](./examples/vision/facealign/face_landmark_1000) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” | โ” | | FaceAlign | [jhb86253817/PIPNet](./examples/vision/facealign) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” |โ” | | FaceRecognition | [insightface/ArcFace](./examples/vision/faceid/insightface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceRecognition | [insightface/CosFace](./examples/vision/faceid/insightface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” |โ” | | FaceRecognition | [insightface/PartialFC](./examples/vision/faceid/insightface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” | โ” | | FaceRecognition | [insightface/VPL](./examples/vision/faceid/insightface) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” | โ” | | Matting | [ZHKKKe/MODNet](./examples/vision/matting/modnet) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” |โ” | | Matting | [PeterL1n/RobustVideoMatting]() | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” | โ” | | Matting | [PaddleSeg/PP-Matting](./examples/vision/matting/ppmatting) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… | โ” | | Matting | [PaddleSeg/PP-HumanMatting](./examples/vision/matting/modnet) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… |โœ… |โ” | | Matting | [PaddleSeg/ModNet](./examples/vision/matting/modnet) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” |โ” | โ” | | Video Super-Resolution | [PaddleGAN/BasicVSR](./) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” | โ” |โ” | | Video Super-Resolution | [PaddleGAN/EDVR](./examples/vision/sr/edvr) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” |โ” | โ” | | Video Super-Resolution | [PaddleGAN/PP-MSVSR](./examples/vision/sr/ppmsvsr) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” |โ” | โ” | | Information Extraction | [PaddleNLP/UIE](./examples/text/uie) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โœ… | โ” | โ” |โ” | | | NLP | [PaddleNLP/ERNIE-3.0](./examples/text/ernie-3.0) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | โ” | โœ… |โ” | โœ… | | Speech | [PaddleSpeech/PP-TTS](./examples/audio/pp-tts) | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โœ… | โ” | โ” | -- |โ” |โ” | โœ… |
## ๐Ÿ“ณ ็งปๅŠจ็ซฏๅ’Œ็ซฏไพง ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ
็ซฏไพงๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ๏ผˆ็‚นๅ‡ปๅฏๆ”ถ็ผฉ๏ผ‰
| ไปปๅŠกๅœบๆ™ฏ | ๆจกๅž‹ | ๅคงๅฐ(MB) | Linux | Android | Linux | Linux | Linux | Linux | Linux | ๆ›ดๆ–ฐไธญ... | |:------------------:|:-----------------------------------------------------------------------------------------:|:--------:|:-------:|:-------:|:-------:|:-----------------------:|:------------------------------:|:---------------------------:|:--------------------------------:|:-------:| | --- | --- | --- | ARM CPU | [ARM CPU](./java/android) | [็‘ž่ŠฏๅพฎNPU
RK3588/RK3568/RK3566](./docs/cn/build_and_install/rknpu2.md) | [็‘ž่ŠฏๅพฎNPU
RV1109/RV1126/RK1808](./docs/cn/build_and_install/rv1126.md) | [ๆ™ถๆ™จNPU
A311D/S905D/C308X](./docs/cn/build_and_install/a311d.md) | ๆฉๆ™บๆตฆNPU
i.MX 8M Plus | ๆ›ดๆ–ฐไธญ... | | Classification | [PaddleClas/ResNet50](examples/vision/classification/paddleclas) | 98 | โœ… | โœ… | [โœ…](./examples/vision/classification/paddleclas/rknpu2) | โœ… | | | | | Classification | [PaddleClas/PP-LCNet](examples/vision/classification/paddleclas) | 11.9 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/PP-LCNetv2](examples/vision/classification/paddleclas) | 26.6 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/EfficientNet](examples/vision/classification/paddleclas) | 31.4 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/GhostNet](examples/vision/classification/paddleclas) | 20.8 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/MobileNetV1](examples/vision/classification/paddleclas) | 17 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/MobileNetV2](examples/vision/classification/paddleclas) | 14.2 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/MobileNetV3](examples/vision/classification/paddleclas) | 22 | โœ… | โœ… | โ” | โœ… | โ” | โ” | -- | | Classification | [PaddleClas/ShuffleNetV2](examples/vision/classification/paddleclas) | 9.2 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/SqueezeNetV1.1](examples/vision/classification/paddleclas) | 5 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/Inceptionv3](examples/vision/classification/paddleclas) | 95.5 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Classification | [PaddleClas/PP-HGNet](examples/vision/classification/paddleclas) | 59 | โœ… | โœ… | โ” | โœ… | -- | -- | -- | | Detection | [PaddleDetection/PicoDet_s](examples/vision/detection/paddledetection) | 4.9 | โœ… | โœ… | [โœ…](./examples/vision/detection/paddledetection/rknpu2) | โœ… | โœ… | โœ… | -- | | Detection | [YOLOv5](./examples/vision/detection/rkyolo) | | โ” | โ” | [โœ…](./examples/vision/detection/rkyolo) | โ” | โ” | โ” | -- | | Face Detection | [deepinsight/SCRFD](./examples/vision/facedet/scrfd) | 2.5 | โœ… | โœ… | [โœ…](./examples/vision/facedet/scrfd/rknpu2) | -- | -- | -- | -- | | Keypoint Detection | [PaddleDetection/PP-TinyPose](examples/vision/keypointdetection/tiny_pose) | 5.5 | โœ… | โœ… | โ” | โ” | โ” | โ” | -- | | Segmentation | [PaddleSeg/PP-LiteSeg(STDC1)](examples/vision/segmentation/paddleseg) | 32.2 | โœ… | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- | | Segmentation | [PaddleSeg/PP-HumanSeg-Lite](examples/vision/segmentation/paddleseg) | 0.556 | โœ… | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- | | Segmentation | [PaddleSeg/HRNet-w18](examples/vision/segmentation/paddleseg) | 38.7 | โœ… | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- | | Segmentation | [PaddleSeg/PP-HumanSeg](examples/vision/segmentation/paddleseg) | 107.2 | โœ… | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- | | Segmentation | [PaddleSeg/Unet](examples/vision/segmentation/paddleseg) | 53.7 | โœ… | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- | | Segmentation | [PaddleSeg/Deeplabv3](examples/vision/segmentation/paddleseg) | 150 | โ” | โœ… | [โœ…](./examples/vision/segmentation/paddleseg/rknpu2) | | | | | | OCR | [PaddleOCR/PP-OCRv2](examples/vision/ocr/PP-OCRv2) | 2.3+4.4 | โœ… | โœ… | โ” | -- | -- | -- | -- | | OCR | [PaddleOCR/PP-OCRv3](examples/vision/ocr/PP-OCRv3) | 2.4+10.6 | โœ… | โ” | โ” | โ” | โ” | โ” | -- |
## โš›๏ธ Webๅ’Œๅฐ็จ‹ๅบ ๆจกๅž‹ๆ”ฏๆŒๅˆ—่กจ
Webๅ’Œๅฐ็จ‹ๅบ้ƒจ็ฝฒๆ”ฏๆŒๅˆ—่กจ๏ผˆ็‚นๅ‡ปๅฏๆ”ถ็ผฉ๏ผ‰
| ไปปๅŠกๅœบๆ™ฏ | ๆจกๅž‹ | [web_demo](examples/application/js/web_demo) | |:------------------:|:-------------------------------------------------------------------------------------------:|:--------------------------------------------:| | --- | --- | [Paddle.js](examples/application/js) | | Detection | [FaceDetection](examples/application/js/web_demo/src/pages/cv/detection) | โœ… | | Detection | [ScrewDetection](examples/application/js/web_demo/src/pages/cv/detection) | โœ… | | Segmentation | [PaddleSeg/HumanSeg](./examples/application/js/web_demo/src/pages/cv/segmentation/HumanSeg) | โœ… | | Object Recognition | [GestureRecognition](examples/application/js/web_demo/src/pages/cv/recognition) | โœ… | | Object Recognition | [ItemIdentification](examples/application/js/web_demo/src/pages/cv/recognition) | โœ… | | OCR | [PaddleOCR/PP-OCRv3](./examples/application/js/web_demo/src/pages/cv/ocr) | โœ… |
## ๐Ÿ’ Acknowledge ๆœฌ้กน็›ฎไธญSDK็”Ÿๆˆๅ’Œไธ‹่ฝฝไฝฟ็”จไบ†[EasyEdge](https://ai.baidu.com/easyedge/app/openSource)ไธญ็š„ๅ…่ดนๅผ€ๆ”พ่ƒฝๅŠ›๏ผŒๅœจๆญค่กจ็คบๆ„Ÿ่ฐขใ€‚ ## ยฉ๏ธ License
FastDeploy้ตๅพช[Apache-2.0ๅผ€ๆบๅ่ฎฎ](./LICENSE)ใ€‚