# FastDeploy
**Repository Path**: paddlepaddle/FastDeploy
## Basic Information
- **Project Name**: FastDeploy
- **Description**: โก๏ธAn Easy-to-use and Fast Deep Learning Model Deployment Toolkit for โ๏ธCloud ๐ฑMobile and ๐นEdge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models.
- **Primary Language**: Python
- **License**: Apache-2.0
- **Default Branch**: develop
- **Homepage**: https://www.paddlepaddle.org.cn/fastdeploy
- **GVP Project**: No
## Statistics
- **Stars**: 88
- **Forks**: 36
- **Created**: 2022-06-28
- **Last Updated**: 2025-05-30
## Categories & Tags
**Categories**: machine-learning
**Tags**: None
## README
[English](README_EN.md) | ็ฎไฝไธญๆ | [เคนเคฟเคจเฅเคฆเฅ](./docs/docs_i18n/README_เคนเคฟเคจเฅเคฆเฅ.md) | [ๆฅๆฌ่ช](./docs/docs_i18n/README_ๆฅๆฌ่ช.md) | [ํ๊ตญ์ธ](./docs/docs_i18n/README_ํ๊ตญ์ธ.md) | [Pัฬััะบะธะน ัะทัฬะบ](./docs/docs_i18n/README_Pัฬััะบะธะน_ัะทัฬะบ.md)
ๅฎ่ฃ
|
ไฝฟ็จๆๆกฃ
|
ๅฟซ้ๅผๅง
|
APIๆๆกฃ
|
ๆดๆฐๆฅๅฟ
[
](examples/vision/classification)
[
](examples/vision/detection)
[
](examples/vision/segmentation/paddleseg)
[
](examples/vision/segmentation/paddleseg)
[
](examples/vision/matting)
[
](examples/vision/matting)
[
](examples/vision/ocr)
[
](examples/vision/facealign)
[
](examples/vision/keypointdetection)
[
](https://user-images.githubusercontent.com/54695910/200162475-f5d85d70-18fb-4930-8e7e-9ca065c1d618.gif)
[
](examples/text)
[
](https://paddlespeech.bj.bcebos.com/Parakeet/docs/demos/parakeet_espnet_fs2_pwg_demo/tn_g2p/parakeet/001.wav)
## ๐ ่ฟๆๆดๆฐ
- FastDeploy็ณปๅ[**็ดๆญ่ฏพ็จๅๆพ**](https://aistudio.baidu.com/aistudio/education/group/info/27800)
- **2023.01.17** ๅๅธ [**YOLOv8**](./examples/vision/detection/paddledetection/) ๅจFastDeploy็ณปๅ็กฌไปถ็้จ็ฝฒๆฏๆใ ๅ
ถไธญๅ
ๆฌ [**Paddle YOLOv8**](https://github.com/PaddlePaddle/PaddleYOLO/tree/release/2.5/configs/yolov8) ไปฅๅ [**็คพๅบ ultralytics YOLOv8**](https://github.com/ultralytics/ultralytics)
- [**Paddle YOLOv8**](https://github.com/PaddlePaddle/PaddleYOLO/tree/release/2.5/configs/yolov8) ๅฏไปฅ้จ็ฝฒ็็กฌไปถ๏ผ[**Intel CPU**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**NVIDIA GPU**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**Jetson**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**้ฃ่
พ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**ๆไป่ฏ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**ๆ่
พ**](./examples/vision/detection/paddledetection/python/infer_yolov8.py)ใ[**ARM CPU**](./examples/vision/detection/paddledetection/cpp/infer_yolov8.cc)ใ[**RK3588**](./examples/vision/detection/paddledetection/rknpu2) ๅ [**Sophgo TPU**](./examples/vision/detection/paddledetection/sophgo), ้จๅ็กฌไปถๅ
ๅซ **Python** ้จ็ฝฒๅ **C++** ้จ็ฝฒ๏ผ
- [**็คพๅบ ultralytics YOLOv8**](https://github.com/ultralytics/ultralytics) ๅฏไปฅ้จ็ฝฒ็็กฌไปถ๏ผ[**Intel CPU**](./examples/vision/detection/yolov8)ใ[**NVIDIA GPU**](./examples/vision/detection/yolov8)ใ[**Jetson**](./examples/vision/detection/yolov8)๏ผๅๅ
ๅซ **Python** ้จ็ฝฒๅ **C++** ้จ็ฝฒ๏ผ
- FastDeploy ไธ่กๆจกๅAPIๅๆข๏ผๅฏไปฅๅฎ็ฐ**YOLOv8**ใ **PP-YOLOE+**ใ**YOLOv5** ็ญๆจกๅๆง่ฝๅฏนๆฏใ
- ๆๅกๅ้จ็ฝฒ็ปๅVisualDLๆฐๅขๆฏๆๅฏ่งๅ้จ็ฝฒใๅจFastDeployๅฎนๅจไธญๅฏๅจVDLๆๅกๅ๏ผๅณๅฏๅจVDL็้ขไฟฎๆนๆจกๅ้
็ฝฎใๅฏๅจ/็ฎก็ๆจกๅๆๅกใๆฅ็ๆง่ฝๆฐๆฎใๅ้่ฏทๆฑ็ญ๏ผ่ฏฆ็ปๆไฝๅฏๅ่็ธๅ
ณๆๆกฃ
- [Servingๅฏ่งๅ้จ็ฝฒ](https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/docs/zh_CN/vdl_management.md)
- [Servingๅฏ่งๅ่ฏทๆฑ](https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/docs/zh_CN/client.md#%E4%BD%BF%E7%94%A8fastdeploy-client%E8%BF%9B%E8%A1%8C%E5%8F%AF%E8%A7%86%E5%8C%96%E8%AF%B7%E6%B1%82)
- **โจ๐ฅโจ ็คพๅบไบคๆต**
- **Slack**๏ผJoin our [Slack community](https://join.slack.com/t/fastdeployworkspace/shared_invite/zt-1o50e4voz-zbiIneCNRf_eH99eS2NVLg) and chat with other community members about ideas
- **ๅพฎไฟก**๏ผๆซๆไบ็ปด็ ๏ผๅกซๅ้ฎๅทๅ ๅ
ฅๆๆฏ็คพๅบ๏ผไธ็คพๅบๅผๅ่
ไบคๆต้จ็ฝฒไบงไธ่ฝๅฐ็็น้ฎ้ข
## ๐ ๆจ็ๅ็ซฏๅ่ฝๅ
| | 
| 
|
| 
| 
| 
|
|
|:----------|:----------:|:----------:|:----------:|:----------:|:----------:|:----------:|:----------:|
| X86_64 CPU | | 
| 
| 
|
| |
|
| NVDIA GPU | | | 
|
|
| | |
|้ฃ่
พ CPU | | | 
| 
| | | |
| ๆไป่ฏ XPU | | | | | | | |
| ๅไธบๆ่
พ NPU | | |
| | | | |
|Graphcore IPU | | | | | | | |
| ็ฎ่ฝ | | | | 
| | | |
|Intel ๆพๅก | | | | | | | |
|Jetson | | |
|
|
| | |
|ARM CPU | | |
|
| | | |
|RK3588็ญ | | | | 
| | | |
|RV1126็ญ | | | | | | | |
| ๆถๆจ | | | | | | | |
| ๆฉๆบๆตฆ | | | | | | | |
## ๐ฎ ๆๆกฃๆ็จ
- [โด๏ธ Python SDKๅฟซ้ๅผๅง](#fastdeploy-quick-start-python)
- [โด๏ธ C++ SDKๅฟซ้ๅผๅง](#fastdeploy-quick-start-cpp)
- **ๅฎ่ฃ
ๆๆกฃ**
- [้ข็ผ่ฏๅบไธ่ฝฝๅฎ่ฃ
](docs/cn/build_and_install/download_prebuilt_libraries.md)
- [GPU้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/gpu.md)
- [CPU้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/cpu.md)
- [IPU้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/ipu.md)
- [ๆไป่ฏXPU้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/kunlunxin.md)
- [็่ฏๅพฎRV1126้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/rv1126.md)
- [็่ฏๅพฎRK3588้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/rknpu2.md)
- [ๆถๆจA311D้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/a311d.md)
- [ๅไธบๆ่
พ้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/huawei_ascend.md)
- [Jetson้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/jetson.md)
- [Androidๅนณๅฐ้จ็ฝฒ็ฏๅข็ผ่ฏๅฎ่ฃ
](docs/cn/build_and_install/android.md)
- **ๅฟซ้ไฝฟ็จ**
- [PP-YOLOE Python้จ็ฝฒ็คบไพ](docs/cn/quick_start/models/python.md)
- [PP-YOLOE C++้จ็ฝฒ็คบไพ](docs/cn/quick_start/models/cpp.md)
- **ไธๅๅ็ซฏไฝฟ็จ**
- [Runtime Pythonไฝฟ็จ็คบไพ](docs/cn/quick_start/runtime/python.md)
- [Runtime C++ไฝฟ็จ็คบไพ](docs/cn/quick_start/runtime/cpp.md)
- [ๅฆไฝ้
็ฝฎๆจกๅ้จ็ฝฒ็ๆจ็ๅ็ซฏ](docs/cn/faq/how_to_change_backend.md)
- **ๆๅกๅ้จ็ฝฒ**
- [ๆๅกๅ้จ็ฝฒ้ๅ็ผ่ฏๅฎ่ฃ
](serving/docs/zh_CN/compile.md)
- [ๆๅกๅ้จ็ฝฒ](serving)
- **APIๆๆกฃ**
- [Python APIๆๆกฃ](https://www.paddlepaddle.org.cn/fastdeploy-api-doc/python/html/)
- [C++ APIๆๆกฃ](https://www.paddlepaddle.org.cn/fastdeploy-api-doc/cpp/html/)
- [Android Java APIๆๆกฃ](java/android)
- **ๆง่ฝ่ฐไผ**
- [้ๅๅ ้](docs/cn/quantize.md)
- [ๅค็บฟ็จๅค่ฟ็จไฝฟ็จ](/tutorials/multi_thread)
- **ๅธธ่ง้ฎ้ข**
- [1. WindowsไธC++ SDKๅฆไฝไฝฟ็จ](docs/cn/faq/use_sdk_on_windows.md)
- [2. Androidไธๅฆไฝไฝฟ็จFastDeploy C++ SDK](docs/cn/faq/use_cpp_sdk_on_android.md)
- [3. TensorRTไฝฟ็จไธญ็ไธไบๆๅทง](docs/cn/faq/tensorrt_tricks.md)
- **ๆดๅคFastDeploy้จ็ฝฒๆจกๅ**
- [Benchmarkๆต่ฏ](benchmark)
- **ๆจกๅๆฏๆๅ่กจ**
- [๐ฅ๏ธ ๆๅก็ซฏ ๆจกๅๆฏๆๅ่กจ](#fastdeploy-server-models)
- [๐ณ ็งปๅจ็ซฏๅ็ซฏไพง ๆจกๅๆฏๆๅ่กจ](#fastdeploy-edge-models)
- [โ๏ธ Webๅๅฐ็จๅบ ๆจกๅๆฏๆๅ่กจ](#fastdeploy-web-models)
- **๐ๅผๅ่
่ดก็ฎ**
- [ๅขๅ ๆฐๆจกๅ](docs/cn/faq/develop_a_new_model.md)
## ๅฟซ้ๅผๅง๐จ
Python SDKๅฟซ้ๅผๅง๏ผ็นๅผๆถ็ผฉ๏ผ
### ๐ ๅฟซ้ๅฎ่ฃ
#### ๐ธ ๅ็ฝฎไพ่ต
- CUDA >= 11.2ใcuDNN >= 8.0ใPython >= 3.6
- OS: Linux x86_64/macOS/Windows 10
#### ๐ธ ๅฎ่ฃ
GPU็ๆฌ
```bash
pip install numpy opencv-python fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html
```
#### [๐ธ Condaๅฎ่ฃ
(ๆจ่โจ)](docs/cn/build_and_install/download_prebuilt_libraries.md)
```bash
conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2
```
#### ๐ธ ๅฎ่ฃ
CPU็ๆฌ
```bash
pip install numpy opencv-python fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html
```
### ๐ Python ๆจ็็คบไพ
* ๅๅคๆจกๅๅๅพ็
```bash
wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
tar xvf ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
```
* ๆต่ฏๆจ็็ปๆ
```python
# GPU/TensorRT้จ็ฝฒๅ่ examples/vision/detection/paddledetection/python
import cv2
import fastdeploy.vision as vision
model = vision.detection.PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel",
"ppyoloe_crn_l_300e_coco/model.pdiparams",
"ppyoloe_crn_l_300e_coco/infer_cfg.yml")
im = cv2.imread("000000014439.jpg")
result = model.predict(im)
print(result)
vis_im = vision.vis_detection(im, result, score_threshold=0.5)
cv2.imwrite("vis_image.jpg", vis_im)
```
C++ SDKๅฟซ้ๅผๅง๏ผ็นๅผๆฅ็่ฏฆๆ
๏ผ
### ๐ ๅฎ่ฃ
- ๅ่[C++้ข็ผ่ฏๅบไธ่ฝฝ](docs/cn/build_and_install/download_prebuilt_libraries.md)ๆๆกฃ
#### ๐ C++ ๆจ็็คบไพ
* ๅๅคๆจกๅๅๅพ็
```bash
wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
tar xvf ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
```
* ๆต่ฏๆจ็็ปๆ
```C++
// GPU/TensorRT้จ็ฝฒๅ่ examples/vision/detection/paddledetection/cpp
#include "fastdeploy/vision.h"
int main(int argc, char* argv[]) {
namespace vision = fastdeploy::vision;
auto model = vision::detection::PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel",
"ppyoloe_crn_l_300e_coco/model.pdiparams",
"ppyoloe_crn_l_300e_coco/infer_cfg.yml");
auto im = cv::imread("000000014439.jpg");
vision::DetectionResult res;
model.Predict(im, &res);
auto vis_im = vision::VisDetection(im, res, 0.5);
cv::imwrite("vis_image.jpg", vis_im);
return 0;
}
```
ๆดๅค้จ็ฝฒๆกไพ่ฏทๅ่[ๆจกๅ้จ็ฝฒ็คบไพ](examples) .
## โด๏ธ โด๏ธ ๆๅก็ซฏๆจกๅๆฏๆๅ่กจ โด๏ธ โด๏ธ
็ฌฆๅท่ฏดๆ: (1) โ
: ๅทฒ็ปๆฏๆ; (2) โ: ๆญฃๅจ่ฟ่กไธญ; (3) N/A : ๆไธๆฏๆ.
ๆๅก็ซฏๆจกๅๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
| ไปปๅกๅบๆฏ | ๆจกๅ | Linux | Linux | Win | Win | Mac | Mac | Linux | Linux | Linux | Linux | Linux | Linux | Linux |
|:----------------------:|:--------------------------------------------------------------------------------------------:|:------------------------------------------------:|:----------:|:-------:|:----------:|:-------:|:-------:|:-----------:|:---------------:|:-------------:|:-------------:|:-------:|:-------:|:-------:|
| --- | --- | X86 CPU | NVIDIA GPU | X86 CPU | NVIDIA GPU | X86 CPU | Arm CPU | AArch64 CPU | ้ฃ่
พD2000 aarch64 | [NVIDIA Jetson](./docs/cn/build_and_install/jetson.md) | [Graphcore IPU](./docs/cn/build_and_install/ipu.md) | [ๆไป่ฏ XPU](./docs/cn/build_and_install/kunlunxin.md) |[ๅไธบ ๆ่
พ](./docs/cn/build_and_install/huawei_ascend.md) | [Serving](./serving) |
| Classification | [PaddleClas/ResNet50](./examples/vision/classification/paddleclas) | [โ
](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
|
| Classification | [TorchVison/ResNet](examples/vision/classification/resnet) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ |
| Classification | [ultralytics/YOLOv5Cls](examples/vision/classification/yolov5cls) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ |โ |
| Classification | [PaddleClas/PP-LCNet](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/PP-LCNetv2](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/EfficientNet](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/GhostNet](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/MobileNetV1](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/MobileNetV2](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/MobileNetV3](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/ShuffleNetV2](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/SqueeezeNetV1.1](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Classification | [PaddleClas/Inceptionv3](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ
|
| Classification | [PaddleClas/PP-HGNet](./examples/vision/classification/paddleclas) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
|โ
| โ
|
| Detection | ๐ฅ๐ฅ[PaddleDetection/PP-YOLOE+](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ
|
| Detection | [๐ฅPaddleDetection/YOLOv8](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ |
| Detection | [๐ฅultralytics/YOLOv8](./examples/vision/detection/yolov8) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ |โ | โ |
| Detection | [PaddleDetection/PicoDet](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
|
| Detection | [PaddleDetection/YOLOX](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
| โ
|
| Detection | [PaddleDetection/YOLOv3](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
| โ
|
| Detection | [PaddleDetection/PP-YOLO](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
| โ
|
| Detection | [PaddleDetection/PP-YOLOv2](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
| โ
|
| Detection | [PaddleDetection/Faster-RCNN](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ | โ
|
| Detection | [PaddleDetection/Mask-RCNN](./examples/vision/detection/paddledetection) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ | โ
|
| Detection | [Megvii-BaseDetection/YOLOX](./examples/vision/detection/yolox) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ |
| Detection | [WongKinYiu/YOLOv7](./examples/vision/detection/yolov7) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ |
| Detection | [WongKinYiu/YOLOv7end2end_trt](./examples/vision/detection/yolov7end2end_trt) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ |โ | โ |
| Detection | [WongKinYiu/YOLOv7end2end_ort](./examples/vision/detection/yolov7end2end_ort) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ |โ | โ |
| Detection | [meituan/YOLOv6](./examples/vision/detection/yolov6) | โ
| โ
| โ
|โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ |
| Detection | [ultralytics/YOLOv5](./examples/vision/detection/yolov5) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
|โ
|
| Detection | [WongKinYiu/YOLOR](./examples/vision/detection/yolor) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ
| โ |
| Detection | [WongKinYiu/ScaledYOLOv4](./examples/vision/detection/scaledyolov4) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ |โ | โ |
| Detection | [ppogg/YOLOv5Lite](./examples/vision/detection/yolov5lite) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| ? | โ |โ |โ |
| Detection | [RangiLyu/NanoDetPlus](./examples/vision/detection/nanodet_plus) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ |โ | โ |
| Perception | [Paddle3D/Smoke](./examples/vision/perception/paddle3d/smoke) | โ | โ
| โ | โ
| โ | โ | โ | โ | โ | โ | โ |โ | โ
|
| KeyPoint | [PaddleDetection/TinyPose](./examples/vision/keypointdetection/tiny_pose) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ | โ |
| KeyPoint | [PaddleDetection/PicoDet + TinyPose](./examples/vision/keypointdetection/det_keypoint_unite) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ |โ |
| HeadPose | [omasaht/headpose](examples/vision/headpose) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ |โ |
| Tracking | [PaddleDetection/PP-Tracking](examples/vision/tracking/pptracking) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| OCR | [PaddleOCR/PP-OCRv2](./examples/vision/ocr) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
|โ
| โ |
| OCR | [PaddleOCR/PP-OCRv3](./examples/vision/ocr) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ
|
| Segmentation | [PaddleSeg/PP-LiteSeg](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
|โ | โ |
| Segmentation | [PaddleSeg/PP-HumanSegLite](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
|โ
| โ |
| Segmentation | [PaddleSeg/HRNet](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
| โ
|โ |
| Segmentation | [PaddleSeg/PP-HumanSegServer](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
| โ
|โ |
| Segmentation | [PaddleSeg/Unet](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ
| โ
| โ
|โ |
| Segmentation | [PaddleSeg/Deeplabv3](./examples/vision/segmentation/paddleseg) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ
| โ
|โ |
| FaceDetection | [biubug6/RetinaFace](./examples/vision/facedet/retinaface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ | โ |
| FaceDetection | [Linzaer/UltraFace](./examples/vision/facedet/ultraface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceDetection | [deepcam-cn/YOLOv5Face](./examples/vision/facedet/yolov5face) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceDetection | [insightface/SCRFD](./examples/vision/facedet/scrfd) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceAlign | [Hsintao/PFLD](examples/vision/facealign/pfld) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceAlign | [Single430/FaceLandmark1000](./examples/vision/facealign/face_landmark_1000) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ | โ |
| FaceAlign | [jhb86253817/PIPNet](./examples/vision/facealign) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ |โ |
| FaceRecognition | [insightface/ArcFace](./examples/vision/faceid/insightface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceRecognition | [insightface/CosFace](./examples/vision/faceid/insightface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ |โ |
| FaceRecognition | [insightface/PartialFC](./examples/vision/faceid/insightface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ | โ |
| FaceRecognition | [insightface/VPL](./examples/vision/faceid/insightface) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ | โ |
| Matting | [ZHKKKe/MODNet](./examples/vision/matting/modnet) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ |โ |
| Matting | [PeterL1n/RobustVideoMatting]() | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ | โ |
| Matting | [PaddleSeg/PP-Matting](./examples/vision/matting/ppmatting) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
| โ |
| Matting | [PaddleSeg/PP-HumanMatting](./examples/vision/matting/modnet) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
|โ
|โ |
| Matting | [PaddleSeg/ModNet](./examples/vision/matting/modnet) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ |โ | โ |
| Video Super-Resolution | [PaddleGAN/BasicVSR](./) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ | โ |โ |
| Video Super-Resolution | [PaddleGAN/EDVR](./examples/vision/sr/edvr) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ |โ | โ |
| Video Super-Resolution | [PaddleGAN/PP-MSVSR](./examples/vision/sr/ppmsvsr) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ |โ | โ |
| Information Extraction | [PaddleNLP/UIE](./examples/text/uie) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ
| โ | โ |โ | |
| NLP | [PaddleNLP/ERNIE-3.0](./examples/text/ernie-3.0) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | โ | โ
|โ | โ
|
| Speech | [PaddleSpeech/PP-TTS](./examples/audio/pp-tts) | โ
| โ
| โ
| โ
| โ
| โ
| โ
| โ | โ | -- |โ |โ | โ
|
็ซฏไพงๆจกๅๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
| ไปปๅกๅบๆฏ | ๆจกๅ | ๅคงๅฐ(MB) | Linux | Android | Linux | Linux | Linux | Linux | Linux | ๆดๆฐไธญ... |
|:------------------:|:-----------------------------------------------------------------------------------------:|:--------:|:-------:|:-------:|:-------:|:-----------------------:|:------------------------------:|:---------------------------:|:--------------------------------:|:-------:|
| --- | --- | --- | ARM CPU | [ARM CPU](./java/android) | [็่ฏๅพฎNPU
RK3588/RK3568/RK3566](./docs/cn/build_and_install/rknpu2.md) | [็่ฏๅพฎNPU
RV1109/RV1126/RK1808](./docs/cn/build_and_install/rv1126.md) | [ๆถๆจNPU
A311D/S905D/C308X](./docs/cn/build_and_install/a311d.md) | ๆฉๆบๆตฆNPU
i.MX 8M Plus | ๆดๆฐไธญ... |
| Classification | [PaddleClas/ResNet50](examples/vision/classification/paddleclas) | 98 | โ
| โ
| [โ
](./examples/vision/classification/paddleclas/rknpu2) | โ
| | | |
| Classification | [PaddleClas/PP-LCNet](examples/vision/classification/paddleclas) | 11.9 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/PP-LCNetv2](examples/vision/classification/paddleclas) | 26.6 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/EfficientNet](examples/vision/classification/paddleclas) | 31.4 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/GhostNet](examples/vision/classification/paddleclas) | 20.8 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/MobileNetV1](examples/vision/classification/paddleclas) | 17 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/MobileNetV2](examples/vision/classification/paddleclas) | 14.2 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/MobileNetV3](examples/vision/classification/paddleclas) | 22 | โ
| โ
| โ | โ
| โ | โ | -- |
| Classification | [PaddleClas/ShuffleNetV2](examples/vision/classification/paddleclas) | 9.2 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/SqueezeNetV1.1](examples/vision/classification/paddleclas) | 5 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/Inceptionv3](examples/vision/classification/paddleclas) | 95.5 | โ
| โ
| โ | โ
| -- | -- | -- |
| Classification | [PaddleClas/PP-HGNet](examples/vision/classification/paddleclas) | 59 | โ
| โ
| โ | โ
| -- | -- | -- |
| Detection | [PaddleDetection/PicoDet_s](examples/vision/detection/paddledetection) | 4.9 | โ
| โ
| [โ
](./examples/vision/detection/paddledetection/rknpu2) | โ
| โ
| โ
| -- |
| Detection | [YOLOv5](./examples/vision/detection/rkyolo) | | โ | โ | [โ
](./examples/vision/detection/rkyolo) | โ | โ | โ | -- |
| Face Detection | [deepinsight/SCRFD](./examples/vision/facedet/scrfd) | 2.5 | โ
| โ
| [โ
](./examples/vision/facedet/scrfd/rknpu2) | -- | -- | -- | -- |
| Keypoint Detection | [PaddleDetection/PP-TinyPose](examples/vision/keypointdetection/tiny_pose) | 5.5 | โ
| โ
| โ | โ | โ | โ | -- |
| Segmentation | [PaddleSeg/PP-LiteSeg(STDC1)](examples/vision/segmentation/paddleseg) | 32.2 | โ
| โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- |
| Segmentation | [PaddleSeg/PP-HumanSeg-Lite](examples/vision/segmentation/paddleseg) | 0.556 | โ
| โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- |
| Segmentation | [PaddleSeg/HRNet-w18](examples/vision/segmentation/paddleseg) | 38.7 | โ
| โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- |
| Segmentation | [PaddleSeg/PP-HumanSeg](examples/vision/segmentation/paddleseg) | 107.2 | โ
| โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- |
| Segmentation | [PaddleSeg/Unet](examples/vision/segmentation/paddleseg) | 53.7 | โ
| โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | -- | -- | -- | -- |
| Segmentation | [PaddleSeg/Deeplabv3](examples/vision/segmentation/paddleseg) | 150 | โ | โ
| [โ
](./examples/vision/segmentation/paddleseg/rknpu2) | | | | |
| OCR | [PaddleOCR/PP-OCRv2](examples/vision/ocr/PP-OCRv2) | 2.3+4.4 | โ
| โ
| โ | -- | -- | -- | -- |
| OCR | [PaddleOCR/PP-OCRv3](examples/vision/ocr/PP-OCRv3) | 2.4+10.6 | โ
| โ | โ | โ | โ | โ | -- |
Webๅๅฐ็จๅบ้จ็ฝฒๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
| ไปปๅกๅบๆฏ | ๆจกๅ | [web_demo](examples/application/js/web_demo) |
|:------------------:|:-------------------------------------------------------------------------------------------:|:--------------------------------------------:|
| --- | --- | [Paddle.js](examples/application/js) |
| Detection | [FaceDetection](examples/application/js/web_demo/src/pages/cv/detection) | โ
|
| Detection | [ScrewDetection](examples/application/js/web_demo/src/pages/cv/detection) | โ
|
| Segmentation | [PaddleSeg/HumanSeg](./examples/application/js/web_demo/src/pages/cv/segmentation/HumanSeg) | โ
|
| Object Recognition | [GestureRecognition](examples/application/js/web_demo/src/pages/cv/recognition) | โ
|
| Object Recognition | [ItemIdentification](examples/application/js/web_demo/src/pages/cv/recognition) | โ
|
| OCR | [PaddleOCR/PP-OCRv3](./examples/application/js/web_demo/src/pages/cv/ocr) | โ
|