# yolov7_tensorrt

**Repository Path**: xiaxinfei/yolov7_tensorrt

## Basic Information

- **Project Name**: yolov7_tensorrt
- **Description**: yolov7的tensorrt部署
- **Primary Language**: C++
- **License**: Not specified
- **Default Branch**: main
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 2
- **Forks**: 0
- **Created**: 2023-08-23
- **Last Updated**: 2024-08-15

## Categories & Tags

**Categories**: Uncategorized

**Tags**: TensorRt, yolov7, Cpp

## README

# yolov7_tensorrt

# TIPS
* 跑通了整体流程，但是有较多可以优化的地方。
* 前处理可以合并进模型。
* -- 前处理的resize、padding可以合进模型
* -- 去除前处理中的hwc2chw(tensorrt原始支持)
* -- 取出前处理中的bgr*rgb(数据增强中包含了色彩空间变换，理论上泛化能力能够覆盖。或者在训练时即采用rgb)
* 后处理可以修改为连续内存访问，降低耗时

# ENV

## Training Env
* 参考子仓README
## Deployment Env
* onnxRunTime
* 宿主机环境: nvidia driver、dockers and nvidia container toolkit  
* docker镜像: nvidia/cuda docker(devel)  
* 容器环境: tensorRt、cudnn  

# Deploy

```
cd deploy_tensorrt
mkdir build
cd build && cmake .. && make
```

# More Test
1. tensorrt推理耗时测试
* 测试环境

| PROJECT|SOC|Jetpack|cuda|cudnn|tensorRT|
|--------|---|------|----|--------|------|
|VERSION|ORIN(tegra23x)|5.1|11.4.315|8.6.0.166|8.5.2.2|

* 推理耗时：10.5ms