ubuntu下yolov8 tensorrt模型加速部署【实战】:
测试信息
- 测试平台:linux+docker
- 硬件:NVIDIA 3070
- 模型输入:batchx3x640x640(测试设置batch为8)
- 测试模型:yolov8n,yolov8s,yolov8n,更多模型测试可以去网盘下载:文件分享
测试仓库
yolov8相关tensrrt+cuda部署代码在仓库TensorRT-Alpha:
https://github.com/FeiYull/tensorrt-alpha
测试结果速览
测试指令:
# yolov8n
./app_yolov8 --model=../../data/yolov8/yolov8n.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4 --show
# yolov8s
./app_yolov8 --model=../../data/yolov8/yolov8s.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4 --show
# yolov8m
./app_yolov8 --model=../../data/yolov8/yolov8m.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4 --show
需要注意:下图中,preprocess包含图像预处理,例如:resize, padding等。postprocess包含decode和NMS,下面测试结果速览,仅供参考:
yolov8n:
yolov8s:
yolov8m:
yolov8l yolov8x可以自己去仓库玩耍一下。
更新计划
“Win10环境下:yolov8的模型部署运行教程”