yolo5+tensorrt加速

yolo5+tensorrt加速1.使用前注意2.开始使用3.测试是否可以实现加速

1.使用前注意

如果使用的是YAHBOOM版的镜像,无需搭建环境,如果是自行搭建环境需要下载tensorrt的包 yoloV5的版本和tensorrt的包要对应 本教程使用的是yolo5 V5.0的版本,所以tensorrt加速的包也要使用V5.0的 这是tensorrt下载链接:https://github.com/wang-xinyu/tensorrtx/tree/master/yolov5

2.开始使用

  1. 把tensorrt/yolov5下的gen_wts.py复制到yolov5的文件夹下
  2. 执行gen_wts.py生成.wts文件。
  1. 到目录tensorrtx下的yolov5文件夹老规矩,创建一个build文件,并进入
  1. 将yololayer.h里的CLASS_NUM修改成你的。官方用的是coco数据集,所以默认是80。(使用的是官方的可以忽略这步)
  2. 执行makeFile。(每次修改为CLASS_NUM都要make一次)
  1. 从yoloV5的文件路径下的wts文件复制到tensorrtx/yolov5里。
  2. 生成.engine文件

3.测试是否可以实现加速

方法1:进入tensorrtx/yolo5/build的文件夹下,运行命令

可以和在yolov5文件夹下运行

进行一个对比,可以很清楚的看到加入了tensorrtx后,识别的图片时间大大减小 image-2023040400001

方法2:进入tensorrtx/yolo5的文件夹下,运行命令

同样和可以和在yolov5文件夹下运行

进行一个对比,可以很清楚的看到加入了tensorrtx后,识别的图片时间大大减小 image-2023040400002