目录
完整报错:
IShuffleLayer applied to shape tensor must have 0 or 1 reshape dimensions: dimensions were [-1,2])
前言:
在做 pytorch框架 下面的 分类模型 转换的时候遇到的问题。
torch模型转tensorrt有两种方法:
一个是直接转成tensorrt;一个是先转成onnx,再将onnx转换成tensorrt。
我使用的是通过onnx转换的间接转换办法。
但是再onnx转tensorrt的时候遇到了这个bug。
解决步骤:
1.pth --> onnx (mmclassification tools里面的pytorch2onnx.py)
2.onnx --> engine (mmdeploy 里面的 onnx2tensorrt.py)
注:
1.这里不使用mmdeploy直接转换的原因就是他可能会报这个错误!
2.我使用的分类模型是mmclassification里面的,但不是从mmclassification里面训练的(他封装的太好了,,导致我很多操作很难去更改),只是借助了里面的模型转换 API 进行模型转换而已。
原因:
在网上搜了好长时间都没有结果~~于是决定写一篇来记录一下!
错误的原因是因为:
pth转onnx的时候没有进行 simplify 操作。
注:这个参数是在 mmclassification 里面的。
再pth转onnx的时候把这个参数加上去。他就不报这个错误了!(这个解决方法我是试出来的,,暂时没有理论依据。。)