标签：tenosrrt no serialize TensorRT torch2trt 3.4 7.1 dict trt

File "/usr/local/lib/python3.6/dist-packages/torch2trt-0.1.0-py3.6-linux-x86_64.egg/torch2trt/torch2trt.py", line 419, in _on_state_dict state_dict[prefix + "engine"] = bytearray(self.engine.serialize()) AttributeError: 'NoneType' object has no attribute 'serialize

错误产生环境:

trt_pose(https://github.com/NVIDIA-AI-IOT/trt_pose)

  if not os.path.exists(OPTIMIZED_MODEL):
                print('-- Converting TensorRT models. This may takes several minutes...')
                model.load_state_dict(torch.load(MODEL_WEIGHTS))
                self.model_trt = torch2trt.torch2trt(model, [data], fp16_mode=True, max_workspace_size=1 << 25)
                torch.save(self.model_trt.state_dict(), OPTIMIZED_MODEL)

解决方法：

将tenosrRT版本从7.2.2.3更换为7.1.3.4

#export LD_LIBRARY_PATH=/home/tonyyan/Documents/TensorRT-7.2.2.3/lib

export LD_LIBRARY_PATH=/home/tonyyan/Documents/TensorRT-7.1.3.4.Ubuntu-18.04.x86_64-gnu.cuda-10.2.cudnn8.0/TensorRT-7.1.3.4/lib:$LD_LIBRARY_PATH

标签：tenosrrt,no,serialize,TensorRT,torch2trt,3.4,7.1,dict,trt
来源： https://www.cnblogs.com/mrlonely2018/p/14596337.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。