TensorRT优化原理

在这里插入图片描述

模型裁剪

原始网络
在这里插入图片描述
裁剪后：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

量化

在这里插入图片描述
量化涉及到的原理是： 交叉熵

TensorRT环境配置

在这里插入图片描述

TensorRT的SSD代码运行过程

在这里插入图片描述

References

量化的数学原理

TensorRT模型原理