tensorrt

deep learning 分类 目标检测-HyperNet-论文笔记 06-06 基础DL模型-Deformable Convolutional Networks-论文笔记 06-05 基础DL模型-STN-Spatial Transformer Networks-论文笔记 06-05 目标检测-从RCNN到Mask RCNN两步检测算法总结 06-05 目标检测-R-FCN-论文笔记 06-05 目标检测-SSD-Single Shot MultiBox Detector-论文笔记 06-04 目标检测评价标准-AP mAP 06-04 目标检测数据集MSCOCO简介 06-04 目标检测数据集PASCAL VOC简介 deep learning 分类 TensorRT(6)-INT8 inference 09-03 TensorRT(5)-INT8校准原理 08-31 TensorRT(4)-Profiling and 16-bit Inference 08-31 TensorRT(3)-C++ API使用：mnist手写体识别 08-31 TensorRT(2)-基本使用：mnist手写体识别 08-31 TensorRT(1)-介绍-使用-安装 08-28 基础DL模型-Dilated Residual Networks-论文笔记 07-08 目标检测-An

转载请注明出处： 代码网址： 参考网址： tensorrt安装包的sample/python目录 https://github.com/pytorch/examples/tree/master/mnist 此处代码使用的是tensorrt5.1.5 在安装完tensorrt之后，使用tensorrt主要包括下面几段代码： 1. 初始化 import tensorrt as trt import pycuda.driver as cuda import pycuda.autoinit # 此句代码中未使用，但是必须有。this is useful, otherwise stream = cuda.Stream() will cause 'explicit_context_dependent failed: invalid device context - no currently active context?' 如注解所示，import pycuda.autoinit这句话程序中未使用，但是必须包含，否则程序运行会出错。 2. 保存onnx模型 def saveONNX(model, filepath, c, h, w): model = model.cuda() dummy_input = torch.randn(1, c, h, w, device='cuda') torch