高性能DNN推理能够被TENSORRT轻松部署

TensorRT 是 NVIDIA 推出的专门加速深度学习推理的开发工具。利用 TensorRT， 您可以快速、高效地在 GPU 上部署基于深度学习的应用。 我们首先会介绍 TensorRT 的基本功能和用法，例如它的优化技巧和低精度加速。其次， 结合我们实际使用过程中的经验，详细介绍 TensorRT 的难点：Plugin 机制。最后，我们会分享几个 TensorRT 成功应用案例