/tensorRT

Simple samples for TensorRT programming

Primary LanguageJupyter NotebookApache License 2.0Apache-2.0

NVIDIA TensorRT 中文教程仓库

本仓库面向使用中文的 NVIDIA TensorRT 初学者和开发者,提供了 TensorRT 相关学习资料和参考资料、丰富的代码范例,以及每年举办一次的 TensorRT Hackathon 的比赛信息

This repository is aimed at NVIDIA TensorRT beginners and developers using Chinese. We provide TensorRT-related learning and reference materials, code examples, and summaries of the annual TensorRT Hackathon competition information.

各文件夹说明

  • cookbook,《TensorRT 菜谱》包含丰富的 TensorRT 代码范例,例如 API 使用方法、使用原生 API 或 Parser 将模型导入 TensorRT 中构建并运行的流程、书写 TensorRT Plugin、计算图优化范例、报错信息处理方法,以及 TensorRT 的更多高级技巧。
  • Hackathon,每年一届的 TensorRT Hackathon 的比赛信息汇总,包括比赛介绍、赛题相关资源、参考实现(可以看作经典模型的优化案例),以及选手们自选模型模型在 TensorRT 中优化并运行的实例。
  • old,其他 TensorRT 范例代码,将来会逐渐放入 cookbook 中

库最新变化

  • 2022年8月21日,整理 TensorRT Hackathon 2022 的相关资源,上传本次活动初赛赛题(Wenet)的参考实现
  • 2022年8月21日,本仓库用到的资源(MNIST数据集和Hackathon2022的初赛赛题模型ONNX文件),链接: https://pan.baidu.com/s/14HNCFbySLXndumicFPD-Ww 提取码: gpq2