README

TensorRT-Developer_Guide_in_Chinese

本项目是NVIDIA TensorRT的中文版开发手册, 有个人翻译并添加自己的理解。

目录:

摘要:
本 NVIDIA TensorRT 开发人员指南演示了如何使用 C++ 和 Python API 来实现最常见的深度学习网络层。 它展示了如何获取使用深度学习框架构建的现有模型并使用提供的解析器构建 TensorRT 引擎。 开发者指南还提供了常见用户任务的分步说明,例如创建 TensorRT 网络定义、调用 TensorRT 构建器、序列化和反序列化,以及如何为引擎提供数据和执行推理; 同时使用 C++ 或 Python API。

有关之前发布的 TensorRT 开发人员文档,请参阅 TensorRT 档案

  1. 简介
  2. TensorRT的能力
  3. TensorRT的C++接口解析
  4. TensorRT的Python接口解析
  5. TensorRT如何工作
  6. TensorRT高级用法
  7. TensorRT中的INT8
  8. TensorRT中的动态形状
  9. TensorRT中的自定义层
  10. TensorRT中的循环
  11. TensorRT之使用条件
  12. TensorRT和DLA(Deep Learning Accelerator)/TensorRT和DLA(Deep_Learning_Accelerator).md)
  13. TensorRT的最佳性能实践
  14. TensorRT中的常见问题
  15. TensorRT网络层详解
  16. TensorRT的数据格式定义详解
  17. TensorRT的命令行程序