请问新手该如何正确的学习项目代码
Huziyou opened this issue · 1 comments
Huziyou commented
大佬好,因为本人是第一次接触模型推理加速这样的项目,在经过一系列配置后已经能成功运行run.py文件,请问正确学习本项目的方式是啥样呀,应该从什么文件开始学习阅读呢
Tlntin commented
- 跟着readme跑通整个项目,熟悉流程。然后使用tritonserver完成项目部署,使用fastapi_tritonserver完成openai接口兼容。
- 看一遍本项目附带的B战视频,将分支切换到0.5,通篇阅读一下代码,对项目的运行有一定了解。
- 如果还要深入学习,去学一下cuda(包含cudnn, cublass, cutlass),onnx, TensorRT的东西。
- 再阅读一下本项目源码,尝试阅读c++部分源码,可以切换到0.1.0分支看看。