hahnyuan/RPTQ4LLM

如何计算weights/KV-cache/Dynamic Activation的占比

xingyueye opened this issue · 0 comments

hi,首先祝贺你们优秀的工作。
上次讲座看到你们有一个 weights/KV-cache/Dynamic Activation 各部分参数量占比的饼状图,求问下这部分如何计算的,能否release一下相关代码