qwopqwop200/GPTQ-for-LLaMa

GPTQ vs bitsandbytes

iaoxuesheng opened this issue · 0 comments

iaoxuesheng commented

您好，感谢您贡献的项目，我有一个地方没理解，GPTQ vs bitsandbytes 这里面的对比列出的nf4等其他的都是什么意思