QwenLM/qwen.cpp

请问7b的模型量化需要多大的内存,我这一直显示out of memory

WCSY-YG opened this issue · 0 comments

请问7b的模型量化需要多大的内存,我这一直显示out of memory