Issues
- 0
- 1
- 0
910B推理35B模型
#26 opened - 0
telechat和telechat2系列有什么区别
#25 opened - 4
pip install -r requirements 报错
#24 opened - 2
35b推理的prompt和7b的不一样吗,35b推理出来的答案有问题
#20 opened - 0
35b
#19 opened - 4
vllm多卡推理问题
#18 opened - 3
- 1
vllm 0.6.4.post1支持
#15 opened - 2
910b推理
#13 opened - 1
关于system字段适配
#12 opened - 3
关于chat_template
#11 opened - 1
- 1
Telechat-115B推理显存要求
#5 opened - 1
能不能开放int4量化权重
#4 opened - 0
量化模型权重
#3 opened - 1
权重没上传上来
#2 opened