zsl-007 opened this issue 7 months ago · 2 comments
能不能发一下,你的模型的gguf文件下载链接。 我使用我下载的模型tinyllama-1.1b-chat-v1.0.Q8_0.gguf,对话得到的结果很不理想,上传知识库文档也会报错。
https://hf-mirror.com/
能不能发一下你使用的tinyllama-1.1b-chat.gguf这个模型的下载地址,谢谢。