sugarforever/chat-ollama

qwen2这个模型有能用的吗

jingnorth opened this issue · 5 comments

下了1.5b 和 7b, 跑了都出错,和比较大的参数的模型一样,感觉是超时报错了

可以用,更新一下最新版的ollama,感觉还挺快的

感谢,把dokcer和ollama都升级了,可以跑

不过qwen2还是不如kimi,同一个问题,目前本地知识库这些开源本地的模型,只有kimi答的靠谱

这个要看模型参数数量吧

kimi 用的moonshot-v1-8k,不太懂这个8K是多少参数量,qwen2 是7b