Akegarasu/ChatGLM-webui

官方仓库更新了流式输出，希望webui支持

Closed this issue · 3 comments

xzqiaochu commented

官方hugging face仓库已支持流式输出，调用接口为model.stream_chat()

haofanurusai commented

已提交，等待合并

Akegarasu commented

已支持

lixiang1991 commented

补充一下。刚遇到这个错误。'ChatGLMForConditionalGeneration' object has no attribute 'stream_chat'。原来是https://huggingface.co/THUDM/chatglm-6b/tree/main更新了modeling_chatglm.py，替换一下就好了。