THUDM/GLM

使用GLM-2b推理时生成无意义内容

ChristLBUPT opened this issue · 0 comments

模型会生成大量重复无意义的内容(就像初始参数随机的模型一样)

比如

输入:The capital city of China is [MASK].
输出:[CLS] The capital city of China is [MASK].<|endoftext|> <|startofpiece|>  K KparparReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloaded

使用的代码是repo主页的示例代码,模型使用的是THUDM/glm-2b

麻烦大佬们check一下