14B-4bit对应的web-demo.py的奇怪bug，重复输出。
Closed this issue · 2 comments
tms2003 commented
反复的重复输出,如下图：
对话内容：
你好！有什么我可以帮助你的吗？
来一首宋词
好的，这是一首宋词：
《青玉案·元夕》
辛弃疾
东风夜放花千树，更吹落，星如雨。
宝马雕车香满路，凤箫声动，玉壶光转，一夜鱼龙舞。
蛾儿雪柳黄金缕，笑语盈盈暗香去。
众里寻他千百度，蓦然回首，那人却在，灯火阑珊处。
来一首唐诗
好的，这是一首唐诗：
《静夜思》
李白
床前明月光，疑是地上霜。
举头望明月，低头思故乡。
一夜鱼龙吴是谁的词
《青玉案·元夕》是辛弃疾的词。
完整的是什么
《青玉案·元夕》全文如下：
东风夜放花千树，更吹落，星如雨。
宝马雕车香满路，凤箫声动，玉壶光转，一夜鱼龙舞。
蛾儿雪柳黄金缕，笑语盈盈暗香去。
众里寻他千百度，蓦然回首，那人却在，灯火阑珊处。
辛弃疾是谁？
辛弃疾（1140年5月28日－1207年10月3日），字幼安，号稼轩，山东东路济南府历城县（今山东省济南市历城区遥墙镇四凤闸村）人，南宋官员、文学家、词人，婉约派词人代表，有“词中之龙”之称。
当过什么官？
辛弃疾在南宋时期曾任过许多官职，包括：通判建康府、知抚州、知荆南府、知潭州、知江宁府、知建康府、知临安府、知洪州、知福州、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府、知建康府、知江宁府
控制台上没有任何出错提示。模型为：14B-4bit,此对话在原版对话上表现正常。
这是同样的int8的重复结果:
Tlntin commented
调整了一下参数，目前正常了。
你好
你好！有什么我能帮助你的吗？
来一首宋词
《水调歌头·明月几时有》作者：苏轼
明月几时有，把酒问青天。不知天上宫阙，今夕是何年。
我欲乘风归去，又恐琼楼玉宇，高处不胜寒。起舞弄清影，何似在人间！
转朱阁，低绮户，照无眠。不应有恨，何事长向别时圆？
人有悲欢离合，月有阴晴圆缺，此事古难全。但愿人长久，千里共婵娟。
来一首唐诗
《静夜思》作者：李白
床前明月光，疑是地上霜。举头望明月，低头思故乡。
一夜鱼龙吴是谁的词
《一夜鱼龙吴》是唐代诗人张志和所作的一首七言绝句。全诗如下：
一夜鱼龙吴地客，梦魂何处逐香车。谁知向晚江南岸，独自倚阑干。
完整的是什么
完整的《一夜鱼龙吴》如下：
一夜鱼龙吴地客，梦魂何处逐香车。谁知向晚江南岸，独自倚阑干。画堂深锁无人到，独倚危楼看暮鸦。想得家中夜深坐，还应说着远行人。
辛弃疾是谁？
辛弃疾（1140年5月28日－1207年10月3日），字幼安，号稼轩，山东东路济南府历城县（今山东省济南市历城区）人，**南宋豪放派词人，人称“词中之龙”，与苏轼合称“苏辛”，与李清照并称“济南二安”。辛弃疾曾任过江西安抚使、福建安抚使等职，以功封为龙图阁待制，提点江西安抚刑狱公事，进为枢密都承旨，官至朝请大夫、遥州刺史，开禧北伐后被罢职，居于上饶带湖，后被赐死。他留下许多脍炙人口的词篇，成为**文学史上杰出的词人之一。
当过什么官？
辛弃疾曾担任过江西安抚使、福建安抚使等职，以功封为龙图阁待制，提点江西安抚刑狱公事，进为枢密都承旨，官至朝请大夫、遥州刺史。