Clouditera/SecGPT

你好，能否回下大模型生成回复非常耗时问题吗？

Opened this issue · 1 comments

SamXiaosheng commented

用了你们secgptmini每问一个问题回复是相当于的久，几十分钟都没有生成完整的回复，请问你们内测也是这样的吗？huagingface上面使用也是这样的效果。麻烦回复下，还是因为开源给的版本是这样的耗时

badmic commented

解决了嘛请问@SamXiaosheng