Opened this issue 3 months ago · 1 comments
当回答问题结束后可以随机产生三个散发拓展问题,用了抖音扣子(coze.cn)机器人,很倔这功能挺好的,有时它提供问题的视角是我没有想到的,体验很好。
No response
Hi,也是一个不错的提议,不过短期内可能不会考虑。
我了解过一些背后的实现,抛开那些经过微调的模型不谈,想要实现 建议问题,需要写一堆提示词,并和模型约定数据返回格式。
建议问题
这些内容无疑会挤占上下文窗口长度,并且在事实上加大 token 的消耗。
换句话说,实现这个功能可能会让你花更多的钱,而多数情况下,你可能并不需要这些附加的建议问题。
所以这个功能需要更审慎的考量。