wbbeyourself/SCM4LLMs

关于使用summary和 full content的判断

dsj96 opened this issue · 2 comments

我想问下关于如何判断是否对检索到memorys(比如k=3)执行summary的判断?
在论文old version Figure 5
image

SCM_Paper_Draft.pdf Figure 6是不同的prompt,此处的{content}是已经summary过的多个memory的吗?单个memory超过800tokens、多个memory token超过2000分别是在那一步判断的呢?
image
感谢!

您好,感谢您对我们工作的关注。关于 prompt 以我们放在repo 中的这个版本为准(这个是更新的版本),因为匿名期的原因,暂时还无法更新到 arxiv。

另外,prompt 里的 content 既可以是 原文,也可以是 summary 。具体操作可以参考代码:core/chat.py 中的 judge_drop_or_summary 函数。

收到,感谢回复!