Richasy/Rodel.Agent

[Feature] 增加当前对话轮次和会话的token消耗统计

Closed this issue · 0 comments

功能描述 / Feature Description

目前小幻助理的会话界面中没有对当前对话轮次和当前会话的字数和消耗token数的统计,如果加上相关信息的话,将会有利于估计当前对话上下文消耗了多少token

备选方案 / Alternatives

No response

附加信息 / Additional Information

目前我看到一些相关项目有类似的实现,例如:chatbox,lobechat,这种实现方式可供参考

image

image