使用KeyStrategyFunction如何根据每次请求时的内容进行切换key
Admin0x002 opened this issue · 1 comments
Admin0x002 commented
KeyStrategyFunction的默认实现KeyRandomStrategy是随机获取一个key;
目前想根据请求时的内容进行切换不同的场景key,例如ChatCompletion新增了scene字段,如何根据该字段切换每次请求时的key
Admin0x002 commented
或者说如何在KeyStrategyFunction的apply方法中获取当次请求中的ChatCompletion