流式传输返回的内容做内容检测
Opened this issue · 8 comments
xx-xx-xiao commented
我想在这个项目中接入返回的内容进行敏感词汇的内容检测,请问一下大佬有没有什么好的建议
xx-xx-xiao commented
如果想用第二种的话,该怎么实现呢?
NiuXiangQian commented
目前我们采用了两种方案:
1、等内容输出完毕进行敏感内容检测
2、每隔50字进行一次敏感内容检测
NiuXiangQian commented
如果想用第二种的话,该怎么实现呢?
第二种可以写一个临时的字符串接收住返回结果,然后把结果对50取模,=0的时候进行一次内容检测
NiuXiangQian commented
结果的字符串长度对50取模
NiuXiangQian commented
xx-xx-xiao commented
但是这个不是流式吗?怎么让他停止不返回前端,在后端内容到50之后在返回呢
NiuXiangQian commented
emitter.next()是返回给前段数据,你可以攒到50之后再调用emitter.next()返回给前端
subscription.request(1) 是请求一下openai一条返回到数据,你可以改成subscription.request(50)试试,这个我也没试过
xx-xx-xiao commented
好的,我去试下。谢谢大佬