PaddlePaddle/ERNIE-SDK

ERNIE模型对message的轮次，role的限制

thinkall opened this issue · 3 comments

thinkall commented

如下图所示，错误示例及错误代码。ERNIE模型对message的轮次，role有一定的限制，但这些限制会导致模型无法在复杂场景下应用。

image

image

这个限制在openAI里是没有的：
image

Bobholamovic commented

你好，目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句，我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀？

目前如果需要支持连续多条同样role的message的话，我建议可以添加一个中间层，将连续的同样role的message内容拼接，构成一条message。

thinkall commented

你好，目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句，我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀？

目前如果需要支持连续多条同样role的message的话，我建议可以添加一个中间层，将连续的同样role的message内容拼接，构成一条message。

如果我有多个agent，一些agent背后是ERNIE Bot, 一些是human input, 这些agent之间进行对话，就会出问题。但把ERNIE bot换成其他的LLM，就不会出问题。事实上，这个限制是没有必要的。不限制，并不影响你一句我一句。

Bobholamovic commented

辛苦 @sijunhe @juncaipeng 模型侧是否有必要支持这一场景～