xusenlinzy/api-for-open-llm

Qwen1.5不支持tool_choice

YunmengLiu0 opened this issue · 4 comments

YunmengLiu0 commented

提交前必须检查以下项目 | The following items must be checked before submission

  • 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some issues have already been addressed and fixed.
  • 我已阅读项目文档和FAQ章节并且已在Issue中对问题进行了搜索，没有找到相似问题和解决方案 | I have searched the existing issues / discussions

问题类型 | Type of problem

效果问题 | Effectiveness issues

操作系统 | Operating system

Linux

详细描述问题 | Detailed description of the problem

# 下面为请求body
# 
modelName=Qwen-14B, 
conversationId=***,
history=[ChatContent(role=user, metadata=null, content=北京今天天气怎么样)],
tools=[OpenAiTools(type=function, function=OpenAiTool(name=weather, description=获取某地的天气、温度，湿度等信息, 
parameters=OpenAiToolParameterDto(type=object, properties=null), required=[]))], 
toolChoice=none, 
stop=[Observation]

# 下面为模型返回
对不起，我无法获取实时的天气信息，因为我没有相应的数据接口。建议您可以通过查看各大天气预报网站，或者使用专业的天气预报应用来查询北京的天气情况。

# 提问：
原先是Qwen 1时，是会返回具体的工具选择结果及参数的。现在升级Qwen1.5后，不支持该功能了。
请问：是调用方式有修改吗？还是还不支持Qwen1.5 tool_choice，是否有考虑在后续版本增加该功能？

Dependencies

No response

运行日志或截图 | Runtime logs or screenshots

No response

skyliwq commented

+1

skyliwq commented

什么时候能处理一下