商汤日日新自定义渠道失败
Closed this issue · 1 comments
例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述
添加商汤日日新自定义渠道,添加完成后点击测试,可以测试成功,但是使用openai调用时总是没有返回
输出永远为空
ChatCompletion(id='', choices=None, created=None, model='', object='', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=None, prompt_tokens=17, total_tokens=17, completion_tokens_details=None, prompt_tokens_details=None))
商汤:
https://console.sensecore.cn/help/docs/model-as-a-service/nova/chat/ChatCompletions/ChatCompletion
复现步骤
自定义渠道
渠道地址:https://api.sensenova.cn
模型:SenseChat
秘钥:根据AKSK生成的校验token头
ChatCompletion地址:/v1/llm/chat-completions
代码
from openai import OpenAI
client = OpenAI(
api_key = "sk-**************************",
base_url = "https://one-hub.XXXX.com/v1"
)
chat_completion = client.chat.completions.create(
model="SenseChat",
messages=[
{
"role": "user",
"content": "请用中文讲个冷笑话",
}
]
)
print(chat_completion)
输出永远为空
ChatCompletion(id='', choices=None, created=None, model='', object='', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=None, prompt_tokens=17, total_tokens=17, completion_tokens_details=None, prompt_tokens_details=None))
预期结果
应该正常输出
相关截图
如果没有的话,请删除此节。
通过修改渠道地址:https://api.sensenova.cn/compatible-mode
其他保持默认可以正常