MartialBE/one-hub

商汤日日新自定义渠道失败

Closed this issue · 1 comments

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述
添加商汤日日新自定义渠道,添加完成后点击测试,可以测试成功,但是使用openai调用时总是没有返回
输出永远为空
ChatCompletion(id='', choices=None, created=None, model='', object='', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=None, prompt_tokens=17, total_tokens=17, completion_tokens_details=None, prompt_tokens_details=None))

商汤:
https://console.sensecore.cn/help/docs/model-as-a-service/nova/chat/ChatCompletions/ChatCompletion
复现步骤
自定义渠道
渠道地址:https://api.sensenova.cn
模型:SenseChat
秘钥:根据AKSK生成的校验token头
ChatCompletion地址:/v1/llm/chat-completions

代码

from openai import OpenAI

client = OpenAI(
        api_key = "sk-**************************",
        base_url = "https://one-hub.XXXX.com/v1"
)

chat_completion = client.chat.completions.create(
       model="SenseChat",
       messages=[
           {
               "role": "user",
               "content": "请用中文讲个冷笑话",
           }
       ]
)
print(chat_completion)

输出永远为空
ChatCompletion(id='', choices=None, created=None, model='', object='', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=None, prompt_tokens=17, total_tokens=17, completion_tokens_details=None, prompt_tokens_details=None))
预期结果

应该正常输出
相关截图
如果没有的话,请删除此节。

通过修改渠道地址:https://api.sensenova.cn/compatible-mode
其他保持默认可以正常