SmartFlowAI/EmoLLM

大佬们 部署服务能加个openai接口形式吗？方便部署其他应用。

Closed this issue · 4 comments

zlszhonglongshen commented

大佬们 部署服务能加个openai接口形式吗？

aJupyter commented

你好，欢迎关注EmoLLM，后面的话可以加入，暂时时间有限哈，欢迎提交PR

zlszhonglongshen commented

你好，欢迎关注EmoLLM，后面的话可以加入，暂时时间有限哈，欢迎提交PR

可以的。还有一个问题，看到现在是单卡，也顺便加入多卡训练的内容呗

zlszhonglongshen commented

你好，欢迎关注EmoLLM，后面的话可以加入，暂时时间有限哈，欢迎提交PR

用 fastchat 框架挺好部署服务的，已经搞通了

aJupyter commented

后面会加入多卡的，该项目会继续维护下去。
fastchat部署的服务要不要拉个PR