MegEngine/InferLLM

希望可以封装openai兼容API

Opened this issue · 0 comments

nexx5 commented

现有系统仅有Cli方式,应用不便。封装成api就可以供各类应用调用了。
chatglm项目中就有api。
希望可以加入。感谢。