训练好的模型如何部署
Closed this issue · 5 comments
wangzhenhan93 commented
如题,想把训练好的模型部署成WEB-API,请问有什么好的建议。
huchinlp commented
转发:
短期内如果想实现web服务,可以把我们Translator类中的Translate函数进行改造,将原本的文件输入修改为字符串输入,之后可以将Init、Translate和销毁函数封装成接口给java web或python web等服务调用。
另外,我们最近1-2个月内也会封装一个web服务demo供大家使用。
lidh15 commented
请问web服务的部分现在有推出吗?类似Microsoft marian那种的
huchinlp commented
您好,感谢您对我们项目的关注。
我们最近在优化模型解码效率和部署功能,预计在两个月内更新一个完整版本。会提供docker打包功能,也包括简单的web服务部分。