ShannonAI/service-streamer

一个及其严重的BUG

FirstDiscoverer opened this issue · 4 comments

在实现ManagedModel接口,覆写predict方法,在正常的使用中,如果predict方法出现异常,会导致后续所有的调用Timeout

建议可以先在自己的predict接口中catch一下异常,这个api我们考虑下容错

已经try cactch了

这个api容错怎么做比较优雅一点呢,只能except返回None值?