majianjia/nnom

RNN量化

wenzhu888 opened this issue · 1 comments

RNN量化损失相对较大,可以增加支持16bit算子吗?

16bit正在做,现阶段内部和state用的是16bit,输入输出为了兼容还是8bit