syspider opened this issue 2 years ago · 0 comments
我打断点看了下，没有用到gpt2的past_key_values机制，博主后面有空可以改进一下，应该能加速不少