推理 group整除问题
Michelleable opened this issue · 1 comments
Michelleable commented
hi,
我看到作者在其他issue的回复上说，最新的版本不用考虑整除的问题
但是我看到代码中还是有assert代码，
因为我对flash-attn的底层cu接口不熟悉，所以对输入的非整除序列长度不知道是否可以正常work
我是只需要把assert删掉就可以了么？
还是需要做一些其他的改动
多谢
Michelleable commented