关于flashattention的问题
Opened this issue · 1 comments
zeminroot commented
请教一下，您使用的flashattention是什么版本呢？使用的是什么显卡呢？目前由于显卡的问题需要尝试安装1.x版本的flashattention，安装后出现一些列错误。
zejunwang1 commented
使用的是 flash attention 2，我在 A5000 显卡上做的测试，flash attention 在 A 系列的显卡上应该都能用