关于计算复杂度的问题
woaicv opened this issue · 1 comments
woaicv commented
您好，有个问题我没太想清楚，就是GSA的计算复杂度为什么是 O(mnHW d) = O( H2W2d k1k2 )。非常感谢！
forever10086 commented
我推测是每个patch有一个representative，这是query，size就是patch的个数，mn，是与整个image做全局自注意力，key的size就是HW，所以计算复杂度是O(mnHWd)