zhoudaquan/Refiner_ViT

MLP 中的操作

LEM0NTE opened this issue · 0 comments

https://github.com/zhoudaquan/Refiner_ViT/blob/master/models/refined_transformer.py#:~:text=x%20%3D%20self.scale_channel.unsqueeze(0).unsqueeze(0)*x
我注意到您的MLP层中使用了这样一层操作,这似乎是一个新的尝试,请问您这样为什么考虑这样操作呢?您是否针对这个操作做了相关的消融学习呢?