dbn.py里num_channels的选择有讲究吗？

[Chauncey-Wang]

老哥，还有一个问题（应该也是最后一个了），dbn.py里，像DBN(8, num_channels=8, momentum=1, affine=True)这里，设置的num_features自然是上一层的通道数，那num_channels设置的是什么呀，这个num_channels的设置有讲究吗？和分类的种类有关吗？好像我把他设置小一点就不会有svd_cuda: the updating process of SBDSDC did not converge这样的问题了，非常感谢老哥的解答。

[huangleiBuaa]

这个就是我论文里得groupsize k_G (Section 3.4). 其等于1时就是BN，其等于num_features时是fully whitened的。它设小的话肯定稳定一些，但whitening所带来的效果也差一些。用它来做个trade-off

…

________________________________ 发件人: Chauncey-Wang ***@***.***> 发送时间: 2021年3月14日 20:25 收件人: huangleiBuaa/GroupWhitening 抄送: Subscribed 主题: [huangleiBuaa/GroupWhitening] dbn.py里num_channels的选择有讲究吗？ (#3) 老哥，还有一个问题（应该也是最后一个了），dbn.py里，像DBN(8, num_channels=8, momentum=1, affine=True)这里，设置的num_features自然是上一层的通道数，那num_channels设置的是什么呀，这个num_channels的设置有讲究吗？和分类的种类有关吗？好像我把他设置小一点就不会有svd_cuda: the updating process of SBDSDC did not converge这样的问题了，非常感谢老哥的解答。 ― You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub<#3>, or unsubscribe<https://github.com/notifications/unsubscribe-auth/AFIQEP5HMD475IJTK2OI5B3TDSTL5ANCNFSM4ZE5QIGA>.

[Chauncey-Wang]

这个就是我论文里得groupsize k_G (Section 3.4). 其等于1时就是BN，其等于num_features时是fully whitened的。它设小的话肯定稳定一些，但whitening所带来的效果也差一些。用它来做个trade-off
…
________________________________ 发件人: Chauncey-Wang @.***> 发送时间: 2021年3月14日 20:25 收件人: huangleiBuaa/GroupWhitening 抄送: Subscribed 主题: [huangleiBuaa/GroupWhitening] dbn.py里num_channels的选择有讲究吗？ (#3) 老哥，还有一个问题（应该也是最后一个了），dbn.py里，像DBN(8, num_channels=8, momentum=1, affine=True)这里，设置的num_features自然是上一层的通道数，那num_channels设置的是什么呀，这个num_channels的设置有讲究吗？和分类的种类有关吗？好像我把他设置小一点就不会有svd_cuda: the updating process of SBDSDC did not converge这样的问题了，非常感谢老哥的解答。 ― You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub<#3>, or unsubscribehttps://github.com/notifications/unsubscribe-auth/AFIQEP5HMD475IJTK2OI5B3TDSTL5ANCNFSM4ZE5QIGA.

好的，谢谢哥