关于Negative Sampling Strategies
Heihaierr opened this issue · 15 comments
ring和hardmixing接上都正常了,但是GCL.losses.DebiasedInfoNCE或GCL.losses.HardnessInfoNCE还是很低,很奇怪
readme里提到的model.ring和hardmixing不在了啊,是迁到loss文件里了吗?
ring和hardmixing接上都正常了,但是GCL.losses.DebiasedInfoNCE或GCL.losses.HardnessInfoNCE还是很低,很奇怪
readme里提到的model.ring和hardmixing不在了啊,是迁到loss文件里了吗?
ring和hardmixing接上都正常了,但是GCL.losses.DebiasedInfoNCE或GCL.losses.HardnessInfoNCE还是很低,很奇怪
是的,在loss里面,你这边GCL.losses.DebiasedInfoNCE或GCL.losses.HardnessInfoNCE跑正常吗?
@Heihaierr
ringloss为啥输入有Y啊 那不就引入标签信息了?还有那个hardmixing里有个projection, 那其输入的z1,z2还需要projection吗?
Debiased 和hardness的我还没跑,在看原论文的伪代码和github,能调正常的话再跟你说一下哈
ringloss的y没有参与采样,相关的代码注释掉就可以了;hardmixing就把encoder的project传进去就行
@Heihaierr 我纯GRACE在wikics能跑出79.3+(标准划分20次平均),请问这正常吗。。。
@Heihaierr 我纯GRACE在wikics能跑出79.3+(标准划分20次平均),请问这正常吗。。。
我跑出来只有72,,你加上dcl后呢?
@Heihaierr 我纯GRACE在wikics能跑出79.3+(标准划分20次平均),请问这正常吗。。。
我跑出来只有72,,你加上dcl后呢?
为什么差这么多。。加dcl略有提升,你把那个num_neg按我说的改了试试。
@Heihaierr GCA和proGCL在wikics你跑过吗,为啥都只有32+,看半天看不出哪有问题。。
你能不能把你修改后的dcl部分代码截图发我一下,我把num_neg改了还是很低。我GCA和proGCL在wikics上跑都挺正常的 @sunisfighting
@Heihaierr
留个邮箱我们私聊吧哈哈
感谢关注。如果方便的话可以把修改好的配置文件发出来,我们merge到repository里。