About tightTrans and type embedding
PanZP-CUC opened this issue · 1 comments
PanZP-CUC commented
您好，我注意到您在论文3.2节中的公式（3）提到使用了type embedding来进行多模态融合，但是我在代码中发现type embedding相关的层都被注释掉了。在类似结构迁移到其他多模态任务上时，是否需要使用type embedding呢
ArrowLuo commented
Hi @PanZP-CUC, we did not omit the type embedding, and it is initialized in the code directly. Plz find here. Best~