CLUEbenchmark/CLUEPretrainedModels

CLUE发布的roberta模型，预训练时是否使用了wwm呢？

waywaywayw opened this issue · 0 comments

waywaywayw commented

像brightmart发布的预训练roberta，有明确指明使用了wwm