ssbuild/chatglm_finetuning

input_ids格式是否需要<CLS>

Jong-Won opened this issue · 0 comments

现在finetune时候input_ids的格式为:

<q0>, ... , <qn> [gMASK] <sop> <a0>, ... , <an> <eop> <eop>

请问是否需要在句子开始时加上<CLS> token呢?