PKU-YuanGroup/ChatLaw

关键词向量和用户问题向量加权的权重是多少呢?

liuweie opened this issue · 1 comments

您好,阅读了您的技术报告,请问一下:在对关键词向量和用户问题向量进行标准化后求和的时候,α作为权重将会与标准化后的问题向量相乘,请问关于α的大小设置有什么经验吗?
image

这是一个超参数,自己可以调调。你初始化可以定1.0