迁移学习前可迁移性评估指标
alexander1005 opened this issue · 1 comments
alexander1005 commented
感谢您的无私分享,受益良多。我看到有关文章中科院数字所,因迁移学习涉及复杂的过程,在迁移学习之前提出两种迁移指标,用来评估是否可迁移,您在相关指标上有更详细的知识吗
jindongwang commented
目前没有有效的评估指标。一些已有工作可以以“transferability estimation”为关键词搜索到。但是我的结论是,绝大多数方法做了半天,得到的结论大部分都是我们要选择最大的模型、最大的数据集。因此可能增加模型和数据集的大小才是关键,这也是迁移学习为什么会有效:本身就是要从大数据和大模型上学习知识。