IceBearAI/LLM-And-More

添加支持多任务训练的功能

Opened this issue · 0 comments

LLM-And-More 目前在训练模块中只支持针对单一任务进行模型训练,这在某些情况下可能无法满足实际需求。

很多场景下,我们希望训练出一个能够同时处理多个任务的通用模型,比如在FAQ机器人中既能回答常见问题,又能进行简单的文本生成和情感分析。因此,,建议在训练模块中增加支持多任务训练的功能,具体建议如下:

  1. 支持用户自定义多个训练任务,并设定每个任务的损失函数和评估指标。
  2. 在训练过程中,能够显示各个任务的实时loss曲线和评估指标,帮助用户监控训练进度。
  3. 提供智能的任务权重调整功能,帮助用户平衡不同任务的重要性,提高模型在各个任务上的综合性能。
  4. 在部署模块中,支持用户选择在线部署单一任务或者多任务的模型。

这些功能的增加,将大大提高 LLM-And-More 的适用性,使其能够满足更广泛的业务需求。希望开发团队能够考虑并实现这些改进建议,谢谢。