app.py引入训练的模型checkpoint文件

[momo1986]

您好，按照您的方法进行了训练，我在app.py怎么去导入之前train的模型进行对话呢？
感谢您的分享！🙏

[momo1986]

我因为设备限制，对话模型在colab上进行训练。想在小显存GPU上跑推断。
我只存了checkpoin文件和最优的结果文件，如图：

请问是否有demo可以加载该模型并进行中文对话呢？
用默认对话的效果有些捉急：

感谢您。

[zhaoyingjun]

不用在gpu上跑，直接在自己的电脑上就可以训练，时间长一点而已，你这个用的是那个语料？