關於訓練相關資訊請教
ysf888app opened this issue · 2 comments
ysf888app commented
感謝您無私分享！
想請教是否可分享本模型所使用Pretrain, Finetune訓練的腳本、步驟、環境、時間或注意事項等相關細節資訊。
謝謝！
adamlin120 commented
推薦用 https://github.com/huggingface/trl/blob/main/examples/scripts/sft.py with Deepspeed stage 2
ysf888app commented
感謝:)