모델 저장 및 허깅페이스에 올리는법..이것때문에 문제가 생기네요 ㅠㅠ
Opened this issue · 1 comments
DopeorNope-Lee commented
우선 5.8b불러와서 허깅페이스 API로 push 했는데, config가 없어 추가하였는데 adapter_model.bin 만 올라가네요.
그래서인지 모델을 불러올때, config가 없다고 나오고,
config를 추가해주니, 이제는 모델이 없다고 나오는데 저장후 올리는 방법 알려주실 수 있나요?
혹시나 torch에서 state_dict()로 만들어 pytorch_mode.bin 파일로 올려야 하나요?
감사합니다..!
Beomi commented
혹시 PEFT 모델을 저장하실때 .save_pretrained 방법을 사용하셨나요?
해당 방법을 쓰시면 자동으로 adapter_model bin과 config json파일이 모두 생성되어야 합니다.