How can I convert the model to huggingface format?
Opened this issue · 0 comments
ishulei commented
如何将Pytorch的GLEE_Model转换为huggingface形式,方便后续进一步使用vllm/lmdeploy/...等框架进行推理加速?
请问是否有计划公开huggingface格式的模型呢,或者我该如何做呢?
Opened this issue · 0 comments
如何将Pytorch的GLEE_Model转换为huggingface形式,方便后续进一步使用vllm/lmdeploy/...等框架进行推理加速?
请问是否有计划公开huggingface格式的模型呢,或者我该如何做呢?