Clouditera/SecGPT

用了三张4090，还是提示显存不足，是需要配置哪里吗

Opened this issue · 3 comments

zl-comment commented

这个解决了吗？你是怎么训练的！

yanjiachao2012 commented

没有，我这边是用他们的工程链接另外的模型来做训练，发现总是提示显存不足

zzc98 commented

基模型是baichuan-13b，dtype=float16的话，至少也要26G的显存吧，它readme里面写3*4090（24G）不知道是怎么训练的