内存不足,loading shards被中断l;
cjzhen9 opened this issue · 1 comments
cjzhen9 commented
你好我这边显示内存不够,请问运行您的程序需要多少内存呀
Zhang-Each commented
一般需要至少一张80G显存的A100才能运行代码,同时运行所需的内存也和文本数据的上下文长度有很大的关系
cjzhen9 opened this issue · 1 comments
你好我这边显示内存不够,请问运行您的程序需要多少内存呀
一般需要至少一张80G显存的A100才能运行代码,同时运行所需的内存也和文本数据的上下文长度有很大的关系