本仓库主要汇总目前开源的LLM以及相关技术
- 排名不分先后，仅以可记录的发布时间为先后
- 汇总目前开源的LLM，数据来自Huggingface、Github。如有侵权，联系删除
- 欢迎Issues提供新的内容
- BLOOM-560M、BLOOM-1.1B、BLOOM-1.7B、BLOOM-3B、BLOOM-7.1B
- 125M、350M、1.3B、2.7B、6.7B、13B、30B、66B、175B
- 7B、13B、33B 和 65B
- 对LLaMA扩充中文词表后预训练、指令精调而来
- 7B、13B、33B 和 65B
- 可以微调、量化多个模型，支持微调Llma2、Llama、Baichuan、InternLM、Ziya、Bloom等大模型
- Huggingface
-
在FP16精度下可在单张A100/A800或两张3090显卡运行，在INT4/8精度下可在单张3090显卡运行
- 英文
- 中文