/self-llm

《开源大模型食用指南》基于Linux环境快速部署开源大模型，更适合**宝宝的部署教程

Primary LanguageJupyter NotebookApache License 2.0Apache-2.0

开源大模型食用指南

  本项目是一个围绕开源大模型、针对国内初学者、基于 Linux 平台的**宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。

  本项目的主要内容包括：

  1. 基于 Linux 平台的开源 LLM 环境配置指南，针对不同模型要求提供不同的详细环境配置步骤；
  2. 针对国内外主流开源 LLM 的部署使用教程，包括 LLaMA、ChatGLM、InternLM 等；
  3. 开源 LLM 的部署应用指导，包括命令行调用、在线 Demo 部署、LangChain 框架集成等；
  4. 开源 LLM 的全量微调、高效微调方法，包括分布式全量微调、LoRA、ptuning 等。

  项目的主要内容就是教程，让更多的学生和未来的从业者了解和熟悉开源大模型的食用方法！任何人都可以提出issue或是提交PR，共同构建维护这个项目。

  想要深度参与的同学可以联系我们，我们会将你加入到项目的维护者中。

  学习建议：本项目的学习建议是，先学习环境配置，然后再学习模型的部署使用，最后再学习微调。因为环境配置是基础，模型的部署使用是基础，微调是进阶。初学者可以选择Qwen1.5，InternLM2，MiniCPM等模型优先学习。

注：如果有同学希望了解大模型的模型构成，以及从零手写RAG、Agent和Eval等任务，可以学习Datawhale的另一个项目Tiny-Universe，大模型是当下深度学习领域的热点，但现有的大部分大模型教程只在于教给大家如何调用api完成大模型的应用，而很少有人能够从原理层面讲清楚模型结构、RAG、Agent 以及 Eval。所以该仓库会提供全部手写，不采用调用api的形式，完成大模型的 RAG 、 Agent 、Eval 任务。

注：考虑到有同学希望在学习本项目之前，希望学习大模型的理论部分，如果想要进一步深入学习 LLM 的理论基础，并在理论的基础上进一步认识、应用 LLM，可以参考 Datawhale 的 so-large-llm课程。

注：如果有同学在学习本课程之后，想要自己动手开发大模型应用。同学们可以参考 Datawhale 的 动手学大模型应用开发 课程，该项目是一个面向小白开发者的大模型应用开发教程，旨在基于阿里云服务器，结合个人知识库助手项目，向同学们完整的呈现大模型应用开发流程。

项目意义

  什么是大模型？

大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。

  百模大战正值火热，开源 LLM 层出不穷。如今国内外已经涌现了众多优秀开源 LLM，国外如 LLaMA、Alpaca，国内如 ChatGLM、BaiChuan、InternLM（书生·浦语）等。开源 LLM 支持用户本地部署、私域微调，每一个人都可以在开源 LLM 的基础上打造专属于自己的独特大模型。

  然而，当前普通学生和用户想要使用这些大模型，需要具备一定的技术能力，才能完成模型的部署和使用。对于层出不穷又各有特色的开源 LLM，想要快速掌握一个开源 LLM 的应用方法，是一项比较有挑战的任务。

  本项目旨在首先基于核心贡献者的经验，实现国内外主流开源 LLM 的部署、使用与微调教程；在实现主流 LLM 的相关部分之后，我们希望充分聚集共创者，一起丰富这个开源 LLM 的世界，打造更多、更全面特色 LLM 的教程。星火点点，汇聚成海。

  我们希望成为 LLM 与普罗大众的阶梯，以自由、平等的开源精神，拥抱更恢弘而辽阔的 LLM 世界。

项目受众

  本项目适合以下学习者：

  • 想要使用或体验 LLM，但无条件获得或使用相关 API；
  • 希望长期、低成本、大量应用 LLM；
  • 对开源 LLM 感兴趣，想要亲自上手开源 LLM；
  • NLP 在学，希望进一步学习 LLM；
  • 希望结合开源 LLM，打造领域特色的私域 LLM；
  • 以及最广大、最普通的学生群体。

项目规划及进展

   本项目拟围绕开源 LLM 应用全流程组织，包括环境配置及使用、部署应用、微调等，每个部分覆盖主流及特点开源 LLM：

Example 系列

  • Chat-嬛嬛： Chat-甄嬛是利用《甄嬛传》剧本中所有关于甄嬛的台词和语句，基于LLM进行LoRA微调得到的模仿甄嬛语气的聊天语言模型。

  • Tianji-天机：天机是一款基于人情世故社交场景，涵盖提示词工程 、智能体制作、 数据获取与模型微调、RAG 数据清洗与使用等全流程的大语言模型系统应用教程。

已支持模型

通用环境配置

致谢

核心贡献者

  • 宋志学(不要葱姜蒜)-项目负责人 （Datawhale成员-**矿业大学(北京)）
  • 邹雨衡-项目负责人 （Datawhale成员-对外经济贸易大学）
  • 肖鸿儒 （Datawhale成员-同济大学）
  • 郭志航（内容创作者）
  • 张帆（内容创作者-Datawhale成员）
  • 姜舒凡（内容创作者-鲸英助教）
  • 李娇娇 （Datawhale成员）
  • 丁悦 （Datawhale-鲸英助教）
  • 林泽毅（内容创作者-SwanLab产品负责人）
  • 惠佳豪 （Datawhale-宣传大使）
  • 王茂霖（内容创作者-Datawhale成员）
  • 孙健壮（内容创作者-对外经济贸易大学）
  • 东东（内容创作者-谷歌开发者机器学习技术专家）
  • 高立业（内容创作者-DataWhale成员）
  • 王泽宇（内容创作者-太原理工大学-鲸英助教）
  • Kailigithub （Datawhale成员）
  • 郑皓桦 （内容创作者）
  • 李柯辰 （Datawhale成员）
  • 陈思州 （Datawhale成员）
  • 散步 （Datawhale成员）
  • 颜鑫 （Datawhale成员）
  • 荞麦（内容创作者-Datawhale成员）
  • Swiftie （小米NLP算法工程师）
  • 黄柏特（内容创作者-西安电子科技大学）
  • 张友东（内容创作者-Datawhale成员）
  • 余洋（内容创作者-Datawhale成员）
  • 张晋（内容创作者-Datawhale成员）
  • 娄天奥（内容创作者-**科学院大学-鲸英助教）
  • 左春生（内容创作者-Datawhale成员）
  • 杨卓（内容创作者-西安电子科技大学-鲸英助教）
  • 小罗 （内容创作者-Datawhale成员）
  • 谭逸珂（内容创作者-对外经济贸易大学）
  • 王熠明（内容创作者-Datawhale成员）
  • 何至轩（内容创作者-鲸英助教）
  • 康婧淇（内容创作者-Datawhale成员）
  • 三水（内容创作者-鲸英助教）
  • 九月（内容创作者-Datawhale意向成员）
  • 邓恺俊（内容创作者-Datawhale成员）
  • 杨晨旭（内容创作者-太原理工大学-鲸英助教）
  • 赵文恺（内容创作者-太原理工大学-鲸英助教）
  • 赵伟（内容创作者-鲸英助教）

注：排名根据贡献程度排序

其他

  • 特别感谢@Sm1les对本项目的帮助与支持
  • 部分lora代码和讲解参考仓库：https://github.com/zyds/transformers-code.git
  • 如果有任何想法可以联系我们 DataWhale 也欢迎大家多多提出 issue
  • 特别感谢以下为教程做出贡献的同学！

Star History