/cgft-llm

Practice to LLM.

Primary LanguageJupyter NotebookMIT LicenseMIT

Hands on LLMs

⛰️ 动手做大模型系列 🎮

如果你在实操的过程中遇到问题,请在对应的视频下方留言。 如果复现遇到bug,请描述:

  1. 🎯 运行环境
  2. 🧩 对应的代码、日志和报错截图

如果你不太了解如何提出一个好问题,请花几分钟阅读一下这个,相信我,可能并不能改变什么🤫(不是)。
How-To-Ask-Questions-The-Smart-Way

🎨 视频及文档合集

🛰️ 1. 大模型模块知识

序号 项目 代码文档 视频教程
1 使用llama-factory微调llama3 🏂 llama-factory 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
2 llama.cpp进行轻量化部署和量化 🏂 llama-cpp 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
3 Ollama大模型部署工具介绍 🏂 ollama 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
4 vllm部署工具及paged attention 🏂 vllm 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
5 llama-index实现RAG 🏂 llama-index 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
6 graph-rag本地部署 🏂 graph-rag 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
7 mkdocs+readthedocs部署项目文档 🏂 mkdocs 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
8 function-calling 自动发邮件 🏂 function-calling 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
9 大模型学习路径及面试 🏂 llm-roadmap 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
10 大模型算法岗非技术答疑 🏂 llm-no-tec-qa 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
11 AI标注流程及label studio框架 🏂 label-studio 🤾‍♀️ Bilibili
🏊‍♀️ YouTube

🪂 2. 专题系列

专题系列会以多个视频介绍同一个主题,分P的形式展示,即共用一个video url。

序号 项目 代码文档 视频教程
1 kaggle 大模型竞赛系列 (🏊更新至01期) 🏂 kaggle 🤾‍♀️ Bilibili
🏊‍♀️ YouTube
2 gradio 可视化系列 (🏊更新至05期) 🏂 gradio 🤾‍♀️ Bilibili
🏊‍♀️ YouTube

🛒 Roadmap (Beta)

  1. 模块化知识
  • llama.cpp更新版本
  • Dify: 构建AI agent 应用
  • label studio: 自建打标平台
  1. 专题系列
  • gradio
  • kaggle
  • 对话式GPT机器人 (简化版豆包)