/aliyun_acp_learning

Primary LanguageJupyter NotebookApache License 2.0Apache-2.0

阿里云大模型ACP教程

main

🎈 欢迎新同学

欢迎来到阿里云大模型ACP高级工程师认证课程,这是阿里云大模型认证的进阶篇。在开始课程之前,先来了解阿里云大模型认证的体系架构,方便你选择适合自己定位的课程。 阿里云大模型认证体系架构:

我的notebook

如果你尚不具备编程基础,或者想从零开始了解大模型,请跳转:point_right:阿里云大模型ACA工程师认证课程

🪶 课程定位

了解课程定位会帮助你更好地规划学习路径,确保课程内容与个人目标相匹配,从而提升学习效率和成果。通过学习阿里云大模型高级工程师ACP认证课程,你将

  • 掌握以下知识与技能:
    • 大模型提示词技巧
    • 检索增强和微调的原理和流程
    • Llama-Index等大模型开发框架的使用方法
    • 工程化评测的概念与方法
    • 大模型的规范和安全性
  • 有能力完成以下任务:
    • 使用阿里云百炼平台构建大模型应用(开发、测评、部署、发布)
    • 使用提示词策略、检索增强、微调技术优化大模型回答质量
    • 使用Multi-Agent进行文本、图像、视频等多模态内容生产
    • 能够针对复杂业务场景设计并实施大模型驱动的解决方案
  • 胜任以下岗位:
    • 大模型解决方案高级工程师
    • 大模型应用开发高级工程师

📙 课程列表

在阿里云大模型ACP认证中,课程整体将会以项目式的结构呈现。以项目式的结构设计课程可以帮助学员掌握课程所需的核心概念和技能,并且应用这些知识和技能解决实际问题。 在阿里云大模型ACP认证课程中,你将作为一位教育内容开发公司的员工,构建一个基于大模型的答疑机器人,从而解决新员工入职频繁答疑的问题;随后在公司需要教育课程时,你会利用大模型生成多种形式的教学内容,帮助公司完成业务目标。 通过这两个项目的练习,希望你可以思考如何将大模型的能力带入到不同的行业中,最终可以面向不同的业务场景设计并实施大模型驱动的解决方案。

章序号 章节名称 课程序号 课程链接
1 Before start:环境准备 1.0 计算环境准备
2 借助大模型构建答疑机器人 2.0 项目背景
2.1 开始构建新人答疑机器人
2.2 优化提示词改善答疑机器人回答质量
2.3 自动化评测答疑机器人的表现
2.4 优化RAG应用提升问答准确度
2.5 用插件扩展答疑机器人的能力边界
2.6 大模型RAG内容安全合规检查
2.7 通过微调提升模型的准确度与效率
2.8 部署模型到生产环境中
3 借助大模型辅助内容生产 3.0 项目背景
3.1 生成课程内容
3.2 翻译课程内容
3.3 将课程内容转为PPT
3.4 将课程内容转为音频
3.5 将课程内容转为视频

💯 考试大纲

带着目的学习可以提升学习效率。在开始课程之前,请了解大模型ACP认证的考试大纲,将更有利于你的课程学习。

🌟 考试知识点分布

考核知识点 试题比例
大模型应用开发 16%
大模型提示词工程 24%
大模型检索增强 24%
大模型微调 16%
大模型应用安全 8%
AI 辅助多模态内容生产 12%

🌟 考试大纲

主要章节 主要内容 考察知识点
大模型应用开发 通过OpenAI API调用大模型
通过LlamaIndex向通义千问提问
基本API参数如model、temperature、top_p等等
批量生成与流式生成
理解消息与对话历史
大模型提示词工程 构建有效的提示词 提示词框架如提示词要素、提示词分隔符、提示词模板
理解系统角色提示词的作用
利用大模型创建算法应用 理解大模型的适用场景
利用大模型开发应用算法(如批量对员工咨询做意图分类、用大模型做文档审阅、实现针对问题的自动文档修订)
大模型检索增强 通过LlamaIndex构建RAG应用的基本使用方法 理解RAG的核心要素,如文件解析、文本切片、段落召回、段落重排序。
理解对RAG做召回优化如句子窗口检索、自动合并检索等等。
持续优化检索增强能力 理解更贴近实战的RAG优化方法如优化文本解析、标题改写优化、表格内容增强、文本分割方法对比等等
对检索增强的能力做自动化评测 了解RAGAS指标体系
懂得RAG系统的评测方法。
大模型的微调 微调的概念与要求 型微调的作用、前提、基本步骤、常用算法
微调的实验与评测 微调数据集构建、微调参数介绍、微调模型评测
大模型智能体与插件 基于百炼Assistant API构建智能体 理解智能体运行机制
掌握用生成多模态内容、构建个性化语音助手等能力
大模型应用安全 内容安全合规检查手段 了解大模型开发中存在的内容安全问题
了解内容安全合规检测类型及常用方案
大模型应用部署(云服务)安全 了解在云服务环境下应用系统安全的基本要素和解决方案
部署大模型应用 在云上部署微调模型的基本方案
在云服务如(ECS、FC、PAI)中部署模型
在百炼上部署模型
掌握如何使用vLLM进行大模型的部署操作
了解如何利用云服务如函数计算(FC)实现AI助手的快速发布
AI 辅助内容生产 用 AI 辅助开发教学课件PPT 了解阿里发布的通义系列多模态大模型及算法服务如Qwen-Max、Qwen-VL、通义万相、CosyVoice等作用和使用方法。
用 AI 辅助将教学课件转为视频课件 了解如何使用但不限于Flux-Merged、Marp、moviepy、ffmpeg等多媒体工具来辅助生成视频内容

本考纲旨在为考生提供考试内容的普遍方向,考试范围不仅限于文中提及的部分,可能还包括其他相关未列明的内容。

🛠️ 教程及代码

本教程假设你已经初步了解并使用过 python、git,因此不会涉及如何安装 python、pip、git 等基础工具。

本教程github地址如下:

git clone https://github.com/AlibabaCloudDocs/aliyun_acp_learning.git
cd aliyun_acp_learning
pip install -r requirements.txt

如果遇到网络问题,GitHub无法使用,可以选择从atomgit来获取代码库

git clone https://atomgit.com/alibabaclouddocs/aliyun_acp_learning.git
cd aliyun_acp_learning
pip install -r requirements.txt

📌 问题反馈

如果你在学习过程中遇到任何问题,欢迎你参与问卷_____________反馈学习体验和课程评价。 你的批评和鼓励都是我们前进的动力!