/Lhy_Machine_Learning

李宏毅2021春季机器学习课程课件及作业

Primary LanguageJupyter Notebook

李宏毅2021/2022春季机器学习课程课件及作业

BILIBILI

GitHub stars GitHub forks Visitors

目录

重磅须知

为方便所有网课资料与优质电子书籍的实时更新维护,创建一个在线实时网盘文件夹;

网盘获取方式:公众号【啥都会一点的研究生】,本节课对应序号【05】;

UP将2021&2022所有作业的数据资料整理打包好了,由于文件太大,已同步放在上述所提在线网盘;

在线网盘能满足该课程所需资料的全部需求,链接挂掉也会及时更新,祝大家学习顺利;

2022仅在2021基础上进行小补充,2021内容变成了前置知识,UP会在视频标题打上2022的标签;

ppt/pdf支持直链下载。

我维护的其他项目

其他优质课程(建议关注以免迷路哈哈哈)

名称 链接
(高清重制)麻省理工学院 MIT 18.06 线性代数 视频地址
(强推)Python面向对象编程五步曲-从零到就业 视频地址
【吴恩达亲授】适用于所有人的人工智能课程(中字) 视频地址
(强推 双字)网易版吴恩达机器学习课程 视频地址
(强推 双字)2022吴恩达机器学习Deeplearning.ai课程 视频地址
(强推 双字)2018秋季CS229机器学习-官方高清版 视频地址
(强推 双字)2021版吴恩达深度学习课程Deeplearning.ai 视频地址
(强推)浙江大学-机器学习 视频地址
吃透《统计学习方法》 视频地址
北理-Python数据分析与展示-Numpy、Matplotlib、Pandas 视频地址
适用于初学者的Pytorch神经网络编程教学 视频地址
(强推)Pytorch深度学习实战教学 视频地址
(强推)TensorFlow官方入门实操课程 视频地址
【北交】图像处理与机器学习 视频地址
零基础OpenCV4-C++极简入门 视频地址
(全)基于python的Opencv项目实战 视频地址
(强推)最新斯坦福CS231n计算机视觉课程 视频地址

更新日志

日期 项目
2021/03/16 更新HW1、HW2,同步更新助教范例
2021/03/26 更新HW3、HW4课件、代码、范例;release页发布HW1-HW4数据
2021/04/01 更新选修内容To Learn More,基本是李老师今年不打算讲而以前讲过的知识点(旧视频)
2021/04/09 更新GAN 及 HW05
2021/04/16 更新Self-Supervised Learning 及 HW06
2021/04/30 更新Explainable AI&Adversarial Attack 及 HW07&HW08
2021/05/06 更新Domain Adaptation 及 HW09&HW10
2021/05/21 更新RL 及 HW11
2021/05/28 更新Quantum ML
2021/06/04 更新Life-Long&Compression 及 HW12
2021/06/11 更新Meta Learning 及 HW13&HW14
2021/06/18 更新HW15,随着李老师课程结语视频上传,2021机器学习基本结束啦
2021/12/20 更新Github排版,删除repo中的ppt/pdf直接提供下载链接,总资料放入百度云盘-提取码:sv1i
2022/02/17 2022春季机器学习课程仅在21基础上进行小补充,UP同步更新官网补充内容
2022/02/21 更新Lecture 1:Introductionof Deep Learning补充内容,Github排版大更新
2022/02/25 更新Lecture 2:What to do if my network fails to train补充内容与HW2
2022/03/05 更新Lecture 3:Images input,HW3
2022/03/13 更新Lecture 4 Sequence as input,HW4
UP将2021&2022所有作业的数据资料整理打包好放在公众号【啥都会一点的研究生】
2022/03/18 更新Lecture 5 Sequence to sequence,HW5,相应Data放在公众号维护的网盘中
2022/04/05 更新Lecture 7以及HW6
2022/04/16 更新HW7
2022/04/23 更新HW8
2022/04/30 更新Lecture 9 & Lecture10,HW9
2022/05/06 更新HW10
2022/05/13 更新HW11,部分Lecture10教学视频
2022/05/24 更新HW12
2022/05/30 更新HW13
2022/06/10 更新HW14、HW15
2022/07/03 将所有课件/作业/数据集进行更新,在线网盘满足所有资料,课程完结啦

交流群与课程地址

B站主页 啥都会一点的研究生
人工智能技术探讨群1 78174903
人工智能技术探讨群2 571218304
人工智能技术探讨群3 584723646

名称 项目
2021课程主页 李宏毅2021春季机器学习
2022课程主页 李宏毅2022春季机器学习
B站视频合集 (强推)李宏毅2021春机器学习课程
2021视频及资料目录 链接
2022视频及资料目录 链接

课程资料直链

章节 2021前置知识 2022补充 选修 作业
Lecture 1 (上)机器学习基本概念简介
(下)机器学习基本概念简介
Video:
2022-机器学习相关规定
2022-Colab教学
2022-Pytorch Tutorial 1
2022-Pytorch Tutorial 2

PDF:
Rules
Chinese class course intro
Pytorch Tutorial 1
Pytorch Tutorial 2
Colab Tutorial
Environment Setup
深度学习简介
反向传播
预测-宝可梦
分类-宝可梦
逻辑回归
Video
Slide
Code
Submission
Lecture 2 (一)局部最小值 (local minima) 与鞍点 (saddle point)
(二)批次 (batch) 与动量 (momentum)
(三)自动调整学习率 (Learning Rate)
(四)损失函数 (Loss) 也可能有影响
Video:
2022-再探宝可梦、数码宝贝分类器 — 浅谈机器学习原理

PDF:
Theory
Gradient Descent (Demo by AOE)
Beyond Adam (part 1)
Beyond Adam (part 2)
Video
Slide
Code
Submission
Lecture 3 卷积神经网络CNN Video:
为什么用了验证集还是过拟合
鱼与熊掌可以兼得的机器学习

PDF:
Validation
Why Deep
Spatial Transformer Layer Video
Slide
Code
Submission
Lecture 4 自注意力机制(Self-attention)(上)
自注意力机制(Self-attention)(下)
Video:
[None]

PDF:
[None]
RNN(part 1)
RNN(part 2)
GNN(part 1)
GNN(part 2)
Video
Slide
Code
Submission
Lecture 5 类神经网络训练不起来怎么办(五)批次标准化
Transformer(上)
Transformer(下)
Video:
各式各样神奇的自注意力机制 (Self-attention) 变型

PDF:
xformer
NAT model
Pointer network
Video
Slide
Code
Submission
Lecture 6 GAN(一)基本概念介绍
GAN(二)理论介绍与WGAN
GAN(三)生成器效能评估与条件式生成
GAN(四)Cycle GAN
Video:
[None]

PDF:
[None]
Theory of GAN (part 1)
Theory of GAN (part 2)
Theory of GAN (part 3)
Deep Generative Model (part 1)
Deep Generative Model (part 2)
FLOW-based Model
Video
Slide
Code
Lecture 7 自监督学习(一)芝麻街与进击的巨人
自监督学习(二)BERT简介
自监督学习(三)BERT的奇闻轶事
自监督学习(四)GPT的野望
Video:
如何有效的使用自督导式模型
语音与影像上的神奇自督导式学习模型

PDF:
Recent Advance of Self-supervied learning for NLP
SSL for Speech and Image
BERT (part 1)
BERT (part 2)
GPT-3
Video
Slide
Code
Submission
Lecture 8 自编码器 (Auto-encoder) (上) – 基本概念
自编码器 (Auto-encoder) (下) – 领结变声器与更多应用
Anomaly Detection (1_7)
Anomaly Detection (2_7)
Anomaly Detection (3_7)
Anomaly Detection (4_7)
Anomaly Detection (5_7)
Anomaly Detection (6_7)
Anomaly Detection (7_7)
Video:
[None]

PDF:
[None]
PCA
t-SNE
Video
Slide
Code
Submission
Lecture 9 机器学习的可解释性 (上) – 为什么神经网络可以正确分辨宝可梦和数码宝贝
机器学习的可解释性 (下) –机器心中的猫长什么样子
Video:
自然语言处理上的对抗式攻击 Part1

PDF:
Adversarial Attack for NLP
[None] Video
Slide
Code
Lecture 10 来自人类的恶意攻击 (Adversarial Attack) (上) – 基本概念
2021 - 来自人类的恶意攻击 (Adversarial Attack) (下) – 类神经网络能否躲过人类深不见底的恶意
Video:
自然语言处理上的对抗式攻击 Part2
自然语言处理上的对抗式攻击 Part3
自然语言处理上的模仿攻击 (Imitation Attack) 以及后门攻击 (Backdoor Attack)

PDF:
Adversarial Attack for NLP
More about Adversarial Attack (1_2)
More about Adversarial Attack (2_2)
Video
Slide
Code
Submission
Lecture 11 概述领域自适应 (Domain Adaptation) Video:
恶搞自督导式学习模型 BERT的三个故事

PDF:
More about self-supervised learning
Video
Slide
Code
Submission
Lecture 12 (一)增强式学习和机器学习一样都是三个步骤
(二)Policy Gradient 与修课心情
(三)Actor-Critic
(四)回馈非常罕见的時候怎么办?机器的望梅止渴
(五)如何从示范中学习?逆向增強式学习 (Inverse RL)
Video:
[None]

PDF:
[None]
Video
Slide
Code
Submission
Lecture 13 神经网络压缩 (一) - 类神经网络剪枝(Pruning) 与大乐透假说(Lottery Ticket Hypothesis)
神经网络压缩 (二) - 从各种不同的面向來压缩神经网络
Video:
[None]

PDF:
[None]
Proximal Policy Optimization (PPO)
Q-learning (Basic Idea)
Proximal Policy Optimization (Advanced Tips)
Proximal Policy Optimization (Continuous Action)
Geometry of Loss Surfaces (Conjecture)
Video
Slide
Code
Submission
Lecture 14 机器终身学习 (一) - 为什么今日的人工智能无法成为天网?灾难性遗忘(Catastrophic Forgetting)
机器終身学习 (二) - 灾难性遗忘(Catastrophic Forgetting)
Video:
[None]

PDF:
[None]
Video
Slide
Code
[Submission]
Lecture 15 元学习 Meta Learning (一) - 元学习和机器学习一样也是三個步骤)
元学习 Meta Learning (二) - 万物皆可 Meta
Video:
各种奇葩的元学习 (Meta Learning) 用法

PDF:
Meta
MAML (1)
MAML (2)
MAML (3)
MAML (4)
MAML (5)
MAML (6)
MAML (7)
MAML (8)
MAML (9)
Gradient Descent as LSTM (1_3)
Gradient Descent as LSTM (2_3)
Gradient Descent as LSTM (3_3)
Metric-based (1)
Metric-based (2)
Metric-based (3)
Train+Test as RNN
Video
Slide
Code
Submission

BILIBILI