机器学习及深度学习原理和示例,基于 Tensorflow 和 PyTorch 框架,Transformer、BERT、ALBERT等最新预训练模型及源代码详解,及基于预训练模型进行各种自然语言处理任务。以及模型部署
两种传统的模型:
-
- 基于规则或模板生成对话系统
- 基于概率的语言模型
- 利用语料数据,实现了简略的 2-gram 模型,并利用该模型判断句子的合理性
-
-
根据**城市的位置信息,实现简单的路径规划系统
-
根据武汉地铁的各站点的位置信息,实现简单的路径规划系统
- 图的广度优先搜索及深度优先搜索
-
搜索问题的抽象模式
- Travelling Sales man Problem
-
启发式
-
A* 搜索
-
动态规划
-
- Travelling Sales man Problem
-
- 机器学习算法,及其应用
- python 实现基本的神经网络:激活函数,损失函数,前向传播,反向传播
- python 实现各种梯度下降算法,初始化,Batch Normalization,正则化
- python 实行 CNN
-
- Tensor Flow 基本概念,张量,张量运算,自动微分,及 tf.function 和 AutoGraph 使用原理
-
- TensorFlow 的数据管道,利用 tf.data.Dataset 预处理数据,提升性能
- TensorFlow 内置的特征函数,用于特征工程
-
- 三种创建模型方法:Sequential、函数式、tf.keras.Model子类化
- 三种模型训练方法:模型的 fit 方法,train_on_batch 方法,利用 tf.GradientTape自定义训练循环
-
- tf.function 使用详解
-
Torch :
- 01-PyTorch入门
- Torch 基本概念,张量,CUDA张量,自动求导
- 创建模型:Sequential 模型,nn.Module指模型
- Torch 数据管道
- Torch 实现线性回归,逻辑回归,CNN,RNN,残差网络,及语言模型
- 01-PyTorch入门
-
创建神经网络,实现图像分类与情感分类,涉及到词向量,CNN,RNN 等模型
-
CNN架构,自编码器,对抗生成网络,风格迁移基本原理 等
15-基于词向量和LSTM对豆瓣影评分类(TensorFlow)
13-基于BiLSTM和CRF算法的命名实体识别(PyTorch)
14-基于BiLSTM和CRF算法的命名实体识别(TensorFlow)
27-基于Attention的中译英(TensorFlow)
28-基于Attention的图片标注(TensorFlow)
31-基于Transformer的中译英(TensorFlow)
32-基于Transformer的seq2seq模型(PyTorch)
-
利用 tensorflow-serving 部署 tensorflow 训练得到的模型
-
- 部署 PyTorch 训练得到的模型