/NLP_Learner

本项目主要用来保存本人学习NLP的一些资料与笔记

Primary LanguageJupyter Notebook

NLP_Learner🔥🔥🔥

项目介绍

  • 此项目是本人在学习机器学习、深度学习、NLP 过程中收集和总结的知识点和代码实现，也是作为一个算法工程师必知必会的理论基础知识。
  • 此项目的创建主要是为了保存在学习过程中使用的相关资料，方便日后的复习和查找。

Python

机器学习

学习课程

  • 李宏毅《机器学习》课程：台大李宏毅老师的机器学习课程可以说是最具代表性的中文公开课之一，已成为大量国内初学者的首选。该课程涉及领域非常完整，从有监督、半监督、无监督到强化学习，都会有介绍。 【课程主页】 【视频】

  • 李沐《斯坦福 2021 秋季·实用机器学习》课程：应用机器学习（ML）来准确和稳健地解决实际问题，需要的不仅仅是训练最新的 ML 模型。这门课将同时教授统计学、算法和代码实现。作业和最后的项目强调解决实际问题。授课大牛包括 Google Brain 高级研究科学家、AWS 高级首席科学家和 AWS 副总裁/杰出科学家。 【课程主页】 【视频】

深度学习

  • 项目持续更新中......

学习课程

  • 李沐《动手深度学习》课程：亚马逊资深首席科学家李沐老师的动手深度学习课程，主要介绍了深度学习相关的基础知识和其在计算机视觉和自然语言处理领域的应用。 【课程主页】 【视频】【中文版】

  • 陈蕴侬《应用深度学习》课程：本课程主要讲解如何利用深度学习算法来解决各种实际应用场景问题，学生学习如何使用这些深度学习算法，以及为什么要使用这些算法。本课程希望学生在课堂上学习理论，并通过做作业和最后的项目来学习实施方法。 【课程主页】 【视频】

深度学习框架

模块 学习网站 模块 学习网站
pytorch eat_pytorch_in_20_days tensorflow eat_tensorflow2_in_30_days
pytorch-lightning pytorch-lightning fastai fastai
Paddle Paddle

自然语言处理

  • 项目持续更新中......

学习课程

  • 斯坦福大学自然语言处理课程 CS224N：该课程几乎涵盖了所有 NLP 相关的内容，涵盖了词义与词向量、依存句法分析、语言模型、机器翻译、深度问答、subword 与 Transformer、BERT 与预训练模型、自然语言生成、指代消解、成分句法分析等方面。 【课件】 【视频】 【博客】

知识点

模块 内容 论文 博客
词向量 Word2Vec 【A Neural Probabilistic Language Model(2003)】、 【 Distributed Representations of Words and Phrases and their Compositionality(2013)】 【图解 Word2vec-EN】、【图解 Word2vec-ZH】
词向量 FastText 【 Bag of Tricks for Efficient Text Classification(2016)】
词向量 GloVe 【A Neural Probabilistic Language Model(2003)】、 【 Distributed Representations of Words and Phrases and their Compositionality(2013)】
预训练 Transformer 【Attention is All you Need(2017)】 【图解 Transformer-EN】、【图解 Transformer-ZH】
预训练 BERT 【BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding(2018)】 【图解 BERT-EN】、【图解 BERT-ZH】
预训练 GPT2 【Language Models are Unsupervised Multitask Learners(2019)】 【图解 GPT2-EN】、【图解 GPT2-ZH】

相关博客

NLP 代码框架

实战