/NLP-crashcourse

Мои лекции по курсу NLP

Primary LanguageJupyter Notebook

NLP-crashcourse

Лекции по моему NLP курсу в МФТИ, кафедра Сбертех.

  • Задача языкового моделирования. Контекстно-независимые эмбеддинги. word2vec, glove.
  • Рекуррентные нейронные сети. RNN, LSTM, GRU. Задача машинного перевода. Seq2seq. Self-attention.
  • Большие языковые модели. BERT. Attention. GPT.
  • Информационный поиск. Задача поиска и задача ранжирования.