/dlschool

Официальный репозиторий курса Deep Learning (2018-2019) от Deep Learning School при ФПМИ МФТИ

Primary LanguageJupyter Notebook

Deep Learning School

Официальный сайт: https://www.dlschool.org/

Школа глубокого обучения (Deep Learning School) -- кружок от ФПМИ МФТИ, рассчитанный на старшеклассников, интересующихся программированием и математикой. Занятия ведут студенты Физтех-школы прикладной математики и информатики МФТИ.

Цель курсов кружка -- познакомить слушателей с основными принципами глубокого обучения (нейронных сетей) в интерактивном формате и на примере практических задач.

Для кого

Наша основная аудитория -- школьники 9-11 класса, интересующиеся математикой и программированием.

Однако подать заявку может любой желающий.

Где

Очные занятия будут проходить в зданиях партнёров проекта.

Также будет доступно онлайн обучение с записями лекций и всеми материалами.

Программа

  1. Инструменты: Jupyter Notebook; Google Colab

  2. Python: основы. Библиотека Numpy. Библиотека Matplotlib

  3. Введение в линейную алгебру. Векторы. Матрицы и операции с ними

  4. Основы теории вероятностей

  5. Элементы теории оптимизации. Градиент. Градиентный спуск

  6. Введение в машинное обучение. Общие принципы и понятия

  7. Введение в машинное обучение. Supervised Learning. Линейные модели

  8. Классы в Python. Основы ООП

  9. Введение в глубокое обучение. Перцептрон. Нейрон с сигмоидой (и другими функциями активации)

  10. Основы фреймворка PyTorch

  11. Многослойный перцептрон. Полносвязные нейросети

  12. *Backpropagation в нейронных сетях

  13. Практические советы по обучению нейросетей (инициализация, регуляризация, продвинутые методы оптимизации)

  14. Свёрточные нейронные сети (CNN). Основные принципы и понятия.

  15. Современные архитектуры свёрточных нейросетей (AlexNet, ZFNet, VGG, Inception, ResNet, SqueezeNet, ResNeXt, MobileNet)

  16. Практическое занятие по облачным сервисам (Google Cloud, Amazon Web Services)

  17. Transfer Learning и Fine Tuning нейросетей с помощью PyTorch

  18. Визуализация неросетей. Google Deep Dream

  19. Neural Style Transfer (нейронный перенос стиля изображения)