/dl-frameworks-course

Primary LanguageJupyter Notebook

Темы занятий

Введение в ведение экспериментов

Темы:

  • DVC
  • mlflow & w&b
  • pandas & polar
  • optuna

Лектор/Семинарист: Anastasis Klowait

Датасеты, разметка, LLM frameworks

Данная тема посвящена основным вопросам, связанным с использованием готовых датасетов, сбором собственных данных, различными способами разметки и аугментации данных.

План:

  • источники данных
  • лицензирование данных
  • сбор данных для датасетов
  • организация данных в датасетах
  • разметка данных
    • инструменты для краудсорсинга (Toloka, LabelStudio и т.д.)
    • особенности краудсорсинга (перекрытие, мера согласованности, инструкция)
    • создание собственных GUI
    • разметка с помощью LLMs

Лектор/Семинарист: Lida Ostyakova

Pytorch/ Lightning/ Pytorch + MLOps

План:

  • Строить:
    • основные понятия Pytorch: тензоры, операции на тензорах; градиенты, автоматический расчет градиентов (Pytorch Autograd);
    • DataParallel в Pytorch, реализация FSDP (Fully Sharded Data Parallel) в Pytorch;
    • упрощение обучения моделей с помощью Pytorch Lightning: разбор стратегий и ускорителей (Trainer, Strategy, Accelerator);
    • упрощение подбора гиперпараметров с помощью Ray Tune: рассмотрение полного цикла проведения эксперимента (Trainable, Tuner, Scheduler, etc);
    • упрощение деплоя модели с помощью Ray Serve: основные понятия и сравнение с другими фреймворками (torchserve, Bento.ML, CometML);
  • Ломать:
    • атаки на нейронные сети: one-pixel attack и аттаки с градиентами.

Лектор/Семинарист: Anastasiia Pokasova

Графовые фреймворки

Курс по графовым фреймворкам предлагает участникам изучить методы визуализации графов и популярные библиотеки для работы с графами. Кроме того, на курсе мы изучим графовые нейронные сети, их структуру и способы применения для решения различных задач. В результате курса участники получат навыки построения и работы с графовыми структурами, что позволит в будущем успешно использовать их в дальнейшей профессиональной деятельности.

Лектор/Семинарист: Daria Ledneva

DeepPavlov

wip

Диалоговые системы. Погружение в Dream

Диалоговые системы. (Виды, архитектуры, основные фреймворки. Построению диалоговой системы на Dream Builder)

Лектор/Семинарист: Dilyara Zharikova

Диалоговые системы. Погружение в DialogFlowFramework

Лектор/Семинарист: Denis Kuznetsov

Команда