Machine learning for Earth Sciences F2019-S2020 by Mikhail Krinitskiy (RG link)
Машинное обучение для решения исследовательских и инженерных задач в науках о Земле. Читает Михаил Криницкий
Метод оценки домашних заданий.
Правила распространения источников
UPDATE 2020-05-06
Подборка книг издательства Springer, доступных для свободной загрузки, по компьютерным наукам, комьютерному зрению, машинному обучению и науке о данных.
Полный список книг издательства Springer, выложенных в открытый доступ для свободной загрузки.
Здесь можно ознакомиться с предварительным списком вопросов к зачету за II семестр. Список будет дополняться по мере продвижения по материалу курса в рамках оставшихся лекций.
Здесь опубликован окончательный план по домашним заданиям во II семестре.
Здесь опубликованы достижения студентов курса за II семестр. Можно сравнивать свои достижения с планом по домашним заданиям.
UPDATE 2019-11-27 Поскольку лекция 03.12.2019 будет заключительной, состав домашних заданий зафиксирован на трех. В плане по домашним заданиям и их оценке есть изменения, касающиеся автозачетов и допуска к зачетам по 1му семестру.
UPDATE 2019-12-11
Здесь отметки об автозачетах, допуске к зачету и зачетах.
UPDATE 2019-12-16
Здесь можно ознакомиться со списком вопросов к зачету за первый семестр.
Title | Date | Topic | Content |
---|---|---|---|
I семестр | |||
Лекция 0 | 17.09.2019 | Вводная лекция. Машинное обучение в науках о Земле. | слайды |
Лекция 1 | 01.10.2019 | Типы задач машинного обучения | слайды |
ДЗ 1 | 01.10.2019 due: 15.10.2019 |
Задачи в науках о Земле как задачи машинного обучения | описание результаты |
Лекция 2 | 08.10.2019 | Типы задач машинного обучения, Вероятностные основы линейной регрессии |
слайды |
ДЗ 2 | 08.10.2019 due: 22.10.2019 |
Вывод функции ошибки для линейной регрессии с шумом, распределенным по Лапласу |
описание результаты |
Лекция 3 | 15.10.2019 | О расширении пространства признаков | слайды |
Лекция 4 | 22.10.2019 | Технические средства анализа данных | ссылки notebook 1 notebook 2 |
Лекция 5 | 29.10.2019 | Технические средства анализа данных (2) | notebook 1 notebook 2, data |
Лекция 6 | 05.11.2019 | Оценка качества моделей машинного обучения | notebook and data |
Онлайн-семинар (4й курс) |
18.11.2019 | Оценка неопределенностей в машинном обучении | notebook |
ДЗ 3 (4й курс) |
18.11.2019 due: 03.12.2019 |
Решение задачи линейной регрессии с оценкой качества и неопределенностей | описание, данные, ноутбуки результаты |
Онлайн-семинар (5й курс) |
25.11.2019 | Оценка неопределенностей в машинном обучении | notebook видеозапись |
ДЗ 3 (5й курс) |
25.11.2019 due: 10.12.2019 |
Решение задачи линейной регрессии с оценкой качества и неопределенностей | описание, данные, ноутбуки результаты |
Лекция 8 | 26.11.2019 | Градиентная оптимизация моделей машинного обучения | notebook, скрипты, картинки |
Лекция 9 | 03.12.2019 | Градиентная оптимизация моделей машинного обучения - 2 | notebook, скрипты, картинки |
II семестр | |||
Лекция 10 | 18.02.2020 | Задачи классификации. Метод K ближайших соседей, байесовский классификатор |
слайды |
Лекция 11 | 03.03.2020 | Задачи классификации (продолжение). Наивный байесовский классификатор, линейный и квадратичный дискриминантный анализ, логистическая регрессия |
слайды, notebooks |
Лекция 12 | 10.03.2020 | Задачи классификации: мультиномиальная логистическая регрессия, автоградиент | материалы лекции |
Лекция 13 | 17.03.2020 18.03.2020 |
Оценка качества моделей в задачах классификации | материалы лекции; видеозапись 17.03 видеозапись 18.03 |
ДЗ 4 | 24.03.2020 due: 07.04.2020 |
Мультиномиальная логистическая регрессия и оценка качества моделей классификации | описание, данные, стартовый ноутбук результаты |
Лекция 14 | 25.03.2020 | Обобщенные линейные модели; обобщенные аддитивные модели; искусственные нейронные сети | материалы лекции; видеозапись |
Лекция 15 | 31.03.2020 | Практическое занятие. Искусственная нейронная сеть в задаче мультиномиальной классификации. | материалы занятия видеозапись p.1 видеозапись p.2 |
Лекция 16 | 07.04.2020 | Оптимизация функции потерь глубоких искусственных нейронных сетей | материалы лекции видеозапись |
Лекция 17 | 10.04.2020 | Метод опорных векторов | материалы лекции Видеозапись |
ДЗ 5 | 14.04.2020 due: 17.04.2020 |
Выпуклость функции потерь логистической регрессии | описание ДЗ результаты |
Лекция 18 | 14.04.2020 | Метод обратного распространения ошибки | материалы лекции видеозапись |
ДЗ 6 | 15.04.2020 due: 24.04.2020 |
Графы вычислений и применение метода обратного распространения ошибки на примере модели логистической регрессии | описание ДЗ результаты |
Лекция 19 | 15.04.2020 | Методы инициализации нейронных сетей | материалы лекции Видеозапись 1 (обсуждение ДЗ) Видеозапись 2 (лекция) |
Лекция 20 | 21.04.2020 | Подходы ускорения и стабилизации обучения нейронных сетей | материалы лекции Видеозапись |
Лекция 21 | 28.04.2020 | Методы регуляризации искусственных нейронных сетей | материалы лекции видеозапись |
Лекция 22 | 29.04.2020 | Непараметрические модели: деревья решений | материалы лекции видеозапись |
Лекция 23 | 06.05.2020 | Ансамбли моделей | материалы лекции видеозапись |
Лекция 24 | 12.05.2020 | Сверточные нейронные сети | материалы лекции видеозапись |
Занятие 25 | 13.05.2020 | Сверточные нейронные сети: операция свертки своими руками (практика) | Материалы занятия |
ДЗ 7 | 14.05.2020 due: 21.05.2020 |
Применение методов машинного обучения в реальной задаче геофизики | описание ДЗ |
(следите за обновлениями!)
- Флах П. "Машинное обучение. Наука и искусство построения алгоритмов, которые извлекают знания из данных." / Флах П. М.: ДМК Пресс, 2015. 400 c.
- Гудфеллоу Я., Бенджио И., Курвилль А. "Глубокое обучение." / М.: ДМК Пресс, 2017. 652 c.
- Николенко С. И., Кадурин А. А., Архангельская Е. О. "Глубокое обучение." / СПб.: Питер. 2019. 480 с.
Дополнительные источники
-
Шай Шалев-Шварц, Шай Бен-Давид "Идеи машинного обучения." / - М.: ДМК Пресс, 2018. 432 c.
-
Hastie T., Tibshirani R., Friedman J. "The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition" / T. Hastie, R. Tibshirani, J. Friedman, 2-е изд., New York: Springer-Verlag, 2009.
Первод на русский язык готовится издательством ДИАЛЕКТИКА (ETA май 2020 г. по состоянию на 03.03.2020)
-
Bishop C. "Pattern Recognition and Machine Learning" / C. Bishop, New York: Springer-Verlag, 2006.
Перевод на русский язык готовится издательством ДИАЛЕКТИКА (ETA май 2020 г. по состоянию на 03.03.2020)
-
Matrix cookbook - справочник по соотношениям в матричной форме
-
Курс лекций К.В. Воронцова:
-
Курс лекций Л.М. Местецкого "Математические методы распознавания образов"
-
Препринт книги Cosma Rohilla Shalizi "Advanced Data Analysis from an Elementary Point of View". Доступен онлайн.
-
James G., Witten D., Hastie T., Tibshirani R., 2013. "An Introduction to Statistical Learning: with Applications in R", Springer Texts in Statistics. Springer-Verlag, New York. Книга доступна для скачивания.
-
Интерактивная онлайн-книга Aston Zhang, Zack C. Lipton, Mu Li, Alex J. Smola "Dive into Deep Learning"