Содержание пакета (12 курсов)
12
курсов
509
уроков
1978
тестов
93
задачи
69 ч.
1. Математика Data Science для врачей. Gradient descent & SGD 5.00
50
61
152
15
8 ч.
Введение
4 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
4.
Глоссарий
↗
Глава 1.Реализация №1. Реверс-инжиниринг кода (Python+sklearn)
4 урока
1.
Параметры метода, Фильтрация данных
↗
2.
(Краткий обзор) z-score: масштабирование признаков
↗
3.
train_test_split:Тестовая, обучающая выборка.
↗
4.
Инициализация параметров: Метод shape, bias, weights, previous.
↗
Глава 2.Численный метод что это?
1 урок
1.
Основные понятия. Изучение терминологии.
↗
Глава 3.Математический анализ
4 урока
1.
Понятие функции
↗
2.
Монотонность функции
↗
3.
Производная и монотонность функции
↗
4.
Понятие Оптимизации
↗
Глава 4.Основные теоремы дифференциального исчисления
10 уроков
1.
Теорема Ферма. Точка экстремума. Критическая точка.
↗
2.
Выпуклость.Вогнутость функции.Точка перегиба.Хорда
↗
3.
Этапы оптимизации функции
↗
4.
Основы оптимизации функции. Липшицевость. Гладкость. Выпуклость.
↗
5.
Теорема Ролля: Основные понятия
↗
6.
Теорема Ролля: Синусоида. Основы тригонометрии.
↗
7.
Теорема Лагранжа: Основные понятия
↗
8.
Теорема Лагранжа: Парабола
↗
9.
Теорема Лагранжа: Линейная регрессия
↗
10.
Стационарная точка. Критическая точка. Точка экстремума.
↗
Глава 5.Функция нескольких переменных.
5 уроков
1.
Парабалойд
↗
2.
learning rate.Формула градиентного спуска
↗
3.
L1 vs L2
↗
4.
Как изменялась ошибка?
↗
5.
Теорема Лагранжа: Критерий сходимости алгоритма
↗
Глава 6.Реализация №1. Реверс-инжиниринг кода (Python+sklearn)
1 урок
1.
GDLinearRegression: Повторный реверс-инжиниринг
↗
Глава 7.Градиент и Функция потерь
3 урока
1.
Геометрический смысл: Градиент и Функция потерь
↗
2.
Ортонормированный базис.Линейная зависимость.Линейная комбинация
↗
3.
Частные производные и Градиент
↗
Глава 8.Реализация №1. Реверс-инжиниринг кода (Python+sklearn)
1 урок
1.
GDLinearRegression: Повторный реверс-инжиниринг
↗
Глава 9.Реализация №2. Реверс-инжиниринг кода (Python+sklearn)
1 урок
1.
Реверс-инжиниринг кода
↗
Глава 10.Выводим с нуля формулу
2 урока
1.
Скалярный квадрат. SSE.
↗
2.
Матричное диффенцирование: линейная форма, квадратичная форма
↗
Глава 11.Реализация №2. Реверс-инжиниринг кода (Python+sklearn)
1 урок
1.
Реверс-инжиниринг кода
↗
Глава 12.Реализация №3. Реверс-инжиниринг кода (Python+sklearn)
1 урок
1.
Реверс-инжиниринг кода
↗
Глава 13.Экзамен на python
1 урок
1.
тестирование на python
↗
Глава 14. Мини-Батч градиентный спуск
2 урока
1.
Реверс-инжиниринг кода
↗
2.
Дебажим детально код, ставим брекпоинт и сверяем с математикой
↗
Глава 15.Стохастический градиентный спуск
1 урок
1.
Дебажим детально код, ставим брекпоинт и сверяем с математикой
↗
Глава 16.Переобучение.недообучение модели:Underfit, good,overfit
1 урок
1.
Основные различия
↗
Глава 17. Сравнительный анализ. BGD VS MINI-BATCH VS SGD
1 урок
1.
Плюсы, Минусы, Где применяется
↗
(Краткий обзор) Корреляционно-регрессионный анализ
12 уроков
1.
Intro: linear regression
↗
2.
Supervised learning/Unsupervised learning
↗
3.
Классификация моделей линейной регресии
↗
4.
Pipeline
↗
5.
Вероятностный и классический подход в машинном обучении
↗
6.
Почему называется МНК?
↗
7.
Ф-критерий Фишера/Т-критерий Стьюдента и Метрики качества модели
↗
8.
Теорема Гаусса-Маркова
↗
9.
Доверительный интервал
↗
10.
QQ-plot.Тест Шапиро-Уилка и Колмогорова смирнова
↗
11.
Градиентный спуск и Метод наименьших квадратов
↗
12.
Time complexity для МНК (Алгоритмы и структуры данных)
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Метод сопряжённых градиентов
1 урок
1.
CG
↗
2. Математика Data Science для врачей. L2-regularization. Ridge.
24
51
344
5
4 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Введение в регуляризацию.
3 урока
1.
Регуляризация в полиномиальной регрессии
↗
2.
Компромисс между смещением и дисперсией (Bias-Variance Tradeoff)
↗
3.
Регуляризация в линейной регрессии
↗
Глава 2. Bias variance tradeoff
1 урок
1.
Анализ графика регуляризации
↗
Глава 3. Регуляризация Тихонова. L2. Ridge
2 урока
1.
Регуляризация Тихонова. L2. Ridge
↗
2.
Метод наименьших квадратов
↗
Глава 4. Гребневая регрессия vs Линейная регрессия
2 урока
1.
Сравнение Python кода линейной и гребневой регрессии
↗
2.
Сравнение графиков линейной и гребневой регрессии
↗
Глава 5. L2-регуляризация
5 уроков
1.
Обзор формулы L2-регуляризации
↗
2.
Что такое L2-норма?
↗
3.
L2-норма вектора на плоскости
↗
4.
L2-норма вектора в пространстве
↗
5.
Ограничение через норму и квадрат нормы
↗
Глава 6. Геометрическая интерпретация L2-регуляризации
5 уроков
1.
Что такое линии уровня?
↗
2.
Геометрическая интерпретация регуляризации Тихонова
↗
3.
Геометрическая интерпретация параметра регуляризации
↗
4.
Уравнение окружности
↗
5.
4D Геометрическая интерпретация регуляризации
↗
Глава 7. Мат. обоснование и вывод формул с нуля.
1 урок
1.
Выводим формулу гребневой регрессии с нуля
↗
Глава 8. Солверы
11 уроков
1.
Как работать с интерактивной оболочкой?
↗
2.
Решатель: Нормальное уравнение.
↗
3.
Python: Имплементация нормального уравнения в L2-регуляризации
↗
4.
Решатель: Разложение Холецкого.
↗
5.
Решатель: SVD. Сингулярное разложение матрицы
↗
6.
Решатель: Градиентный спуск
↗
7.
Python: Имплементация градиентного спуска в L2-регуляризации
↗
8.
Решатель: SAG / SAGA
↗
9.
Решатель: Метод сопряжённых градиентов
↗
10.
Решатель: LSQR
↗
11.
Геометрическая интерпретация коэффициентов регрессии
↗
Глава 9. Почему L2 не зануляет веса?
1 урок
1.
Доказательство
↗
Глава 10. Мат. обоснование смещённой оценки
6 уроков
1.
Теорема Гаусса-Маркова
↗
2.
Bias: Cмещённая оценка гребневой регрессии.
↗
3.
Ковариационная матрица. Ковариация против корреляции.
↗
4.
Variance: Cмещённая оценка гребневой регрессии.
↗
5.
Почему MSE гребневой регрессии меньше OLS?
↗
6.
Почему линии уровня это эллипсы?
↗
Глава 11. Мультиколлинеарность и обусловленность
2 урока
1.
Фактор инфляции дисперсии (VIF) — мера мультиколлинеарности
↗
2.
Обусловленность (cond)
↗
Глава 12. СЛАУ и логарифмическая шкала
2 урока
1.
Геометрический смысл СЛАУ
↗
2.
Логарифмическая шкала и параметр регуляризации
↗
Глава 13. Почему гребневая?
3 урока
1.
Почему называется Гребневая регрессия?
↗
2.
Резюмируем
↗
3.
Регуляризация в других моделях ML
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
Школа Data Science .IT-Сообщество.Машинное обучение(ML)
1 урок
1.
Data Science Bootcamp.IT-Сообщество.Машинное обучение(ML)
↗
3. Математика Data Science для врачей. Solver Cholesky & LU. 5.00
38
28
43
7
3 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава 1. Реверс-инжиниринг кода (Python+Numpy)
1 урок
1.
Основные понятия
↗
Глава 2. LU-разложение: основные понятия
5 уроков
1.
Алгоритм LU разложения
↗
2.
Матрица 3х3. Система уравнение. СЛАУ. Метод Гаусса.
↗
3.
Решаем систему АХ=B. Прямой ход. Обратный ход
↗
4.
LU-разложение с поворотом. Pivoting.
↗
5.
Почему LU-разложение хуже чем Холекций?
↗
Глава 3. Разложение Холецкого
5 уроков
1.
Основные понятия
↗
2.
Алгоритм разложения Холецкого
↗
3.
Матрица 3х3. Система уравнение. СЛАУ.
↗
4.
Решаем систему АХ=B. Прямой ход. Обратный ход
↗
5.
np.linalg.cholesky
↗
Глава 4. Асимптотика. Сравнительный анализ.
9 уроков
1.
Сравнение:Normal equation, SVD, QR, Cholesky, Gradient descent
↗
2.
Блок-схема выбора алгоритма
↗
3.
Большой, малый датасэт.
↗
4.
Что такое МНК? Историческая справка.
↗
5.
Критерий Кронекера и Квадратичной формы.
↗
6.
Почему Adam и Momentum не нужен в машинном обучении?
↗
7.
Условия и рекомендуемый метод поиска весов
↗
8.
Регуляризация Тихонова, Гребневая, Ridge, применение Холецкого
↗
9.
Скорость работы алгоритма
↗
Глава 5.Реверс-инжиниринг Kaggle
1 урок
1.
Ресёрчим kaggle
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Градиентный спуск и стахостический
1 урок
1.
Градиентный спуск и стохастический
↗
4. Математика Data Science для врачей. Solver L-BFGS-B
10
50
360
20
7 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Реверс-инжиниринг L-BFGS-B. Scikit-learn.
3 урока
1.
Введение в алгоритм L-BFGS-B
↗
2.
Реверс-инжиниринг исходников scikit-learn
↗
3.
Введение в Newton. Quasi-Newton. BFGS. LBFGS. LBFGSB
↗
Глава 2. Сравнение градиентного спуска и метода Ньютона
1 урок
1.
Анализ графиков схождения алгоритмов.Ньютон VS Градиентный спуск
↗
Глава 3. Методы второго порядка
1 урок
1.
Что видит Ньютон?
↗
Глава 4. Условная и безусловная оптимизация
1 урок
1.
Условная и безусловная оптимизация
↗
Глава 5. Линейная аппроксимация и Тейлор 1 порядка
4 урока
1.
Процедура градиентного спуска
↗
2.
Уравнение касательной
↗
3.
Линейная аппроксимация.
↗
4.
Разложение в ряд Тейлора первого порядка
↗
Глава 6. Квадратичная аппроксимация и Тейлор 2 порядка
4 урока
1.
Первый и второй порядок. Гессиан.
↗
2.
Квадратичная аппроксимация. Ряд Тейлора второго порядка
↗
3.
Общая формула Тейлора и Маклорена
↗
4.
Остаточный член. Радиус сходимости.
↗
Глава 7. Аппроксимация полином высокой степени VS ряд Тейлора
2 урока
1.
Геометрический смысл: Аппроксимация полиномом vs рядом тейлора
↗
2.
Аналитический смысл: Аппроксимация полиномом vs рядом тейлора
↗
Глава 8. Метод Ньютона
8 уроков
1.
Как шагают методы первого и второго порядка?
↗
2.
Сравнение градиентного спуска и метода Ньютона
↗
3.
Зачем вообще аппроксимировать?
↗
4.
Выпуклая и невыпуклая оптимизация. Гессиан.
↗
5.
Алгоритм Ньютона
↗
6.
Пример на линейной регрессии
↗
7.
Теорема Клеро. Смешенная производная. LOSS второго порядка.
↗
8.
Аффинная инвариантность: Преимущества и Проклятие Размерности
↗
Глава 9. BFGS (Квазиньютоновские методы)
9 уроков
1.
Метод касательной (Ньютона)
↗
2.
Broyden–Fletcher–Goldfarb–Shanno algorithm. BFGS
↗
3.
Метод секущих
↗
4.
BFGS: Уравнение секущей. Bs = y
↗
5.
BFGS: Разбор условий для уравнения секущей. Bs = y
↗
6.
Аналитический разбор: Уравнение секущей
↗
7.
Формула Шермана-Моррисона-Вудбери (Обновление обратной матрицы)
↗
8.
Линейный поиск (Line Search) и Условия Вольфе(Армихо и Кривизны)
↗
9.
Анализ графиков Newton vs BFGS
↗
Глава 10. Limited-memory BFGS. Quasi-Newton methods approximates
3 урока
1.
Идея алгоритма LBFGS
↗
2.
Реверс-инжиниринг: Скользящее окно памяти. Двухцикловая рекурсия
↗
3.
Сравнительная таблица. Анализ сложности.
↗
Глава 11. L-BFGS-B.(Limited-memory BFGS with Bound constraints)
3 урока
1.
Идея алгоритма L-BFGS-B (Limited-memory BFGS with Bound)
↗
2.
Точка Коши. Мин. в подпространстве. Active set vs Free set
↗
3.
Сравнительная таблица. Анализ сложности.
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
Школа Data Science .IT-Сообщество.Машинное обучение(ML)
1 урок
1.
Data Science Bootcamp.IT-Сообщество.Машинное обучение(ML)
↗
Сопряжённые градиенты
1 урок
1.
Сопряжённые градиенты
↗
5. Математика Data Science для врачей. Solver LSQR 5.00
17
21
82
2
3 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Обзор метода LSQR
3 урока
1.
Введение в алгоритм LSQR
↗
2.
Реверс-инжиниринг scikit-learn. Бидигоанализация Голуба-Кахана
↗
3.
Где применяется LSQR?
↗
Глава 2. Реверс-инжиниринг LSQR
6 уроков
1.
Метод Ланцоша. Историческая справка.
↗
2.
Обусловленность (cond)
↗
3.
СЛАУ И МНК. Проблема нормальных уравнений
↗
4.
Процедура бидиагонализации Голуба-Кахана
↗
5.
QR разложение с вращением Гивенса
↗
6.
Дополинтельное тестирование
↗
Глава 3. Особенность алгоритма
1 урок
1.
Оценка норм в критериях остановы. atol. btol. conlim.
↗
Глава 4. Сходимость алгоритма
1 урок
1.
Анализ сходимости LSQR VS CG
↗
Глава 5. LSQR в эпоху нейросетей
1 урок
1.
LSQR в современную эпоху
↗
Глава 6. Геометрический смысл LSQR
1 урок
1.
Геометрический смысл LSQR
↗
Глава 7. Ключевые выводы
1 урок
1.
Ключевые выводы по LSQR
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
Школа Data Science .IT-Сообщество.Машинное обучение(ML)
1 урок
1.
Data Science Bootcamp.IT-Сообщество.Машинное обучение(ML)
↗
Следующий курс
1 урок
1.
SAG/SAGA
↗
6. Математика Data Science для врачей. Solver QR decomposition 5.00
28
45
87
10
5 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава 1. Реверс-инжиниринг кода (Python+Numpy)
2 урока
1.
Решение МНК с помощью QR-разложения
↗
2.
процесс ортогонализации Грама - Шмидта: Основные понятия
↗
Глава 2. Скалярное произведение: основные понятия
10 уроков
1.
Геометрический смысл cкалярного произведения
↗
2.
Норма вектора, L2, Евклидова норма
↗
3.
Как найти скалярное произведение векторов?
↗
4.
Угол между векторами:Острый,Тупой,Прямой. Коллинеарность.
↗
5.
Скалярный квадрат вектора
↗
6.
Алгебраический смысл скалярного произведения
↗
7.
Свойства скалярного произведения
↗
8.
Рекомендательная система. Косинусное сходство векторов
↗
9.
Ортогональность векторов.
↗
10.
Ортогональный и Ортонормированный базис, система векторов
↗
Глава 3. Проекция
2 урока
1.
Как найти проекцию вектора на вектор?
↗
2.
Косинус угла. Выводим с нуля формулу проекции.
↗
Глава 4.QR-разложение. Метод грама-шмидта
12 уроков
1.
Основные понятия.
↗
2.
Задача наименьших квадратов
↗
3.
QR-разложение. Выводим формулу с нуля
↗
4.
Алгоритм Грама-Шмидта
↗
5.
Матрица 3х3. Квадратная. QR-разложение
↗
6.
Матрица 3х2. Прямоугольная. Высокая и узкая. QR-разложение
↗
7.
Матрица 2х2. Квадратная. QR-разложение
↗
8.
Матрица 3х3. Квадратная. QR-разложение
↗
9.
QR-разложение с повотором (pivoting)
↗
10.
Редуцированное QR
↗
11.
Геометрический смысл Грама-Шмидта
↗
12.
Линейная оболочка.Span.
↗
Глава 5. Реверс-инжиниринг кода (Python+Numpy)
8 уроков
1.
Явное обращение матрицы VS система линейных уравнений
↗
2.
scipy.linalg.lstsq. Изучаем ядро библиотеки lapack: gelsy
↗
3.
Шаг 0. Подключаем датасэт и читаем CSV
↗
4.
Шаг 1. Разведочный анализ(EDA). Стандартное отклонение.Дисперсия
↗
5.
Шаг 2. Подготовка данных. Sklearn.preprocessing.MinMaxScaler
↗
6.
Шаг 3. Построение модели ML.Sikit-learn.linaer regression
↗
7.
Шаг 4. Метрики: MAE,MSE,RMSE, R2
↗
8.
Шаг 5. QR-разложение VS Ridge регуляризация
↗
Глава 6.Реверс-инжиниринг кода (Python+Numpy)
2 урока
1.
Test №1 Perfomance qr vs normal equation
↗
2.
Test №2 Perfomance qr vs normal equation
↗
Глава 7. Асимптотика. Сравнительный анализ.
1 урок
1.
Плюсы, Минусы, Где применяется
↗
QR Algorithm для поиска Eigenvectors
1 урок
1.
Открываем новые возможности QR
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Разложение Холецкого
1 урок
1.
Разложение Холецкого
↗
7. Математика Data Science для врачей. Solver SVD decomposition 5.00
53
66
176
8
11 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава 1. Реверс-инжиниринг кода (Python+Numpy)
5 уроков
1.
Сравнение метода INV и PINV.Псевдообратная матрица мура-Пенроуза
↗
2.
Изучаем библиотеку Linear algebra (numpy.linalg)
↗
3.
Математическое обоснование применения PINV вместо INV.
↗
4.
Сингулярная и Обратная матрица.Детерминант. Мультиколлинеарность
↗
5.
Изучаем метод PINV(SVD): псевдообратная матрица Мура-Пенроуза
↗
Глава 2. Алгебраические структуры: моноид, группа, кольцо, поле
8 уроков
1.
Понятие вектора.
↗
2.
Понятие алгебраической структуры.
↗
3.
Полугруппа
↗
4.
Моноид
↗
5.
Группа. Группа подстановок. Симметрическая группа s3
↗
6.
Абелева группа. Коммутативная группа
↗
7.
Кольцо
↗
8.
Поле
↗
Глава 3. Линейное(Векторное) пространство.Линейные трансформации
6 уроков
1.
Векторное пространство
↗
2.
Евклидово пространство
↗
3.
Линейный оператор. Линейная трансформация / преобразования
↗
4.
Базис:Ортонормированный, Ортогональный, Афинный.Коллинеарность
↗
5.
Гомотетия: частный случай преобразования подобия
↗
6.
Виды преобразований
↗
Глава 4.Собственные числа и векторы. Eigenvalue и eigenvectors
8 уроков
1.
Основные понятия
↗
2.
Геометрическая интерпретация
↗
3.
Формальное определение.
↗
4.
Собственный вектор и значение линейного преобразования
↗
5.
Алгоритм нахождения собственных чисел и векторов
↗
6.
Матрица 2х2 алгоритм нахождения eigenvalue&eigenvector
↗
7.
Матрица 3х3 алгоритм нахождения eigenvalue&eigenvector
↗
8.
Комплексные числа
↗
Глава 5.Матричная факторизация: Спектральное разложение матрицы
4 урока
1.
Основные понятия. Eigenvalue decomposition
↗
2.
Матрица 2х2 алгоритм нахождения Eigenvalue decomposition
↗
3.
Геометрический смысл Eigenvalue decomposition. Матрица 2х2
↗
4.
Эрмитова матрица
↗
Глава 6.Реверс-инжиниринг кода (Python+Numpy)
1 урок
1.
Сингулярное разложение матрицы.
↗
Глава 7.Матричная факторизация: Сингулярное разложение матрицы
15 уроков
1.
Основные понятия. Singular Value Decomposition
↗
2.
Алгоритм нахождения singular value decomposition
↗
3.
Матрица 2х3.Прямоугольная-ШИРОКАЯ.Система уравнений.Метод Гаусса
↗
4.
Матрица 4х3.Прямоугольная-ВЫСОКАЯ.Система уравнений.Метод Гаусса
↗
5.
Матрица 3х3.Квадратная. Мультиколлинеарность. Находим SVD
↗
6.
Резюмируем
↗
7.
Усечённое(Truncated) SVD
↗
8.
Сжатие изображения с помощью SVD
↗
9.
Убираем шум с помощью SVD
↗
10.
Рекомендательная система SVD
↗
11.
Норма Фробениуса. След матрицы
↗
12.
Теорема Эккарта Янга
↗
13.
Геометрический смысл SVD
↗
14.
Аналитический смысл SVD
↗
15.
Сходство EVD и SVD
↗
Глава 8. Реверс-инжиниринг кода (Python+Numpy)
1 урок
1.
Функция PINV. Псевдообратная матрица Мура-Пенроуза
↗
Глава 9.Матричная факторизация: матрица Мура пенроуза
7 уроков
1.
Выводим с нуля формулу для pinv - Moore-Penrose pseudoinverse
↗
2.
Матрица 4х2.Прямоугольная-ВЫСОКАЯ.
↗
3.
Матрица 2х2.Квадратная. Мультиколлинеарность.
↗
4.
Прообраз и образ. Отображение.
↗
5.
Геометрический смысл pinv - Moore-Penrose pseudoinverse
↗
6.
Метод наименьших квадратов:Мура-Пенроуза наилучшая аппроксимация
↗
7.
Реверс инжиниринг scikit-learn, метод fit
↗
Глава 10. Реверс-инжиниринг кода (Python+Numpy)
3 урока
1.
Функция PINV
↗
2.
Резюмируем
↗
3.
Пишем алгоритм PINV с нуля
↗
Глава 12. Сравнительный анализ. INV VS PINV VS QR
1 урок
1.
Плюсы, Минусы, Где применяется
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
QR
1 урок
1.
QR
↗
8. Математика Data Science для врачей. Solver Sag & SAGA. 5.00
16
22
89
2
4 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Обзор метода SAG
1 урок
1.
Введение в алгоритм SAG + Реверс-инжиниринг scikit-learn.
↗
Глава 2. Сравнение градиентного спуска и стохастического
1 урок
1.
Минимизация эмперического риска.Градиентный спуск,Стохастический
↗
Глава 3. Анализ графиков
2 урока
1.
Анализ схождения стохастических и детерминированных методов
↗
2.
Анализ схождения SAG vs LBFGS vs Координатные методы
↗
Глава 4. Выпуклость vs Сильная выпуклость
1 урок
1.
Сильная выпуклость и просто выпуклость
↗
Глава 5. Реверс-инжиниринг SAG
8 уроков
1.
Условия сходимости SAG
↗
2.
Концепция алгоритма SAG
↗
3.
Аналитический разбор алгоритма SAG
↗
4.
Считаем вручную SAG
↗
5.
L-Липшицев градиент. Собственные числа. Матрица Гессе.
↗
6.
Структура SAG методов
↗
7.
Смещённая оценка градиента
↗
8.
SVRG
↗
Глава 6. SAGA
2 урока
1.
SAGA
↗
2.
Как выбрать солвер?
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
Школа Data Science .IT-Сообщество.Машинное обучение(ML)
1 урок
1.
Data Science Bootcamp.IT-Сообщество.Машинное обучение(ML)
↗
Переобучение и недообучение
1 урок
1.
Переобучение и недообучение
↗
9. Математика Data Science для врачей. Solver Sparse_cg. 5.00
19
36
240
9
5 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Обзор метода CG
3 урока
1.
Введение в метод сопряжённых градиентов
↗
2.
Реверс-инжиниринг scikit-learn
↗
3.
Геометрический смысл метода сопряжённых градиентов
↗
Глава 2. Проекционные методы
8 уроков
1.
Общий подход к построение проекционных методов
↗
2.
Условия Петрова-Галёркина
↗
3.
Косой и ортогональный проекционный метод
↗
4.
Проекционный оператор
↗
5.
Образ и ядро проектора
↗
6.
Линейное многообразие. Аффинное пространство.
↗
7.
Матричные базисы
↗
8.
Одномерные проекционные процессы
↗
Глава 3. Краткие сведения из линейной алгебры
5 уроков
1.
Пространство: Линейное, Метрическое, Нормированное, Евклидово
↗
2.
Подпространство
↗
3.
Матрица проектирования и базис
↗
4.
Ортогональное дополнение
↗
5.
Энергетическая норма (А-норма)
↗
Глава 4. Подпространство Крылова
3 урока
1.
подпространство Крылова: Геометрический смысл
↗
2.
подпространство Крылова: Алгебраический смысл
↗
3.
Полиномиальная апроксимация. Теорема Камильтона-Кэли.
↗
Глава 5. Реверс-инжиниринг CG
6 уроков
1.
Метод наискорейшего спуска(Steepest Descent)
↗
2.
Сопряжённые градиенты. А-Ортогональность.
↗
3.
Квадратичная форма
↗
4.
Разбор алгоритма CG в python
↗
5.
Предобуславливатель
↗
6.
CG для нормальных систем уравнений
↗
Глава 6. Доказательство и Геометрия CG в подпространстве Крылова
4 урока
1.
Аналитическое доказательство CG.
↗
2.
Геометрическое доказательство CG и Метод Грама-Шмидта
↗
3.
Геометрический смысл CG на подпространстве Крылова
↗
4.
Академическое формальное доказательство
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
Школа Data Science .IT-Сообщество.Машинное обучение(ML)
1 урок
1.
Data Science Bootcamp.IT-Сообщество.Машинное обучение(ML)
↗
LSQR
1 урок
1.
Lsqr
↗
10. Математика Data Science для врачей. Underfitting&Overfitting
26
41
167
12
4 ч.
Введение
3 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
Глава1. Анализ сфер с полиномиальной зависимостью
1 урок
1.
Бизнес кейсы с полиномиальной регрессией
↗
Глава 2. Основные понятия
2 урока
1.
Понятие монома (одночлен)
↗
2.
Понятие полинома (многочлен)
↗
Глава 3. Моделирование и ряд Тейлора
2 урока
1.
Моделирование полиномов в DESMOS
↗
2.
Понятие ряд Тейлора
↗
Глава 4. Математическое обоснование формулы
1 урок
1.
Выводим формулу полиномиальной регрессии с нуля.
↗
Глава 5. Реверс-инжиниринг Python кода
3 урока
1.
Полиномиальные признаки:sklearn.preprocessing.PolynomialFeatures
↗
2.
Реверс-инжиниринг Python кода
↗
3.
Улучшаем код для выбора гиперпараметра модели
↗
Глава 6. Анализ метрик
3 урока
1.
Метрика MAPE
↗
2.
Анализ метрик и выбор степени полинома. UNDERFITTING OVERFITTING
↗
3.
Анализ графика полиномиальной регрессии
↗
Глава 7. Анализ числовых показателей регрессии
2 урока
1.
Анализ коэффициентов регрессии
↗
2.
Анализ графика остатков
↗
Глава 8. Введение в разложение ошибки на смещение и разброс
1 урок
1.
Понятие Bias-Variance Decomposition и Tradeoff
↗
Глава 9. Bias
2 урока
1.
Понятие Bias (смещение)
↗
2.
Bias (смещение): математическое обоснование
↗
Глава 10. Variance
4 урока
1.
Понятие variance (разброс)
↗
2.
Геометрический смысл bias и variance
↗
3.
Кросс-валидация (краткий обзор)
↗
4.
Variance (разброс): математическое обоснование
↗
Глава 11. Noise
4 урока
1.
Понятие noise (шум)
↗
2.
Геометрический смысл noise
↗
3.
Noise (шум): математическое обоснование
↗
4.
Анализ графика: Шум как неустранимая ошибка.
↗
Глава 12. Bias Varians Decomposition (BVD)
2 урока
1.
PDF. График плотности нормального распределения гаусса
↗
2.
Выводим формулу с нуля. Bias varians decomposition
↗
Глава 13. model complexity и learning curves
6 уроков
1.
Анализ графика model complexity
↗
2.
Бритва Оккама или как выбрать гиперпараметр?
↗
3.
Валидационная выборка
↗
4.
Анализ кривых обучения (learning curves)
↗
5.
Борьба с недообучением и переобучением
↗
6.
BVD: Decision Tree, Random Forest, KNN, Логистическая, Нейросети
↗
Сплайны в задачах интерполяции и регрессионного анализа
1 урок
1.
Введение в сплайновую регрессию (с реализацией в Python)
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Регуляризация
1 урок
1.
Регуляризация.Гребневая регрессия
↗
11. Математика Data Science для врачей. Множественная регрессия. 5.00
80
48
184
10 ч.
Введение
4 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
4.
Глоссарий
↗
Геометрический взгляд
1 урок
1.
Сравнение простой и множественной регрессии
↗
Реверс-инжиниринг кода (Python+sklearn)
3 урока
1.
Параметры метода, Фильтрация данных
↗
2.
(Краткий обзор) z-score: масштабирование признаков
↗
3.
train_test_split:Тестовая, обучающая выборка.
↗
Математическое обоснование метода "insert"
2 урока
1.
Введение: np.insert
↗
2.
np.insert.Математическое обоснование
↗
Формы записи уравнения линейной регресии
1 урок
1.
Скалярная,Векторная,Матричная,Функциональная,развёрнутая форма
↗
Вычисляем предсказание модели
1 урок
1.
Умножаем матрицу весов 3-х моделей на вектор признаков
↗
np.linalg.inv(X.T@X).Нормальное уравнение
4 урока
1.
Введение Основные понятия. Термины.
↗
2.
Матрица 2х2.Обратная матрица.Определитель.Миноры.Дополнения
↗
3.
Метод Predict: X_test @ self.weights + self.bias
↗
4.
Матрица 3х3.Обратная матрица.Определитель.Миноры.Дополнения
↗
Вычисляем определитель
2 урока
1.
Правило саррюса. Матрица 3 порядка
↗
2.
Правило треугольников. Матрица 3 порядка
↗
Ранг матрицы.Линейная независимость.Вырожденная матрица.
1 урок
1.
Линейная комбинация.
↗
Коллинеарность и мультиколлинеарность, что это и как обнаружить?
1 урок
1.
Определитель.Ранг матрицы.Матрица корреляции
↗
Регуляризация l1 l2
2 урока
1.
L1 vs L2 норма
↗
2.
Ridge regularization vs Lasso
↗
Нормально уравнение С НУЛЯ.Матричное диффенцирование
3 урока
1.
SSE VS MSE
↗
2.
Раскрываем формулу
↗
3.
Матричное диффенцирование
↗
Система Линейных Алгебраических Уравнений
2 урока
1.
Метод сложения системы уравнений и подстановки
↗
2.
Метод Гаусса
↗
Геометрическая интерпретация метода наименьших квадратов
3 урока
1.
Ортогональная проекция на столбцовое пространство матрицы Х
↗
2.
Коэффициент детерминации R2(SSR/SST)
↗
3.
Заключение
↗
Экзамен
1 урок
1.
тестирование на python
↗
(Краткий обзор) Корреляционно-регрессионный анализ
13 уроков
1.
Intro: linear regression
↗
2.
Supervised learning/Unsupervised learning
↗
3.
Классификация моделей линейной регресии
↗
4.
Pipeline
↗
5.
Вероятностный и классический подход в машинном обучении
↗
6.
Почему называется МНК?
↗
7.
Ф-критерий Фишера/Т-критерий Стьюдента и Метрики качества модели
↗
8.
Теорема Гаусса-Маркова
↗
9.
Доверительный интервал
↗
10.
QQ-plot.Тест Шапиро-Уилка и Колмогорова смирнова
↗
11.
Градиентный спуск и Метод наименьших квадратов
↗
12.
Time complexity для МНК (Алгоритмы и структуры данных)
↗
13.
Тестирование
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Множественная регрессия. SVD
1 урок
1.
Множественная регрессия. SVD
↗
12. Математика Data Science для врачей. Простая линейная регрессия 5.00
207
40
54
3
7 ч.
Введение
4 урока
1.
Регламент взаимодействия
↗
2.
Обзор курса
↗
3.
Школа Анализа Данных. Kaggle. arXiv.
↗
4.
Глоссарий
↗
Метод наименьших квадратов (Парная/простая регрессия)
4 урока
1.
Имплементация на Python
↗
2.
МНК: Применяем формулу.Вычисляем коэффициенты
↗
3.
Функция потерь - Функция нескольких переменных.(ФНП)
↗
4.
Тестирование
↗
Математический анализ
5 уроков
1.
Геометрический и физический смысл производной
↗
2.
Дифференциал и Нотация Лейбница
↗
3.
Производная по определению через предел
↗
4.
Частная производная
↗
5.
Тестирование
↗
Получаем формулу МНК с нуля
2 урока
1.
Частные производные от Функции потерь
↗
2.
Тестирование
↗
Теория рядов
2 урока
1.
Выводим формулу МНК
↗
2.
Тестирование
↗
Линейная алгебра
2 урока
1.
Метод крамера и система линейных алгебраических уравнений (СЛАУ)
↗
2.
Тестирование
↗
Интерпретация формулы МНК
1 урок
1.
Аналитический и геометрический смысл МНК
↗
Интерполяция и Аппроксимация
1 урок
1.
В чём разница?
↗
Линейная регрессия на Python с нуля
1 урок
1.
Scikit-learn: linear regression
↗
Экзамен
1 урок
1.
тестирование на python
↗
(Краткий обзор) Корреляционно-регрессионный анализ
13 уроков
1.
Intro: linear regression
↗
2.
Supervised learning/Unsupervised learning
↗
3.
Классификация моделей линейной регресии
↗
4.
Pipeline
↗
5.
Вероятностный и классический подход в машинном обучении
↗
6.
Почему называется МНК?
↗
7.
Ф-критерий Фишера/Т-критерий Стьюдента и Метрики качества модели
↗
8.
Теорема Гаусса-Маркова
↗
9.
Доверительный интервал
↗
10.
QQ-plot.Тест Шапиро-Уилка и Колмогорова смирнова
↗
11.
Градиентный спуск и Метод наименьших квадратов
↗
12.
Time complexity для МНК (Алгоритмы и структуры данных)
↗
13.
Тестирование
↗
Если вам понравился курс...
1 урок
1.
...то...
↗
стажировка в IT-организации и Школа Data Science
1 урок
1.
стажировка в IT-организации и Школа Data Science
↗
Множественная линейная регрессия
1 урок
1.
Множественная линейная регрессия
↗