Содержание курса
1. Введение и контекст
4 урока
14
9
14м
0
Закрытый
1.1
О чём этот курс и кому он подойдёт
↗
4
2
6м 35с
0
Закрытый
1.2
Какой проект мы будем строить (обзор схемы)
↗
5
2
-
0
Закрытый
1.3
Связь с преподавателем
↗
3
3
-
0
Закрытый
1.4
Настройка Окружения
↗
2
2
8м 13с
0
2. Источник данных и постановка задачи
4 урока
13
8
8м
0
Закрытый
2.1
Зачем нам OpenAQ и что это за данные
↗
4
2
8м 34с
0
Закрытый
2.2
Структура OpenAQ API: locations, sensors, params, measurements
↗
3
2
-
0
Закрытый
2.3
Ограничения API: задержки, пагинация, неполные данные
↗
3
2
-
0
Закрытый
2.4
Проектирование модели данных под аналитику
↗
3
2
-
0
3. Архитектура аналитического пайплайна в Yandex Cloud
4 урока
9
9
4м
0
Закрытый
3.1
Общая архитектура решения (API → Airflow → Postgres → DataLens)
↗
3
3
-
0
Закрытый
3.2
Роль оркестратора: почему именно Airflow
↗
2
2
4м 18с
0
Закрытый
3.3
Где и как живёт PostgreSQL в Yandex Cloud
↗
2
2
-
0
Закрытый
3.4
Object Storage и служебные компоненты (DAG, логи, артефакты)
↗
2
2
-
0
4. Apache Airflow: реализация пайплайнов
10 уроков
32
16
42м
0
Закрытый
4.1
Как устроен Airflow: DAG, task, schedule, execution date
↗
4
2
3м 26с
0
Закрытый
4.2
Развёртывание Apache Airflow в Yandex Cloud (Managed Service)
↗
3
2
26м 37с
0
Закрытый
4.3
Структура наших DAG: логика и ответственность (без кода)
↗
3
1
7м 52с
0
Закрытый
4.4
Учебный DAG: классический подход (PythonOperator + XCom)
↗
3
1
6м 10с
0
Закрытый
4.5
Учебный DAG: современный подход (TaskFlow API)
↗
3
1
-
0
Закрытый
4.6
Production-пайплайн: почему иногда одна task — это нормально
↗
3
2
-
0
Закрытый
4.7
Dimension-пайплайны в Airflow: locations, parameters, sensors
↗
3
2
-
0
Закрытый
4.8
Fact-пайплайн: measurements и инкрементальная загрузка
↗
4
2
-
0
Закрытый
4.9
Идемпотентность и service tables
↗
4
1
-
0
Закрытый
4.10
Обработка ошибок и уведомления (Telegram)
↗
2
2
-
0
5. Хранилище данных: PostgreSQL под аналитику
5 уроков
11
8
19м
0
Закрытый
5.1
Развертывание PostgreSQL в Yandex Cloud (Managed Service)
↗
2
2
19м 10с
0
Закрытый
5.2
Проектирование схемы БД для аналитики
↗
2
1
-
0
Закрытый
5.3
Fact и Dimension таблицы: зачем так, а не иначе
↗
3
2
-
0
Закрытый
5.4
Индексы, уникальные ключи, контроль дублей
↗
2
1
-
0
Закрытый
5.5
Подготовка данных для BI-инструментов
↗
2
2
-
0
6. Сборка и запуск Аналитической Системы
3 урока
7
7
19м
0
Закрытый
6.1
Сборка системы: что у нас уже есть
↗
3
3
3м 21с
0
Закрытый
6.2
Запуск DAG’ов и ожидание данных
↗
2
2
3м 54с
0
Закрытый
6.3
Проверка результата: данные в Postgre и стабильность пайплайнов
↗
2
2
12м 27с
0
7. Визуализация и аналитика в DataLens
5 уроков
12
12
46м
0
Закрытый
7.1
Роль BI и DataLens в нашем проекте
↗
3
3
2м 25с
0
Закрытый
7.2
Подключение PostgreSQL к DataLens
↗
3
3
6м 14с
0
Закрытый
7.3
Подготовка датасета для аналитики
↗
2
2
9м 41с
0
Закрытый
7.4
Построение дашборда: метрики и визуализации
↗
2
2
25м 16с
0
Закрытый
7.5
Интерпретация данных и возможные расширения проекта
↗
2
2
4м 45с
0
8. Завершение и развитие проекта
3 урока
8
7
6м
0
Закрытый
8.1
Итоги: что мы построили и чему научились
↗
2
2
3м 40с
0
Закрытый
8.2
Как можно развивать этот проект дальше
↗
3
2
3м 59с
0
Закрытый
8.3
Куда двигаться дальше (следующие темы, курсы, стек)
↗
3
3
-
0