Курс на Stepik
Обложка курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)» на Stepik
Бесплатно

[АРХИВ] Deep Learning (семестр 2, осень 2024) ★ 5.000

Открыть на
STEPIK.ORG

Курс посвящен использованию нейросетевых моделей для обработки естественного языка (NLP) . Курс рассчитан на студентов, прошедших курс первого семестра нашей школы Deep Learning School. Курс состоит из лекций, семинаров и домашних заданий. В течение курса вам предстоит много практики, а в конце — самостоятельный итоговый проект. Практика проходит на PyTorch. Преподаватели школы — ведущие специалисты российских и зарубежных IT-компаний и научные сотрудники исследовательских компаний, а также выпускники и ст

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Учеников на курсе 2 606
Сертификаты, выданные на курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Сертификатов выдано 0
Отзывы о курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Отзывов получено 1
Рейтинг курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Рейтинг курса 5.000
Уроки в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Количество уроков 36
Тесты в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Количество квизов 4
Задачи с кодом в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Количество задач с кодом 3
Время прохождения курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Время прохождения курса —
Обновления курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Обновления курса — —
Дата публикации курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Дата публикации курса — ———
Последнее обновление курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)»Последнее обновление — ———
Сложность hard — ———

Содержание курса

Разделы в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)» 25 разделов Уроки в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)» 36 уроков Тесты в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)» 4 теста Задачи в курсе «[АРХИВ] Deep Learning (семестр 2, осень 2024)» 3 задачи Время прохождения курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)» 1 ч. Последнее обновление курса «[АРХИВ] Deep Learning (семестр 2, осень 2024)» обн. 25 января 2026

Организационная информация

1 урок
1. Организационная информация ↗

Введение в NLP. Эмбеддинги слов.

2 урока
1. Лекция. Эмбеддинги слов. ↗
2. Семинар. Обработка и классификация текстов ↗

Домашнее задание. Ранжирование текстов на основе эмбеддингов

1 урок
1. Ранжирование текстов на основе эмбеддингов ↗

Рекуррентные нейронные сети (RNN)

2 урока
1. Лекция. Рекуррентные нейронные сети. Татьяна Гайнцева ↗
2. Семинар. Классификация текста с помощью RNN. Антон Земеров ↗

Домашнее задание. Классификация текста с помощью RNN

1 урок
1. Домашнее задание. Классификация текста с помощью RNN ↗

Языковое моделирование

2 урока
1. Лекция. Языковое моделирование. Антон Земеров ↗
2. Семинар. Языковое моделирование. Антон Земеров ↗

Домашнее задание. Языковое моделирование

1 урок
1. Домашнее задание. Языковое моделирование ↗

Машинный перевод и механизм Attention

3 урока
1. Лекция. Машинный перевод и механизм Attention ↗
2. Семинар. Машинный перевод ↗
3. Дополнительные материалы ↗

Архитектура Transformer

3 урока
1. Лекция. Attention и трансформер. Татьяна Гайнцева ↗
2. Семинар. Attention и трансформеры. Игорь Щукин ↗
3. Дополнительные материалы ↗

Предобучение и дообучение языковых моделей

2 урока
1. Лекция. Предобучение и файнтьюнинг LM. Антон Земеров ↗
2. Семинар. Файнтьюнинг BART для суммаризации. Антон Земеров ↗

Домашнее задание. Предобучение и дообучение языковых моделей

1 урок
1. Домашнее задание. Трансформеры ↗

От GPT до GPT-3. Zero-shot Learning.

1 урок
1. Лекция. GPT-модели ↗

ChatGPT. Instruction Tuning & RLHF. RAG

2 урока
1. Лекция. ChatGPT. Instruction Tuning & RLHF ↗
2. Семинар. RAG ↗

Домашнее задание. RAG

2 урока
1. Домашнее задание. RAG ↗
2. Домашнее задание. RAG ↗

Интерпретируемость трансформеров

1 урок
1. Лекция. Интерпретируемость трансформеров. ↗

Домашнее задание. Внутри языковых моделей.

1 урок
1. test ↗

Детекция сгенерированных текстов

2 урока
1. Лекция. Детекция сгенерированных текстов. ↗
2. Семинар. Детекция сгенерированных текстов. ↗

Домашнее задание. Детекция сгенерированных текстов.

1 урок
1. Домашнее задание. Детекция сгенерированных текстов. ↗

Дистилляция больших моделей

1 урок
1. test ↗

Домашнее задание. Дистилляция больших моделей

1 урок
1. test ↗

Задачи NLP. Суммаризация текста и диалоговые системы

1 урок
1. test ↗

Домашнее задание. Задачи NLP.

1 урок
1. test ↗

Введение в обработку аудио

1 урок
1. test ↗

Домашнее задание. Введение в обработку аудио

1 урок
1. test ↗

Итоговый проект

1 урок
1. Итоговый проект. Описание и форма сдачи ↗