Курс на Stepik
Обложка курса «Разработка LLM с нуля» на Stepik
4 900 ₽

Разработка LLM с нуля ★ 4.900

Открыть на
STEPIK.ORG

Этот практический курс погрузит студентов в создание современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют все основные компоненты Трансформера: от токенизации (BPE) до механизмов Внимания и генерации текста. Для разработки будем использовать только Python и низкоуровневый PyTorch, не полагаясь на какие-либо сторонние библиотеки.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «Разработка LLM с нуля»Учеников на курсе 424
Сертификаты, выданные на курсе «Разработка LLM с нуля»Сертификатов выдано 81
Отзывы о курсе «Разработка LLM с нуля»Отзывов получено 10
Рейтинг курса «Разработка LLM с нуля»Рейтинг курса 4.900
Уроки в курсе «Разработка LLM с нуля»Количество уроков 18
Задачи с кодом в курсе «Разработка LLM с нуля»Количество задач с кодом 44
Время прохождения курса «Разработка LLM с нуля»Время прохождения курса —
Стоимость курса «Разработка LLM с нуля»Стоимость курса 4 900 ₽ —
Обновления курса «Разработка LLM с нуля»Обновления курса — —
Дата публикации курса «Разработка LLM с нуля»Дата публикации курса — ———
Последнее обновление курса «Разработка LLM с нуля»Последнее обновление — ———
Сложность normal — ———

Содержание курса

Разделы в курсе «Разработка LLM с нуля» 6 разделов Уроки в курсе «Разработка LLM с нуля» 18 уроков Задачи в курсе «Разработка LLM с нуля» 44 задачи Время прохождения курса «Разработка LLM с нуля» 19 ч. Последнее обновление курса «Разработка LLM с нуля» обн. 18 марта 2026

1. Введение

3 урока
Открытый
1.1 Инструкция ↗
1 030
559
3м 37с
11
Открытый
1.2 Что такое LLM? ↗
732
450
6м 54с
9
Открытый
1.3 Архитектура LLM ↗
700
457
5м 2с
15

2. Токены и эмбединги

2 урока
Открытый
2.1 Byte-Pair Encoding ↗
769
137
115м 34с
14
Закрытый
2.2 Эмбединги ↗
216
119
41м 0с
10

3. Transformer

3 урока
Закрытый
3.1 «‎Внимание»‎ ↗
199
94
101м 2с
4
Закрытый
3.2 Feed-Forward Network ↗
162
94
10м 49с
2
Закрытый
3.3 Decoder ↗
158
89
21м 14с
2

4. LLM

2 урока
Закрытый
4.1 Собираем GPT ↗
177
79
101м 23с
5
Закрытый
4.2 Сэмплирование ↗
147
59
72м 51с
4

5. Обучение

3 урока
Закрытый
5.1 Датасет ↗
156
67
41м 14с
3
Закрытый
5.2 Train/Eval ↗
153
56
48м 8с
1
Закрытый
5.3 Применение ↗
149
115
1м 27с
2

6. Другие модели

5 уроков
Открытый
6.1 GPT-2 ↗
403
19
217м 20с
1
Открытый
6.2 LLama ↗
232
18
170м 23с
0
Открытый
6.3 Mistral ↗
149
12
324м 6с
0
Открытый
6.4 Mixtral ↗
127
12
205м 54с
0
Открытый
6.5 Gemma ↗
170
11
91м 26с
0