Курс на Stepik
Обложка курса «Разработка LLM с нуля» на Stepik
4 900 ₽

Разработка LLM с нуля ★ 4.909

Открыть на
STEPIK.ORG

Этот практический курс погрузит студентов в создание современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют все основные компоненты Трансформера: от токенизации (BPE) до механизмов Внимания и генерации текста. Для разработки будем использовать только Python и низкоуровневый PyTorch, не полагаясь на какие-либо сторонние библиотеки.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «Разработка LLM с нуля»Учеников на курсе 515
Сертификаты, выданные на курсе «Разработка LLM с нуля»Сертификатов выдано 94
Отзывы о курсе «Разработка LLM с нуля»Отзывов получено 11
Рейтинг курса «Разработка LLM с нуля»Рейтинг курса 4.909
Уроки в курсе «Разработка LLM с нуля»Количество уроков 18
Задачи с кодом в курсе «Разработка LLM с нуля»Количество задач с кодом 44
Время прохождения курса «Разработка LLM с нуля»Время прохождения курса —
Стоимость курса «Разработка LLM с нуля»Стоимость курса 4 900 ₽ —
Обновления курса «Разработка LLM с нуля»Обновления курса — —
Дата публикации курса «Разработка LLM с нуля»Дата публикации курса — ———
Последнее обновление курса «Разработка LLM с нуля»Последнее обновление — ———
Сложность normal — ———

Содержание курса

Разделы в курсе «Разработка LLM с нуля» 6 разделов Уроки в курсе «Разработка LLM с нуля» 18 уроков Задачи в курсе «Разработка LLM с нуля» 44 задачи Время прохождения курса «Разработка LLM с нуля» 20 ч. Последнее обновление курса «Разработка LLM с нуля» обн. 30 сентября 2026

Введение

3 урока
1. Инструкция ↗
2. Что такое LLM? ↗
3. Архитектура LLM ↗

Токены и эмбединги

2 урока
1. Byte-Pair Encoding ↗
2. Эмбединги ↗

Transformer

3 урока
1. «‎Внимание»‎ ↗
2. Feed-Forward Network ↗
3. Decoder ↗

LLM

2 урока
1. Собираем GPT ↗
2. Сэмплирование ↗

Обучение

3 урока
1. Датасет ↗
2. Train/Eval ↗
3. Применение ↗

Другие модели

5 уроков
1. GPT-2 ↗
2. LLama ↗
3. Mistral ↗
4. Mixtral ↗
5. Gemma ↗