Курс на Stepik
Обложка курса «Разработка LLM с нуля» на Stepik
4 900 ₽

Разработка LLM с нуля 4.909

Открыть на
STEPIK.ORG

Этот практический курс погрузит студентов в создание современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют все основные компоненты Трансформера: от токенизации (BPE) до механизмов Внимания и генерации текста. Для разработки будем использовать только Python и низкоуровневый PyTorch, не полагаясь на какие-либо сторонние библиотеки.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «Разработка LLM с нуля»Учеников на курсе 493
Сертификаты, выданные на курсе «Разработка LLM с нуля»Сертификатов выдано 90
Отзывы о курсе «Разработка LLM с нуля»Отзывов получено 11
Рейтинг курса «Разработка LLM с нуля»Рейтинг курса 4.909
Уроки в курсе «Разработка LLM с нуля»Количество уроков 18
Задачи с кодом в курсе «Разработка LLM с нуля»Количество задач с кодом 44
Время прохождения курса «Разработка LLM с нуля»Время прохождения курса
Стоимость курса «Разработка LLM с нуля»Стоимость курса 4 900 ₽
Обновления курса «Разработка LLM с нуля»Обновления курса
Дата публикации курса «Разработка LLM с нуля»Дата публикации курса
Последнее обновление курса «Разработка LLM с нуля»Последнее обновление
Сложность normal

Содержание курса

Разделы в курсе «Разработка LLM с нуля» 6 разделов Уроки в курсе «Разработка LLM с нуля» 18 уроков Задачи в курсе «Разработка LLM с нуля» 44 задачи Время прохождения курса «Разработка LLM с нуля» 20 ч. Последнее обновление курса «Разработка LLM с нуля» обн. 2 августа 2026

Введение

3 урока
1. Инструкция
2. Что такое LLM?
3. Архитектура LLM

Токены и эмбединги

2 урока
1. Byte-Pair Encoding
2. Эмбединги

Transformer

3 урока
1. «‎Внимание»‎
2. Feed-Forward Network
3. Decoder

LLM

2 урока
1. Собираем GPT
2. Сэмплирование

Обучение

3 урока
1. Датасет
2. Train/Eval
3. Применение

Другие модели

5 уроков
1. GPT-2
2. LLama
3. Mistral
4. Mixtral
5. Gemma