Курс на Stepik
Обложка курса «LLM для Python-разработчиков: для продвинутых» на Stepik
3 990₽ -50%
--:--:--
1 995 ₽

LLM для Python-разработчиков: для продвинутых ★ 0.000

Открыть на
STEPIK.ORG

Продолжение курса «LLM для Python-разработчиков: от RAG до агентов». Как довести LLM-сервис до продакшена: vLLM и Ollama Cloud, мультимодальный RAG, оценка качества, мониторинг, безопасность и стоимость запросов.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLM для Python-разработчиков: для продвинутых»Учеников на курсе 16
Сертификаты, выданные на курсе «LLM для Python-разработчиков: для продвинутых»Сертификатов выдано 1
Отзывы о курсе «LLM для Python-разработчиков: для продвинутых»Отзывов получено 0
Рейтинг курса «LLM для Python-разработчиков: для продвинутых»Рейтинг курса 0.000
Уроки в курсе «LLM для Python-разработчиков: для продвинутых»Количество уроков 68
Тесты в курсе «LLM для Python-разработчиков: для продвинутых»Количество квизов 519
Задачи с кодом в курсе «LLM для Python-разработчиков: для продвинутых»Количество задач с кодом 100
Стоимость курса «LLM для Python-разработчиков: для продвинутых»Стоимость курса 3 990 ₽ —
Обновления курса «LLM для Python-разработчиков: для продвинутых»Обновления курса — —
Дата публикации курса «LLM для Python-разработчиков: для продвинутых»Дата публикации курса — ———
Последнее обновление курса «LLM для Python-разработчиков: для продвинутых»Последнее обновление — ———
Сложность normal — ———

Содержание курса

Разделы в курсе «LLM для Python-разработчиков: для продвинутых» 13 разделов Уроки в курсе «LLM для Python-разработчиков: для продвинутых» 68 уроков Тесты в курсе «LLM для Python-разработчиков: для продвинутых» 519 тестов Задачи в курсе «LLM для Python-разработчиков: для продвинутых» 100 задач Последнее обновление курса «LLM для Python-разработчиков: для продвинутых» обн. 1 ноября 2026

Введение

1 урок
1. О курсе ↗

Инференс в продакшене: vLLM и облачные модели

8 уроков
1. Ollama и vLLM: чем отличаются ↗
2. Как устроен vLLM: пакетная обработка и кэш внимания ↗
3. Запуск vLLM на CPU ↗
4. Облачная модель через OpenAI-совместимый API ↗
5. Лимиты контекста, параллельные запросы и повторные попытки ↗
6. Потоковая генерация и замеры задержки и токенов ↗
7. Единый клиент инференса и FastAPI-сервис ↗
8. Закрепление материала ↗

Управление контекстом в длинных диалогах и RAG

5 уроков
1. Контекстное окно как ограниченный ресурс ↗
2. Как собрать промпт: найденные фрагменты, история и вложения ↗
3. Сжатие истории и иерархический контекст ↗
4. Проблема «потери середины» и когда выгоднее RAG ↗
5. Закрепление материала ↗

Продвинутый RAG: архитектуры следующего уровня

6 уроков
1. Понимание запроса: переформулировка и маршрутизация ↗
2. Поиск в Qdrant: родительские и дочерние чанки ↗
3. Агентный RAG: поиск, проверка и повторный поиск ↗
4. Граф знаний поверх документов ↗
5. Web-search и цитирование источников ↗
6. Закрепление материала ↗

Мультимодальный RAG: документы, изображения и схемы

7 уроков
1. Зачем нужна мультимодальность: PDF, скриншоты, схемы и таблицы ↗
2. Два подхода: описание картинки или мультимодальные эмбеддинги ↗
3. Загрузка документов: разметка страницы, OCR и таблицы ↗
4. Индекс в Qdrant: тип содержимого в метаданных ↗
5. Поиск по тексту и изображению ↗
6. Ответ с vision-моделью в Ollama ↗
7. Закрепление материала ↗

Структурированный вывод и контракты с кодом

4 урока
1. JSON-схема и ограниченная генерация на стороне инференса ↗
2. Валидация через Pydantic и повтор при ошибке формата ↗
3. Извлечение сущностей из документов, таблиц и сканов ↗
4. Закрепление материала ↗

Оценка качества LLM-систем

6 уроков
1. Эталонные кейсы, достоверность и релевантность ↗
2. Метрики качества поиска и ответа ↗
3. Оценка мультимодальных ответов: опора на слайд или рисунок ↗
4. LLM-as-a-Judge: когда ошибается и как стабилизировать ↗
5. Регрессионные тесты пайплайна в CI через pytest ↗
6. Закрепление материала ↗

Мониторинг и трассировка инференса

4 урока
1. Phoenix: Трейс пайплайна ↗
2. Метрики инференса: очередь, задержка, токены и лимиты free tier ↗
3. Версионирование модели, промпта, индекса и чанкера ↗
4. Алерты по квотам, задержке и деградации качества ↗

Безопасность LLM-систем в продакшене

7 уроков
1. Карта угроз OWASP для LLM-приложений ↗
2. Инъекции в промпт: прямые и косвенные через RAG ↗
3. Утечки: системный промпт и документы других клиентов ↗
4. Персональные данные и 152-ФЗ: обнаружение и маскирование ↗
5. Отравленный индекс и опасные действия модели ↗
6. Модель угроз и чек-лист red team ↗
7. Закрепление материала ↗

Производительность, масштабирование и стоимость

7 уроков
1. Планирование нагрузки: от пользователей к RPS и нагрузочный тест ↗
2. Очереди, приоритеты и ограничение параллельных запросов ↗
3. Кэш эмбеддингов, ответов и префикса промпта: когда это безопасно ↗
4. Стоимость запроса: маршрутизация и каскад моделей ↗
5. Резервный бэкенд и деградация при исчерпании квоты ↗
6. Когда нужен GPU: расчёт памяти и квантизация (обзор) ↗
7. Закрепление материала ↗

Финальный проект: ассистент инженера

9 уроков
1. Архитектура и требования ↗
2. Окружение и база данных ↗
3. Загрузка документов и индекс ↗
4. Поиск и ответ ↗
5. Карточка инцидента ↗
6. Безопасность ↗
7. Оценка и CI ↗
8. Мониторинг ↗
9. Нагрузочное тестирование и приёмка в рамках квот ↗

Глоссарий и закрепление по всему курсу

3 урока
1. Глоссарий курса ↗
2. Тесты ↗
3. Задачи ↗

Заключение

1 урок
1. Заключение ↗