Курс на Stepik
Обложка курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» на Stepik
890 ₽

LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем 0.000

Открыть на
STEPIK.ORG

Освойте полный цикл создания промышленных LLM-систем за 2–3 месяца. Научитесь проектировать RAG-пайплайны, оптимизировать инференс (vLLM, квантизация), версионировать промпты и конфиги, строить CI/CD с quality gates на основе RAGAS. Настроите мониторинг в Grafana, управление затратами (FinOps) и защиту от Prompt Injection. Соберете AI-агентов на LangGraph с вызовом внешних инструментов.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Учеников на курсе 22
Сертификаты, выданные на курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Сертификатов выдано 0
Отзывы о курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Отзывов получено 0
Рейтинг курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Рейтинг курса 0.000
Уроки в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Количество уроков 81
Тесты в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Количество квизов 32
Стоимость курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Стоимость курса 890 ₽
Обновления курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Обновления курса
Дата публикации курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Дата публикации курса
Последнее обновление курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Последнее обновление
Сложность normal

Содержание курса

Разделы в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 13 разделов Уроки в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 81 урок Тесты в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 32 теста Последнее обновление курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» обн. 28 августа 2026

Введение

2 урока
1. О курсе
2. Диагностический тест: готовы ли вы к курсу?

Жизненный цикл LLM и выбор стратегии

5 уроков
1. Отличие LLMOps от MLOps и DevOps
2. Этапы жизненного цикла LLM-приложения
3. Бизнес-кейсы: RAG vs Fine-Tuning vs API
4. Открытые vs проприетарные модели: как выбрать модель под задачу
5. Тест по модулю

Инфраструктура и вычислительные ресурсы

8 уроков
1. CPU vs GPU vs TPU: что выбрать для LLM
2. Управление памятью GPU: FP16, INT8, KV-кэш
3. Сравнение инференс-движков: vLLM, TGI, TensorRT-LLM, Ollama
4. Контейнеризация: Docker для LLM-сервисов
5. Оркестрация: Kubernetes для масштабирования
6. Облачные платформы: AWS, GCP, Azure — что дешевле
7. Serverless vs Dedicated GPUs
8. Тест по модулю

Управление данными, промптами и конфигами

7 уроков
1. Версионирование промптов: почему это критично
2. Prompt Registry: хранилище промптов
3. Шаблонизация промптов и A/B-тестирование
4. Управление датасетами: DVC (Data Version Control)
5. Model Registry: MLflow, Weights & Biases
6. Hydra/OmegaConf: управление конфигами
7. Тест по модулю

Разработка и тестирование LLM-приложений

7 уроков
1. Промпт-инжиниринг на продакшн-уровне
2. Структурированный вывод: Pydantic, JSON Schema
3. Юнит-тесты для LLM-компонентов
4. Интеграционное тестирование с моками API
5. CI/CD для LLM: GitHub Actions
6. Canary-релизы и Blue-Green деплой
7. Тест по модулю

RAG в продакшне

10 уроков
1. Архитектура RAG-сервиса
2. Chunking: стратегии нарезки документов
3. Гибридный поиск: BM25 + Dense эмбеддинги
4. Продвинутые стратегии: HyDE, Multi-Query, RAPTOR
5. Переранжирование (Cross-Encoders, Cohere Rerank)
6. Векторные БД: Qdrant, Milvus, Pinecone, FAISS
7. Индексы, шардирование и репликация
8. Асинхронная индексация с CDC (Debezium + Kafka)
9. Семантическое кэширование (Redis + эмбеддинги)
10. Тест по модулю

Evaluation и Quality Gates

7 уроков
1. Метрики качества: Faithfulness, Answer Relevancy
2. Context Precision и Recall: что это и как считать
3. Фреймворки: RAGAS, DeepEval, Phoenix
4. LLM-as-a-Judge: как использовать GPT-4 для оценки
5. Golden Dataset: создание эталонных ответов
6. Автоматические Quality Gates в CI/CD
7. Тест по модулю

Мониторинг и наблюдаемость

8 уроков
1. Что мониторить в LLM-системах
2. Метрики: TTFT, latency, стоимость токенов
3. Инструменты наблюдаемости: LangSmith, Langfuse, Arize
4. Трассировка запросов: OpenTelemetry + Jaeger
5. Детекция дрифта: Data Drift и Performance Drift
6. Настройка алертов в Grafana
7. Бизнес-метрики: DAU, retention, conversion
8. Тест по модулю

Оптимизация производительности и стоимости

9 уроков
1. Квантизация: INT8, FP16, GPTQ, AWQ, GGUF
2. Batching и KV-кэширование
3. Speculative Decoding: ускорение инференса
4. Model Routing: дешевая модель для простых запросов
5. Semantic Caching: экономия до 70% затрат
6. Мониторинг стоимости API и облачных ресурсов
7. Расчет TCO: как прогнозировать бюджет
8. Горизонтальное масштабирование и auto-scaling
9. Тест по модулю

AI-Агенты и мультиагентные системы

7 уроков
1. От RAG к агентам: архитектура ReAct
2. LangGraph: графовые агенты с памятью
3. Состояние, память (Memory) и Checkpointing
4. Инструменты (Tools): подключение API, БД, веб-скрапинг
5. Безопасность инструментов: песочница
6. Отказоустойчивость: retry, fallback, Saga pattern
7. Тест по модулю

Безопасность и управление рисками

9 уроков
1. OWASP Top 10 для LLM
2. Prompt Injection и Jailbreak: защита
3. Валидация ввода и санитизация
4. PII-санитизация и DLP (Data Loss Prevention)
5. Гардлы для вывода: NeMo Guardrails, Guardrails AI
6. Конституциональный AI и RLHF
7. Red Teaming: тестирование на взлом
8. Compliance: GDPR, HIPAA, SOC2
9. Тест по модулю

Итоговый проект

1 урок
1. Требования к проекту

Заключение

1 урок
1. Конец курса