Курс на Stepik
Обложка курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» на Stepik
890 ₽

LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем ★ 0.000

Открыть на
STEPIK.ORG

Освойте полный цикл создания промышленных LLM-систем за 2–3 месяца. Научитесь проектировать RAG-пайплайны, оптимизировать инференс (vLLM, квантизация), версионировать промпты и конфиги, строить CI/CD с quality gates на основе RAGAS. Настроите мониторинг в Grafana, управление затратами (FinOps) и защиту от Prompt Injection. Соберете AI-агентов на LangGraph с вызовом внешних инструментов.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Учеников на курсе 25
Сертификаты, выданные на курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Сертификатов выдано 0
Отзывы о курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Отзывов получено 0
Рейтинг курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Рейтинг курса 0.000
Уроки в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Количество уроков 81
Тесты в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Количество квизов 32
Время прохождения курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Время прохождения курса —
Стоимость курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Стоимость курса 890 ₽ —
Обновления курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Обновления курса — —
Дата публикации курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Дата публикации курса — ———
Последнее обновление курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем»Последнее обновление — ———
Сложность normal — ———

Содержание курса

Разделы в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 13 разделов Уроки в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 81 урок Тесты в курсе «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 32 теста Время прохождения курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» 0 ч. Последнее обновление курса «LLMOps: жизненный цикл, инфраструктура и эксплуатация LLM-систем» обн. 31 августа 2026

Введение

2 урока
1. О курсе ↗
2. Диагностический тест: готовы ли вы к курсу? ↗

Жизненный цикл LLM и выбор стратегии

5 уроков
1. Отличие LLMOps от MLOps и DevOps ↗
2. Этапы жизненного цикла LLM-приложения ↗
3. Бизнес-кейсы: RAG vs Fine-Tuning vs API ↗
4. Открытые vs проприетарные модели: как выбрать модель под задачу ↗
5. Тест по модулю ↗

Инфраструктура и вычислительные ресурсы

8 уроков
1. CPU vs GPU vs TPU: что выбрать для LLM ↗
2. Управление памятью GPU: FP16, INT8, KV-кэш ↗
3. Сравнение инференс-движков: vLLM, TGI, TensorRT-LLM, Ollama ↗
4. Контейнеризация: Docker для LLM-сервисов ↗
5. Оркестрация: Kubernetes для масштабирования ↗
6. Облачные платформы: AWS, GCP, Azure — что дешевле ↗
7. Serverless vs Dedicated GPUs ↗
8. Тест по модулю ↗

Управление данными, промптами и конфигами

7 уроков
1. Версионирование промптов: почему это критично ↗
2. Prompt Registry: хранилище промптов ↗
3. Шаблонизация промптов и A/B-тестирование ↗
4. Управление датасетами: DVC (Data Version Control) ↗
5. Model Registry: MLflow, Weights & Biases ↗
6. Hydra/OmegaConf: управление конфигами ↗
7. Тест по модулю ↗

Разработка и тестирование LLM-приложений

7 уроков
1. Промпт-инжиниринг на продакшн-уровне ↗
2. Структурированный вывод: Pydantic, JSON Schema ↗
3. Юнит-тесты для LLM-компонентов ↗
4. Интеграционное тестирование с моками API ↗
5. CI/CD для LLM: GitHub Actions ↗
6. Canary-релизы и Blue-Green деплой ↗
7. Тест по модулю ↗

RAG в продакшне

10 уроков
1. Архитектура RAG-сервиса ↗
2. Chunking: стратегии нарезки документов ↗
3. Гибридный поиск: BM25 + Dense эмбеддинги ↗
4. Продвинутые стратегии: HyDE, Multi-Query, RAPTOR ↗
5. Переранжирование (Cross-Encoders, Cohere Rerank) ↗
6. Векторные БД: Qdrant, Milvus, Pinecone, FAISS ↗
7. Индексы, шардирование и репликация ↗
8. Асинхронная индексация с CDC (Debezium + Kafka) ↗
9. Семантическое кэширование (Redis + эмбеддинги) ↗
10. Тест по модулю ↗

Evaluation и Quality Gates

7 уроков
1. Метрики качества: Faithfulness, Answer Relevancy ↗
2. Context Precision и Recall: что это и как считать ↗
3. Фреймворки: RAGAS, DeepEval, Phoenix ↗
4. LLM-as-a-Judge: как использовать GPT-4 для оценки ↗
5. Golden Dataset: создание эталонных ответов ↗
6. Автоматические Quality Gates в CI/CD ↗
7. Тест по модулю ↗

Мониторинг и наблюдаемость

8 уроков
1. Что мониторить в LLM-системах ↗
2. Метрики: TTFT, latency, стоимость токенов ↗
3. Инструменты наблюдаемости: LangSmith, Langfuse, Arize ↗
4. Трассировка запросов: OpenTelemetry + Jaeger ↗
5. Детекция дрифта: Data Drift и Performance Drift ↗
6. Настройка алертов в Grafana ↗
7. Бизнес-метрики: DAU, retention, conversion ↗
8. Тест по модулю ↗

Оптимизация производительности и стоимости

9 уроков
1. Квантизация: INT8, FP16, GPTQ, AWQ, GGUF ↗
2. Batching и KV-кэширование ↗
3. Speculative Decoding: ускорение инференса ↗
4. Model Routing: дешевая модель для простых запросов ↗
5. Semantic Caching: экономия до 70% затрат ↗
6. Мониторинг стоимости API и облачных ресурсов ↗
7. Расчет TCO: как прогнозировать бюджет ↗
8. Горизонтальное масштабирование и auto-scaling ↗
9. Тест по модулю ↗

AI-Агенты и мультиагентные системы

7 уроков
1. От RAG к агентам: архитектура ReAct ↗
2. LangGraph: графовые агенты с памятью ↗
3. Состояние, память (Memory) и Checkpointing ↗
4. Инструменты (Tools): подключение API, БД, веб-скрапинг ↗
5. Безопасность инструментов: песочница ↗
6. Отказоустойчивость: retry, fallback, Saga pattern ↗
7. Тест по модулю ↗

Безопасность и управление рисками

9 уроков
1. OWASP Top 10 для LLM ↗
2. Prompt Injection и Jailbreak: защита ↗
3. Валидация ввода и санитизация ↗
4. PII-санитизация и DLP (Data Loss Prevention) ↗
5. Гардлы для вывода: NeMo Guardrails, Guardrails AI ↗
6. Конституциональный AI и RLHF ↗
7. Red Teaming: тестирование на взлом ↗
8. Compliance: GDPR, HIPAA, SOC2 ↗
9. Тест по модулю ↗

Итоговый проект

1 урок
1. Требования к проекту ↗

Заключение

1 урок
1. Конец курса ↗