Чему вы научитесь
- Проектировать архитектуру LLM-приложений и выбирать модель (open-source vs proprietary) с экономическим обоснованием
- Строить продакшн-READY RAG-пайплайны: гибридный поиск, переранжирование, семантическое кэширование и асинхронная индексация
- Настраивать CI/CD для LLM с автоматическими quality gates на основе метрик RAGAS (Faithfulness, Answer Relevancy)
- Оптимизировать инференс: квантизация (INT8/FP16), vLLM, KV-кэширование, speculative decoding — снижение задержек и затрат
- Разрабатывать AI-агентов на LangGraph с памятью, вызовом внешних инструментов (API, БД, веб-скрапинг) и обработкой ошибок
- Настраивать наблюдаемость: трассировка запросов, дашборды в Grafana, алерты на деградацию качества и превышение бюджета
- Внедрять безопасность: защита от Prompt Injection и Jailbreak, PII-санитизация, гардлы для фильтрации вывода
- Управлять затратами: FinOps-дашборд, маршрутизация запросов (model routing), прогнозирование TCO
- Версионировать промпты, датасеты и конфиги как код (Git + DVC + MLflow)
О курсе
Освойте полный цикл создания промышленных LLM-систем за 2–3 месяца. Научитесь проектировать RAG-пайплайны, оптимизировать инференс (vLLM, квантизация), версионировать промпты и конфиги, строить CI/CD с quality gates на основе RAGAS. Настроите мониторинг в Grafana, управление затратами (FinOps) и защиту от Prompt Injection. Соберете AI-агентов на LangGraph с вызовом внешних инструментов.
Для кого этот курс
— ML-инженеры — освоите продакшн-практики: CI/CD для моделей, мониторинг, масштабирование и оптимизацию инференса
— Backend-разработчики — научитесь интегрировать LLM в существующие системы, проектировать API и работать с асинхронными пайплайнами
— DevOps / Platform-инженеры — поймете, как разворачивать и обслуживать LLM-инфраструктуру в облаке и on-premise
— Data Scientists — выйдете за рамки Jupyter-ноутбуков и научитесь доводить модели до продакшена
— AI-разработчики / Prompt-инженеры — освоите инженерный подход к управлению промптами, версионированию и автоматическому тестированию
Начальные требования
-
Уверенный Python: классы, декораторы, асинхронность (asyncio/aiohttp), работа с файлами, обработка исключений, написание чистого и читаемого кода. Вы должны чувствовать себя комфортно, открывая любой Python-проект и разбираясь в нем.
-
API и форматы данных: опыт работы с REST API, JSON, YAML. Понимание HTTP (методы, статусы, заголовки).
-
Docker: базовый уровень — умение собирать образы, запускать контейнеры, читать docker-compose.yml.
Преподаватели курса
108
Что вы получите
- Полное понимание жизненного цикла LLM-приложений: от идеи до эксплуатации
- Умение проектировать и оптимизировать RAG-пайплайны для продакшн-нагрузок
- Навык разработки AI-агентов на LangGraph с вызовом внешних инструментов
- Практика настройки CI/CD с автоматическими quality gates на основе метрик RAGAS
- Навыки оптимизации затрат (FinOps) и управления бюджетом AI-систем
- Умение внедрять безопасность: защита от инъекций, PII-санитизация, гардлы
Нагрузка
4-5 часов в неделю