Чему вы научитесь
- Расчёт стоимости запроса, ценовые уровни моделей, бюджеты и квоты
- Классификация запросов: правила, классификаторы на эмбеддингах и LLM-классификаторы
- Быстрые и медленные пути обработки, анализ p95, бюджет задержки по маршрутам
- Проектирование маршрутизации моделей и инструментов с учётом нескольких критериев
- Цепочки резервных моделей, политики повторов и плавная деградация на уровне слоя маршрутизации
- Пробный (canary) запуск новых моделей, A/B-маршрутизация и адаптивная настройка маршрутов
О курсе
Для кого этот курс
Начальные требования
- Опыт коммерческой разработки на Python
- Понимание async/await в Python и опыт работы с FastAPI
- Опыт работы с LLM API (OpenAI/Anthropic) и понимание токенизации
- Знание основ RAG и context engineering (рекомендуются Курсы 2 и 4)
- Базовое понимание метрик сервиса: перцентили задержек, error rate, throughput
Преподаватели курса
Как проходит обучение
Каждый модуль: история production-инцидента → архитектура → реализация
Практические задания в репозитории enterprise-ai-assistant
Failure-first подход: сначала показываем, как система горит без маршрутизации, потом как это чинить
Расчёты на реальных цифрах: стоимость, задержки, экономия
Формат курса
Что вы получите
- Модуль app/routing/ для enterprise-ai-assistant (git tag v5.0-routing)
- Калькулятор стоимости LLM-запросов и реестр моделей с ценовыми уровнями
- Классификатор запросов по intent и сложности
- Многокритериальный router с fallback-цепочками и деградированными режимами
- Набор метрик стоимости и задержек по маршрутам для production-мониторинга