Курс на Stepik
Обложка курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM» на Stepik
Бесплатно

Маршрутизация в AI системах: стоимость, задержки и выбор LLM ★ 0.000

Открыть на
STEPIK.ORG

Routing AI-системы: от классификации запросов и выбора модели до управления стоимостью, задержками и сбоями провайдеров. Курс начинается с инцидента «GPT-4 на всё → $40k в месяц» и заканчивается routing-системой, которая экономит сотни тысяч долларов в год без потери качества. Семь модулей: зачем нужен routing, инженерия стоимости, оптимизация стоимости, инженерия задержек, routing-системы, обработка сбоев и продвинутый routing. Каждый модуль строит слой `app/routing/` нашей enterprise-AI-системы.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Учеников на курсе 4
Сертификаты, выданные на курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Сертификатов выдано 0
Отзывы о курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Отзывов получено 0
Рейтинг курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Рейтинг курса 0.000
Уроки в курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Количество уроков 28
Тесты в курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Количество квизов 140
Обновления курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Обновления курса — —
Дата публикации курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Дата публикации курса — ———
Последнее обновление курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM»Последнее обновление — ———

Содержание курса

Разделы в курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM» 7 разделов Уроки в курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM» 28 уроков Тесты в курсе «Маршрутизация в AI системах: стоимость, задержки и выбор LLM» 140 тестов Последнее обновление курса «Маршрутизация в AI системах: стоимость, задержки и выбор LLM» обн. 21 ноября 2026

Зачем нужен routing

4 урока
1. GPT-4 на всё: как одна модель сожгла $40k в месяц ↗
2. Реальность распределения трафика: большинство запросов простые ↗
3. Взрыв задержек: тяжёлая модель на каждом пути ↗
4. Коллапс системы без routing-слоя ↗

Инженерия стоимости LLM-запросов

4 урока
1. Модель стоимости токенов: input, output, cached ↗
2. Анатомия стоимости запроса: из чего складывается чек ↗
3. Ценовые уровни моделей и провайдеров ↗
4. Нелинейный рост стоимости ↗

Оптимизация стоимости через routing

4 урока
1. Простое против сложного: первый router на двух моделях ↗
2. Как routing снижает стоимость на 60–90% ↗
3. Классификация нагрузки: intent и сложность запроса ↗
4. Системы оптимизации стоимости: бюджеты, квоты и контроль ↗

Инженерия задержек

4 урока
1. Быстрые и медленные пути обработки ↗
2. p95 и хвостовые задержки: почему среднее врёт ↗
3. Деградация UX: как задержка убивает продукт ↗
4. Сценарии коллапса задержек ↗

Routing-системы

4 урока
1. Tool routing: выбор инструмента под запрос ↗
2. Model routing: выбор модели под запрос ↗
3. Гибридный routing: правила, классификатор и LLM ↗
4. Многокритериальный routing: качество, стоимость, задержка ↗

Обработка сбоев в routing

4 урока
1. Fallback-модели: что делать, когда основная модель недоступна ↗
2. Retry в routing-слое: повторить или переключиться ↗
3. Деградированные режимы работы ↗
4. Каскадные сбои через routing-слой ↗

Продвинутый routing

4 урока
1. Адаптивный routing: обучение на обратной связи ↗
2. Вероятностный routing: A/B, canary и exploration ↗
3. Динамический routing: реакция на состояние системы ↗
4. Финальный проект: спроектируй production routing-слой ↗