Курс на Stepik
Обложка курса «LLM Testing: тестирование AI-приложений и агентов» на Stepik
3 990 ₽

LLM Testing: тестирование AI-приложений и агентов ★ 0.000

Открыть на
STEPIK.ORG

Курс по автоматизированному тестированию LLM-приложений для QA и Python-разработчиков. Вы создадите на Python и pytest собственный набор проверок для Service Desk AI: факты и ссылки на источники, действия агентов, права доступа, безопасность и регрессии. Подключите тесты к CI и в итоговой работе обоснуете решение о выпуске по результатам сравнения версий. Практические задания проверяет преподаватель, поддержка — в комментариях.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLM Testing: тестирование AI-приложений и агентов»Учеников на курсе 0
Сертификаты, выданные на курсе «LLM Testing: тестирование AI-приложений и агентов»Сертификатов выдано 0
Отзывы о курсе «LLM Testing: тестирование AI-приложений и агентов»Отзывов получено 0
Рейтинг курса «LLM Testing: тестирование AI-приложений и агентов»Рейтинг курса 0.000
Уроки в курсе «LLM Testing: тестирование AI-приложений и агентов»Количество уроков 43
Тесты в курсе «LLM Testing: тестирование AI-приложений и агентов»Количество квизов 40
Задачи с кодом в курсе «LLM Testing: тестирование AI-приложений и агентов»Количество задач с кодом 39
Время прохождения курса «LLM Testing: тестирование AI-приложений и агентов»Время прохождения курса —
Стоимость курса «LLM Testing: тестирование AI-приложений и агентов»Стоимость курса 3 990 ₽ —
Обновления курса «LLM Testing: тестирование AI-приложений и агентов»Обновления курса — —
Дата публикации курса «LLM Testing: тестирование AI-приложений и агентов»Дата публикации курса — ———
Последнее обновление курса «LLM Testing: тестирование AI-приложений и агентов»Последнее обновление — ———
Сложность normal — ———

Содержание курса

Разделы в курсе «LLM Testing: тестирование AI-приложений и агентов» 11 разделов Уроки в курсе «LLM Testing: тестирование AI-приложений и агентов» 43 урока Тесты в курсе «LLM Testing: тестирование AI-приложений и агентов» 40 тестов Задачи в курсе «LLM Testing: тестирование AI-приложений и агентов» 39 задач Время прохождения курса «LLM Testing: тестирование AI-приложений и агентов» 1 ч. Последнее обновление курса «LLM Testing: тестирование AI-приложений и агентов» обн. 4 ноября 2026

Начало работы

6 уроков
1. Знакомство с XNova ↗
2. Знакомство с курсом и итоговой задачей ↗
3. Как сдавать практические задания ↗
4. Получаем доступ к учебному проекту ↗
5. Отправляем GitHub-профиль ↗
6. Создаём приватный форк ↗

Тестируемое AI-приложение

3 урока
1. Запускаем Service Desk AI ↗
2. Разбираем путь ответа и вызовов инструментов ↗
3. Составляем карту рисков и первую проверку ↗

Архитектура автотестов на Python

4 урока
1. Пишем типизированный API-клиент ↗
2. Изолируем состояние через pytest-фикстуры ↗
3. Параметризуем сценарии без копирования тестов ↗
4. Пишем проверки и сохраняем доказательства ↗

Эталонные наборы данных

4 урока
1. Описываем контракт golden case ↗
2. Подбираем позитивные, негативные и пограничные кейсы ↗
3. Проверяем изменения формулировок и метаморфные свойства ↗
4. Версионируем разметку и защищаем контрольный набор ↗

Проверка ответов и достоверности

4 урока
1. Валидируем структурированный ответ ↗
2. Проверяем утверждения по исходным документам ↗
3. Проверяем цитаты и обоснованный отказ ↗
4. Оцениваем смысл без сравнения строк ↗

Тестирование инструментов и поведения агента

4 урока
1. Проверяем контракт и аргументы инструмента ↗
2. Проверяем последовательность вызовов ↗
3. Проверяем права и изменения состояния ↗
4. Проверяем итог задачи агента ↗

Prompt injection и безопасность

4 урока
1. Тестируем прямые попытки подменить инструкции ↗
2. Тестируем инструкции внутри документов ↗
3. Тестируем подмену результата инструмента ↗
4. Проверяем разграничение доступа и утечки ↗

Метрики и надёжность оценивания

3 урока
1. Вычисляем метрики по категориям ошибок ↗
2. Проверяем повторяемость и нестабильность ↗
3. Калибруем LLM-судью на разметке ↗

Трассировки, надёжность и стоимость

4 урока
1. Читаем трассировку от запроса до результата ↗
2. Проверяем таймауты, ошибки и повторы ↗
3. Считаем токены и стоимость прогона ↗
4. Проверяем лимиты времени, вызовов и бюджета ↗

Регрессии и CI-гейты

4 урока
1. Сравниваем baseline и candidate ↗
2. Проверяем чувствительность тестов на дефектах ↗
3. Разделяем проверку кода, модели и решение о выпуске ↗
4. Настраиваем проверяемое решение о выпуске ↗

Итоговое исследование регрессии

3 урока
1. Получаем незнакомый кандидат релиза ↗
2. Находим и доказываем регрессии ↗
3. Готовим решение о выпуске ↗