Курс на Stepik
Обложка курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse» на Stepik
12 990 ₽

LLM Security PRO: Prompt Injection, утечки, tool-abuse ★ 5.000

Открыть на
STEPIK.ORG

Практический курс по LLM Security. Запустите локальный RAG/агента на реальном LLM (OpenAI API) и укрепите прод: защита от prompt/indirect injection, утечек и tool-abuse, строгий JSON-вывод (Schema/Pydantic), redaction и лимиты стоимости/циклов. Плюс профессиональные блоки: OWASP LLM Top-10, threat modeling, red-team suite и security-gates в CI/CD.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Учеников на курсе 15
Сертификаты, выданные на курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Сертификатов выдано 0
Отзывы о курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Отзывов получено 1
Рейтинг курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Рейтинг курса 5.000
Уроки в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество уроков 31
Тесты в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество квизов 16
Задачи с кодом в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество задач с кодом 4
Стоимость курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Стоимость курса 12 990 ₽ —
Обновления курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Обновления курса — —
Дата публикации курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Дата публикации курса — ———
Последнее обновление курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Последнее обновление — ———
Сложность easy — ———

Содержание курса

Разделы в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 12 разделов Уроки в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 31 урок Тесты в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 16 тестов Задачи в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 4 задачи Последнее обновление курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse» обн. 13 марта 2026

1. Старт

2 урока
Закрытый
1.1 Введение в курс ↗
5
3
-
0
Закрытый
1.2 Демо: как агент может ошибиться ↗
4
3
-
0

2. Модель угроз для LLM-приложений

3 урока
Закрытый
2.1 Активы и поверхности атаки ↗
4
2
-
0
Закрытый
2.2 Приоритизация: что чинить первым ↗
4
2
-
0
Закрытый
2.3 Политики и “контракт безопасности” ↗
4
3
-
0

3. Direct Prompt Injection

3 урока
Закрытый
3.1 Почему промпт не является защитой ↗
4
0
-
0
Закрытый
3.2 Фикс №1: разделение инструкций и данных ↗
3
0
-
0
Закрытый
3.3 Фикс №2: policy layer вне LLM ↗
3
0
-
0

4. Indirect Injection через RAG (самый жир)

3 урока
Закрытый
4.1 Почему документы опасны ↗
3
0
-
0
Закрытый
4.2 Фиксы для RAG-контекста ↗
3
0
-
0
Закрытый
4.3 Grounding, цитирование и provenance как защита ↗
3
0
-
0

5. Heavy-Hitters и Top-K на потоках

1 урок
Открытый
5.1 Heap+hash и резервуарная выборка ↗
1
0
-
0

6. Tools security (excessive agency)

3 урока
Закрытый
6.1 Почему tools опаснее текста ↗
1
1
-
0
Закрытый
6.2 Allowlist и валидация параметров инструментов ↗
1
1
-
0
Закрытый
6.3 Scopes и approvals ↗
1
1
-
0

7. Insecure Output Handling

3 урока
Закрытый
7.1 Почему нельзя доверять JSON/SQL/URL от модели ↗
1
1
-
0
Закрытый
7.2 Строгий структурированный вывод ↗
1
1
-
0
Закрытый
7.3 Санитайзеры и запрет “склейки строк” ↗
1
1
-
0

8. Внедрение, регламенты и итоговая система агентов

3 урока
Закрытый
8.1 Как встроить агентов в рабочий день маркетолога ↗
1
1
-
0
Закрытый
8.2 Оценка эффекта от внедрения ↗
0
0
-
0
Закрытый
8.3 Безопасность и ответственность ↗
1
1
-
0

9. Leakage: секреты, ПДн, корпоративные данные

3 урока
Закрытый
9.1 Что такое утечка в LLM-системах ↗
1
1
-
0
Закрытый
9.2 Redaction и политика логов ↗
0
0
-
0
Закрытый
9.3 Минимизация данных и “privacy by design” ↗
1
1
-
0

10. Cost-DoS, циклы, надёжность как security

3 урока
Закрытый
10.1 Как “кладут” LLM-приложения по бюджету ↗
1
1
-
0
Закрытый
10.2 Лимиты и stop conditions ↗
1
1
-
0
Закрытый
10.3 Rate limit, quotas, circuit breaker ↗
1
1
-
0

11. Security testing, релизные гейты и РФ-чеклист

3 урока
Закрытый
11.1 Red-team suite: как тестировать безопасность LLM-приложения ↗
1
1
-
0
Закрытый
11.2 Security gate в CI/CD ↗
1
1
-
0
Закрытый
11.3 РФ-модуль “по минимуму”: что помнить, чтобы не встрять ↗
1
1
-
0

12. Финальный проект

1 урок
Закрытый
12.1 Защищаем LLM-агента ↗
1
1
-
0