Курс на Stepik
Обложка курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse» на Stepik
12 990 ₽

LLM Security PRO: Prompt Injection, утечки, tool-abuse ★ 5.000

Открыть на
STEPIK.ORG

Практический курс по LLM Security. Запустите локальный RAG/агента на реальном LLM (OpenAI API) и укрепите прод: защита от prompt/indirect injection, утечек и tool-abuse, строгий JSON-вывод (Schema/Pydantic), redaction и лимиты стоимости/циклов. Плюс профессиональные блоки: OWASP LLM Top-10, threat modeling, red-team suite и security-gates в CI/CD.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Учеников на курсе 15
Сертификаты, выданные на курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Сертификатов выдано 0
Отзывы о курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Отзывов получено 1
Рейтинг курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Рейтинг курса 5.000
Уроки в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество уроков 31
Тесты в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество квизов 16
Задачи с кодом в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Количество задач с кодом 4
Стоимость курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Стоимость курса 12 990 ₽ —
Обновления курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Обновления курса — —
Дата публикации курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Дата публикации курса — ———
Последнее обновление курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse»Последнее обновление — ———
Сложность easy — ———

Содержание курса

Разделы в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 12 разделов Уроки в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 31 урок Тесты в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 16 тестов Задачи в курсе «LLM Security PRO: Prompt Injection, утечки, tool-abuse» 4 задачи Последнее обновление курса «LLM Security PRO: Prompt Injection, утечки, tool-abuse» обн. 13 марта 2026

Старт

2 урока
1. Введение в курс ↗
2. Демо: как агент может ошибиться ↗

Модель угроз для LLM-приложений

3 урока
1. Активы и поверхности атаки ↗
2. Приоритизация: что чинить первым ↗
3. Политики и “контракт безопасности” ↗

Direct Prompt Injection

3 урока
1. Почему промпт не является защитой ↗
2. Фикс №1: разделение инструкций и данных ↗
3. Фикс №2: policy layer вне LLM ↗

Indirect Injection через RAG (самый жир)

3 урока
1. Почему документы опасны ↗
2. Фиксы для RAG-контекста ↗
3. Grounding, цитирование и provenance как защита ↗

Heavy-Hitters и Top-K на потоках

1 урок
1. Heap+hash и резервуарная выборка ↗

Tools security (excessive agency)

3 урока
1. Почему tools опаснее текста ↗
2. Allowlist и валидация параметров инструментов ↗
3. Scopes и approvals ↗

Insecure Output Handling

3 урока
1. Почему нельзя доверять JSON/SQL/URL от модели ↗
2. Строгий структурированный вывод ↗
3. Санитайзеры и запрет “склейки строк” ↗

Внедрение, регламенты и итоговая система агентов

3 урока
1. Как встроить агентов в рабочий день маркетолога ↗
2. Оценка эффекта от внедрения ↗
3. Безопасность и ответственность ↗

Leakage: секреты, ПДн, корпоративные данные

3 урока
1. Что такое утечка в LLM-системах ↗
2. Redaction и политика логов ↗
3. Минимизация данных и “privacy by design” ↗

Cost-DoS, циклы, надёжность как security

3 урока
1. Как “кладут” LLM-приложения по бюджету ↗
2. Лимиты и stop conditions ↗
3. Rate limit, quotas, circuit breaker ↗

Security testing, релизные гейты и РФ-чеклист

3 урока
1. Red-team suite: как тестировать безопасность LLM-приложения ↗
2. Security gate в CI/CD ↗
3. РФ-модуль “по минимуму”: что помнить, чтобы не встрять ↗

Финальный проект

1 урок
1. Защищаем LLM-агента ↗