Курс на Stepik
Обложка курса «AI Threat Team: Безопасность AI-систем» на Stepik
Бесплатно

AI Threat Team: Безопасность AI-систем ★ 4.889

Открыть на
STEPIK.ORG

🎯 Практический курс по безопасности AI, LLM и AI-агентов. Вы разберёте реальные атаки на современные AI-системы: prompt injection, jailbreak, снятие alignment, data poisoning, MCP Tool Poisoning, агентные атаки и supply chain-риски. На курсе вы не только изучите OWASP Top 10 for LLM, MITRE ATLAS и NIST AI RMF, но и поймёте, почему AI-системы уязвимы по своей природе, как эти атаки выглядят на практике и как выстраивать защиту на уровне модели, данных, памяти, инструментов и всей архитектуры AI-продукта.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «AI Threat Team: Безопасность AI-систем»Учеников на курсе 490
Сертификаты, выданные на курсе «AI Threat Team: Безопасность AI-систем»Сертификатов выдано 0
Отзывы о курсе «AI Threat Team: Безопасность AI-систем»Отзывов получено 9
Рейтинг курса «AI Threat Team: Безопасность AI-систем»Рейтинг курса 4.889
Уроки в курсе «AI Threat Team: Безопасность AI-систем»Количество уроков 55
Тесты в курсе «AI Threat Team: Безопасность AI-систем»Количество квизов 160
Время прохождения курса «AI Threat Team: Безопасность AI-систем»Время прохождения курса —
Обновления курса «AI Threat Team: Безопасность AI-систем»Обновления курса — —
Дата публикации курса «AI Threat Team: Безопасность AI-систем»Дата публикации курса — ———
Последнее обновление курса «AI Threat Team: Безопасность AI-систем»Последнее обновление — ———
Сложность easy — ———

Содержание курса

Разделы в курсе «AI Threat Team: Безопасность AI-систем» 12 разделов Уроки в курсе «AI Threat Team: Безопасность AI-систем» 55 уроков Тесты в курсе «AI Threat Team: Безопасность AI-систем» 160 тестов Время прохождения курса «AI Threat Team: Безопасность AI-систем» 3 ч. Последнее обновление курса «AI Threat Team: Безопасность AI-систем» обн. 29 апреля 2026

1. 🚀 AI уже ломают — ты просто этого не замечаешь

4 урока
Закрытый
1.1 🧠 Чему я научусь на курсе? ↗
326
326
2м 52с
0
Закрытый
1.2 💣 Как с помощью AI крадут миллиарды ↗
159
67
7м 57с
0
Закрытый
1.3 🕵️ Авторы курса ↗
96
96
1м 6с
0
Закрытый
1.4 💬 Глоссарий AI Security ↗
86
86
3м 14с
0

2. 🌍 Ландшафт атак на ИИ

3 урока
Закрытый
2.1 📊 OWASP Top 10 for LLMs ↗
85
47
8м 17с
0
Закрытый
2.2 🧭 MITRE ATLAS ↗
67
38
4м 14с
0
Закрытый
2.3 🏛️ NIST AI RMF ↗
59
38
3м 50с
0

3. 💰 Как зарабатывать на AI Security: роли, зарплаты и вход

2 урока
Закрытый
3.1 🔥 Рынок, роли и реальные деньги ↗
55
38
2м 57с
0
Закрытый
3.2 📈 Мотивацию надо поднять! ↗
49
31
3м 20с
0

4. ⚙️ ML-pipeline глазами атакующего

7 уроков
Закрытый
4.1 🔐 Краткая база ИБ ↗
53
33
4м 54с
0
Закрытый
4.2 📂 Данные: фундамент и первая точка атаки ↗
44
27
3м 59с
0
Закрытый
4.3 🧪 Обучение: бэкдоры и reward hacking ↗
38
27
3м 16с
0
Закрытый
4.4 🚚 Деплой: supply chain и RCE ↗
38
21
4м 36с
0
Закрытый
4.5 💬 Inference: самые известные атаки ↗
32
23
3м 50с
0
Закрытый
4.6 📡 Мониторинг: кто следит за моделью? ↗
29
23
2м 43с
0
Закрытый
4.7 🗺️ 5 этапов pipeline = 5 поверхностей атаки ↗
29
22
2м 10с
0

5. 📦 Модели и данные: форматы, артефакты и точки атаки

3 урока
Закрытый
5.1 🤖 Типы ML через призму безопасности ↗
30
20
5м 18с
0
Закрытый
5.2 ☠️ Pickle: почему это опасно ↗
30
20
2м 28с
0
Закрытый
5.3 🛡️ SafeTensors: архитектурное решение проблемы ↗
24
18
3м 41с
0

6. 🧬 Анатомия уязвимости: как устроены LLM и куда можно атаковать

10 уроков
Закрытый
6.1 🧠 От нейросетей к LLM: эволюция архитектуры и атак ↗
24
18
3м 44с
0
Закрытый
6.2 🔤 Токенизация: как LLM «видит» текст ↗
25
17
4м 43с
0
Закрытый
6.3 📍 Embeddings: текст как точка в пространстве ↗
24
18
3м 56с
0
Закрытый
6.4 🎯 Attention: сердце трансформера и корень уязвимости ↗
23
18
3м 38с
0
Закрытый
6.5 🧱 FFN, MoE и KV-cache: знания, маршрутизация и сессии ↗
21
17
3м 29с
0
Закрытый
6.6 🎛️ Генерация: Temperature, Top-p и параметры безопасности ↗
21
17
3м 38с
0
Закрытый
6.7 🪢 Alignment: как LLM делают «послушными» ↗
24
16
3м 15с
0
Закрытый
6.8 🧭 Refusal Vector: alignment часто живёт в одном направлении ↗
22
17
2м 23с
0
Закрытый
6.9 📚 RAG: новая поверхность атаки ↗
22
18
3м 1с
0
Закрытый
6.10 🕸️ Полная архитектура LLM: каждый слой — мишень ↗
21
18
2м 6с
0

7. 🤖 AI-агенты: появление, атаки и уязвимости

10 уроков
Закрытый
7.1 🧩 Что такое AI-агенты ↗
24
18
4м 8с
0
Закрытый
7.2 🏗️ Архитектура AI-агента: компоненты и поверхность атаки ↗
20
16
2м 13с
0
Закрытый
7.3 🔌 MCP: Model Context Protocol — новый периметр ↗
20
17
2м 19с
0
Закрытый
7.4 🧨 Классификация атак на AI-агентов ↗
22
17
2м 23с
0
Закрытый
7.5 ☣️ Tool Poisoning: атака №1 на MCP ↗
21
16
4м 16с
0
Закрытый
7.6 🧠 Атаки на память AI-агента ↗
20
17
3м 55с
0
Закрытый
7.7 ⚠️ Excessive Agency: когда агент может слишком много ↗
20
16
2м 9с
0
Закрытый
7.8 ⛓️ Kill Chain атаки на AI-агента (MITRE ATLAS) ↗
20
16
2м 57с
0
Закрытый
7.9 📈 AI-агенты в цифрах: масштаб угрозы ↗
21
17
1м 44с
0
Закрытый
7.10 🛡️ Как защищать AI-агентов: принципы и практика ↗
23
18
4м 7с
0

8. 🧪 Практика: Jailbreak атаки

4 урока
Закрытый
8.1 ⚙️ Настраиваем ollama ↗
25
15
2м 55с
0
Закрытый
8.2 🔥 Тестирование Qwen3-1.7B на Jailbreak ↗
24
24
9м 39с
0
Закрытый
8.3 🔥Тестирование Qwen3-8B на Jailbreak ↗
19
19
3м 12с
0
Закрытый
8.4 📌 Выводы урока ↗
20
20
2м 33с
0

9. 🧪 Практика: Aligment не панацея и легко обходится

5 уроков
Закрытый
9.1 🧵Aligment - это тонкая пленка ↗
21
21
2м 5с
0
Закрытый
9.2 🧭 Refusal Vector - Теория ↗
19
19
9м 25с
0
Закрытый
9.3 📊 Насколько устойчив Aligment у Qwen3-1.7B? ↗
17
17
1м 17с
0
Закрытый
9.4 🛠️ Снимаем Aligment ограничения с помощью Heretic ↗
19
19
5м 14с
0
Закрытый
9.5 🛡️ Aligment - не панацая. Что делать? ↗
15
15
2м 55с
0

10. 🧪Практика: взламываем LLM-агента и ищем уязвимости

2 урока
Закрытый
10.1 🧠 Как устроены LLM-агенты и где у них слабые места ↗
23
23
10м 9с
0
Закрытый
10.2 🕵️ Пентест LLM-агента на практике: находим реальные уязвимости ↗
21
21
11м 43с
0

11. 🧪 Практика: аудит безопасности MCP-сервера

2 урока
Закрытый
11.1 🔌 МСP сервер как стандарт для LLM агентов ↗
18
18
3м 22с
0
Закрытый
11.2 🕵️ Пентест MCP-сервера на практике: находим слабые места ↗
17
17
6м 44с
0

12. 🥇 Итоги курса

3 урока
Закрытый
12.1 📈 Поздравляем с окончанием курса! ↗
18
18
2м 26с
0
Закрытый
12.2 🎯 Главные выводы ↗
16
16
4м 30с
0
Закрытый
12.3 🔥 Что дальше? ↗
22
22
2м 49с
0