Курс на Stepik
Обложка курса «AI Threat Team: Безопасность AI-систем» на Stepik
Бесплатно

AI Threat Team: Безопасность AI-систем ★ 4.750

Открыть на
STEPIK.ORG

🎯 Практический курс по безопасности AI, LLM и AI-агентов. Вы разберёте реальные атаки на современные AI-системы: prompt injection, jailbreak, снятие alignment, data poisoning, MCP Tool Poisoning, агентные атаки и supply chain-риски. На курсе вы не только изучите OWASP Top 10 for LLM, MITRE ATLAS и NIST AI RMF, но и поймёте, почему AI-системы уязвимы по своей природе, как эти атаки выглядят на практике и как выстраивать защиту на уровне модели, данных, памяти, инструментов и всей архитектуры AI-продукта.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «AI Threat Team: Безопасность AI-систем»Учеников на курсе 829
Сертификаты, выданные на курсе «AI Threat Team: Безопасность AI-систем»Сертификатов выдано 0
Отзывы о курсе «AI Threat Team: Безопасность AI-систем»Отзывов получено 12
Рейтинг курса «AI Threat Team: Безопасность AI-систем»Рейтинг курса 4.750
Уроки в курсе «AI Threat Team: Безопасность AI-систем»Количество уроков 55
Тесты в курсе «AI Threat Team: Безопасность AI-систем»Количество квизов 160
Время прохождения курса «AI Threat Team: Безопасность AI-систем»Время прохождения курса —
Обновления курса «AI Threat Team: Безопасность AI-систем»Обновления курса — —
Дата публикации курса «AI Threat Team: Безопасность AI-систем»Дата публикации курса — ———
Последнее обновление курса «AI Threat Team: Безопасность AI-систем»Последнее обновление — ———
Сложность easy — ———

Содержание курса

Разделы в курсе «AI Threat Team: Безопасность AI-систем» 12 разделов Уроки в курсе «AI Threat Team: Безопасность AI-систем» 55 уроков Тесты в курсе «AI Threat Team: Безопасность AI-систем» 160 тестов Время прохождения курса «AI Threat Team: Безопасность AI-систем» 3 ч. Последнее обновление курса «AI Threat Team: Безопасность AI-систем» обн. 29 апреля 2026

🚀 AI уже ломают — ты просто этого не замечаешь

4 урока
1. 🧠 Чему я научусь на курсе? ↗
2. 💣 Как с помощью AI крадут миллиарды ↗
3. 🕵️ Авторы курса ↗
4. 💬 Глоссарий AI Security ↗

🌍 Ландшафт атак на ИИ

3 урока
1. 📊 OWASP Top 10 for LLMs ↗
2. 🧭 MITRE ATLAS ↗
3. 🏛️ NIST AI RMF ↗

💰 Как зарабатывать на AI Security: роли, зарплаты и вход

2 урока
1. 🔥 Рынок, роли и реальные деньги ↗
2. 📈 Мотивацию надо поднять! ↗

⚙️ ML-pipeline глазами атакующего

7 уроков
1. 🔐 Краткая база ИБ ↗
2. 📂 Данные: фундамент и первая точка атаки ↗
3. 🧪 Обучение: бэкдоры и reward hacking ↗
4. 🚚 Деплой: supply chain и RCE ↗
5. 💬 Inference: самые известные атаки ↗
6. 📡 Мониторинг: кто следит за моделью? ↗
7. 🗺️ 5 этапов pipeline = 5 поверхностей атаки ↗

📦 Модели и данные: форматы, артефакты и точки атаки

3 урока
1. 🤖 Типы ML через призму безопасности ↗
2. ☠️ Pickle: почему это опасно ↗
3. 🛡️ SafeTensors: архитектурное решение проблемы ↗

🧬 Анатомия уязвимости: как устроены LLM и куда можно атаковать

10 уроков
1. 🧠 От нейросетей к LLM: эволюция архитектуры и атак ↗
2. 🔤 Токенизация: как LLM «видит» текст ↗
3. 📍 Embeddings: текст как точка в пространстве ↗
4. 🎯 Attention: сердце трансформера и корень уязвимости ↗
5. 🧱 FFN, MoE и KV-cache: знания, маршрутизация и сессии ↗
6. 🎛️ Генерация: Temperature, Top-p и параметры безопасности ↗
7. 🪢 Alignment: как LLM делают «послушными» ↗
8. 🧭 Refusal Vector: alignment часто живёт в одном направлении ↗
9. 📚 RAG: новая поверхность атаки ↗
10. 🕸️ Полная архитектура LLM: каждый слой — мишень ↗

🤖 AI-агенты: появление, атаки и уязвимости

10 уроков
1. 🧩 Что такое AI-агенты ↗
2. 🏗️ Архитектура AI-агента: компоненты и поверхность атаки ↗
3. 🔌 MCP: Model Context Protocol — новый периметр ↗
4. 🧨 Классификация атак на AI-агентов ↗
5. ☣️ Tool Poisoning: атака №1 на MCP ↗
6. 🧠 Атаки на память AI-агента ↗
7. ⚠️ Excessive Agency: когда агент может слишком много ↗
8. ⛓️ Kill Chain атаки на AI-агента (MITRE ATLAS) ↗
9. 📈 AI-агенты в цифрах: масштаб угрозы ↗
10. 🛡️ Как защищать AI-агентов: принципы и практика ↗

🧪 Практика: Jailbreak атаки

4 урока
1. ⚙️ Настраиваем ollama ↗
2. 🔥 Тестирование Qwen3-1.7B на Jailbreak ↗
3. 🔥Тестирование Qwen3-8B на Jailbreak ↗
4. 📌 Выводы урока ↗

🧪 Практика: Aligment не панацея и легко обходится

5 уроков
1. 🧵Aligment - это тонкая пленка ↗
2. 🧭 Refusal Vector - Теория ↗
3. 📊 Насколько устойчив Aligment у Qwen3-1.7B? ↗
4. 🛠️ Снимаем Aligment ограничения с помощью Heretic ↗
5. 🛡️ Aligment - не панацая. Что делать? ↗

🧪Практика: взламываем LLM-агента и ищем уязвимости

2 урока
1. 🧠 Как устроены LLM-агенты и где у них слабые места ↗
2. 🕵️ Пентест LLM-агента на практике: находим реальные уязвимости ↗

🧪 Практика: аудит безопасности MCP-сервера

2 урока
1. 🔌 МСP сервер как стандарт для LLM агентов ↗
2. 🕵️ Пентест MCP-сервера на практике: находим слабые места ↗

🥇 Итоги курса

3 урока
1. 📈 Поздравляем с окончанием курса! ↗
2. 🎯 Главные выводы ↗
3. 🔥 Что дальше? ↗