Курс на Stepik
Обложка курса «AI Threat Team: Безопасность AI-систем» на Stepik
Бесплатно

AI Threat Team: Безопасность AI-систем 4.750

Открыть на
STEPIK.ORG

🎯 Практический курс по безопасности AI, LLM и AI-агентов. Вы разберёте реальные атаки на современные AI-системы: prompt injection, jailbreak, снятие alignment, data poisoning, MCP Tool Poisoning, агентные атаки и supply chain-риски. На курсе вы не только изучите OWASP Top 10 for LLM, MITRE ATLAS и NIST AI RMF, но и поймёте, почему AI-системы уязвимы по своей природе, как эти атаки выглядят на практике и как выстраивать защиту на уровне модели, данных, памяти, инструментов и всей архитектуры AI-продукта.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «AI Threat Team: Безопасность AI-систем»Учеников на курсе 750
Сертификаты, выданные на курсе «AI Threat Team: Безопасность AI-систем»Сертификатов выдано 0
Отзывы о курсе «AI Threat Team: Безопасность AI-систем»Отзывов получено 12
Рейтинг курса «AI Threat Team: Безопасность AI-систем»Рейтинг курса 4.750
Уроки в курсе «AI Threat Team: Безопасность AI-систем»Количество уроков 55
Тесты в курсе «AI Threat Team: Безопасность AI-систем»Количество квизов 160
Время прохождения курса «AI Threat Team: Безопасность AI-систем»Время прохождения курса
Обновления курса «AI Threat Team: Безопасность AI-систем»Обновления курса
Дата публикации курса «AI Threat Team: Безопасность AI-систем»Дата публикации курса
Последнее обновление курса «AI Threat Team: Безопасность AI-систем»Последнее обновление
Сложность easy

Содержание курса

Разделы в курсе «AI Threat Team: Безопасность AI-систем» 12 разделов Уроки в курсе «AI Threat Team: Безопасность AI-систем» 55 уроков Тесты в курсе «AI Threat Team: Безопасность AI-систем» 160 тестов Время прохождения курса «AI Threat Team: Безопасность AI-систем» 3 ч. Последнее обновление курса «AI Threat Team: Безопасность AI-систем» обн. 29 апреля 2026

🚀 AI уже ломают — ты просто этого не замечаешь

4 урока
1. 🧠 Чему я научусь на курсе?
2. 💣 Как с помощью AI крадут миллиарды
3. 🕵️ Авторы курса
4. 💬 Глоссарий AI Security

🌍 Ландшафт атак на ИИ

3 урока
1. 📊 OWASP Top 10 for LLMs
2. 🧭 MITRE ATLAS
3. 🏛️ NIST AI RMF

💰 Как зарабатывать на AI Security: роли, зарплаты и вход

2 урока
1. 🔥 Рынок, роли и реальные деньги
2. 📈 Мотивацию надо поднять!

⚙️ ML-pipeline глазами атакующего

7 уроков
1. 🔐 Краткая база ИБ
2. 📂 Данные: фундамент и первая точка атаки
3. 🧪 Обучение: бэкдоры и reward hacking
4. 🚚 Деплой: supply chain и RCE
5. 💬 Inference: самые известные атаки
6. 📡 Мониторинг: кто следит за моделью?
7. 🗺️ 5 этапов pipeline = 5 поверхностей атаки

📦 Модели и данные: форматы, артефакты и точки атаки

3 урока
1. 🤖 Типы ML через призму безопасности
2. ☠️ Pickle: почему это опасно
3. 🛡️ SafeTensors: архитектурное решение проблемы

🧬 Анатомия уязвимости: как устроены LLM и куда можно атаковать

10 уроков
1. 🧠 От нейросетей к LLM: эволюция архитектуры и атак
2. 🔤 Токенизация: как LLM «видит» текст
3. 📍 Embeddings: текст как точка в пространстве
4. 🎯 Attention: сердце трансформера и корень уязвимости
5. 🧱 FFN, MoE и KV-cache: знания, маршрутизация и сессии
6. 🎛️ Генерация: Temperature, Top-p и параметры безопасности
7. 🪢 Alignment: как LLM делают «послушными»
8. 🧭 Refusal Vector: alignment часто живёт в одном направлении
9. 📚 RAG: новая поверхность атаки
10. 🕸️ Полная архитектура LLM: каждый слой — мишень

🤖 AI-агенты: появление, атаки и уязвимости

10 уроков
1. 🧩 Что такое AI-агенты
2. 🏗️ Архитектура AI-агента: компоненты и поверхность атаки
3. 🔌 MCP: Model Context Protocol — новый периметр
4. 🧨 Классификация атак на AI-агентов
5. ☣️ Tool Poisoning: атака №1 на MCP
6. 🧠 Атаки на память AI-агента
7. ⚠️ Excessive Agency: когда агент может слишком много
8. ⛓️ Kill Chain атаки на AI-агента (MITRE ATLAS)
9. 📈 AI-агенты в цифрах: масштаб угрозы
10. 🛡️ Как защищать AI-агентов: принципы и практика

🧪 Практика: Jailbreak атаки

4 урока
1. ⚙️ Настраиваем ollama
2. 🔥 Тестирование Qwen3-1.7B на Jailbreak
3. 🔥Тестирование Qwen3-8B на Jailbreak
4. 📌 Выводы урока

🧪 Практика: Aligment не панацея и легко обходится

5 уроков
1. 🧵Aligment - это тонкая пленка
2. 🧭 Refusal Vector - Теория
3. 📊 Насколько устойчив Aligment у Qwen3-1.7B?
4. 🛠️ Снимаем Aligment ограничения с помощью Heretic
5. 🛡️ Aligment - не панацая. Что делать?

🧪Практика: взламываем LLM-агента и ищем уязвимости

2 урока
1. 🧠 Как устроены LLM-агенты и где у них слабые места
2. 🕵️ Пентест LLM-агента на практике: находим реальные уязвимости

🧪 Практика: аудит безопасности MCP-сервера

2 урока
1. 🔌 МСP сервер как стандарт для LLM агентов
2. 🕵️ Пентест MCP-сервера на практике: находим слабые места

🥇 Итоги курса

3 урока
1. 📈 Поздравляем с окончанием курса!
2. 🎯 Главные выводы
3. 🔥 Что дальше?