Курс на Stepik
Обложка курса «AI Threat Team: Безопасность AI-систем» на Stepik
Бесплатно

AI Threat Team: Безопасность AI-систем 4.909

Открыть на
STEPIK.ORG

🎯 Практический курс по безопасности AI, LLM и AI-агентов. Вы разберёте реальные атаки на современные AI-системы: prompt injection, jailbreak, снятие alignment, data poisoning, MCP Tool Poisoning, агентные атаки и supply chain-риски. На курсе вы не только изучите OWASP Top 10 for LLM, MITRE ATLAS и NIST AI RMF, но и поймёте, почему AI-системы уязвимы по своей природе, как эти атаки выглядят на практике и как выстраивать защиту на уровне модели, данных, памяти, инструментов и всей архитектуры AI-продукта.

Показатель Текущие показатели Рост
Значение 🏆 Рейтинг 3 дн 7 дн 30 дн
Количество учеников на курсе «AI Threat Team: Безопасность AI-систем»Учеников на курсе 629
Сертификаты, выданные на курсе «AI Threat Team: Безопасность AI-систем»Сертификатов выдано 0
Отзывы о курсе «AI Threat Team: Безопасность AI-систем»Отзывов получено 11
Рейтинг курса «AI Threat Team: Безопасность AI-систем»Рейтинг курса 4.909
Уроки в курсе «AI Threat Team: Безопасность AI-систем»Количество уроков 55
Тесты в курсе «AI Threat Team: Безопасность AI-систем»Количество квизов 160
Время прохождения курса «AI Threat Team: Безопасность AI-систем»Время прохождения курса
Обновления курса «AI Threat Team: Безопасность AI-систем»Обновления курса
Дата публикации курса «AI Threat Team: Безопасность AI-систем»Дата публикации курса
Последнее обновление курса «AI Threat Team: Безопасность AI-систем»Последнее обновление
Сложность easy
4.909
из 5
11 отзывов
★★★★★
10
★★★★
1
★★★
0
★★
0
0
Irina Ford
Irina Ford
3 недели назад

Курс - просто супер! Спасибо за материал и особенно за практику! Видео записи лучше делать с небольшими overlaps, потому что слова часто разрезаются посередине. Но в целом это не умаляет достоинств курса.

Natalia Kondratova
Natalia Kondratova
2 месяца назад

Добрый день. Понравился курс. Смотрела с точки зрения получения новой профессии по LLM. Поняла, что для того, чтобы что-то предотвращать нужно хорошо разбирать в сути создания и модификации LLM, нужны глубокие знания математики, Python, понимание трендов развития, очень динамично создаются инструменты новой функциональности, а также по их защите. Параллельно с созданием инструментов по ИИ агентам развивается направление по взломам/атакам/мошенничеству, которые зарабатывают на новых технологиях альтернативным способом. При разработке и сопровождении ИИ агентов нужно работать с инструментом с нескольких позиций: выгоды клиента, выгоды компании и выгоды "взломщиков". Понравился первый спикер, очень динамичный, легко подает сложную инфо, даже при условии, что говорит на своем "птичьем языке". Чтобы работать в безопасности, то полезно развивать навык мышления "взломщика", перенимать их ход мыслей и логику. Курс выбирала по критериям поиска "безопасность ИИ", бесплатно, понятно для человека с поверхностным знанием LLM.

User 1242492221
User 1242492221
2 месяца назад

Классный курс! Но концовка просто оставляет желать лучшего (спикер очень уж грустно рассказывает).

Вячеслав Доскач
Вячеслав Доскач
2 месяца назад

Хороший обзорный курс, который позволяет перенять термины из предметной области и узнать современные тенденции в данной области.

Дмитрий Хмельников
Дмитрий Хмельников
3 месяца назад

Отличный курс для понимания базовых проблем llm, в то же время очень много (по моему мнению) сложных терминов со сложными названиями, в то время как их суть предельно проста и можно было бы для еще лучшего понимания обойтись без англоязычных сложных терминов, заменив их "сутью" на русском языке..

Александр
Александр
3 месяца назад

Прекрасный курс, всем рекомендую. Есть что можно использовать на практике. Мне оказался очень полезен в части не только автоматизации задач с помощью ai - агентов, но и безопасной их эксплуатации. Отдельно понравилась практическая часть и ссылка на стандарты, которые тоже нужно применять.

Anonymous 1256695612
Anonymous 1256695612
3 месяца назад

Курс классный, очень информативно. Понравился упор на практику, актуальные кейсы и достаточное количество практики.