Сколько стоит курс «🚩 AI Security - практикум по безопасности ИИ приложений»?

Курс «🚩 AI Security - практикум по безопасности ИИ приложений» доступен бесплатно.

Какой рейтинг у курса «🚩 AI Security - практикум по безопасности ИИ приложений»?

Курс имеет рейтинг 0.0 из 5 на основе 0 отзывов. На курсе обучается 10 учеников.

Где можно пройти курс «🚩 AI Security - практикум по безопасности ИИ приложений»?

Курс доступен на образовательной платформе Stepik по адресу stepik.org/course/225332.

🚩 AI Security - практикум по безопасности ИИ приложений — Курс на Stepik

Name: 🚩 AI Security - практикум по безопасности ИИ приложений
Availability: InStock
Rating: 0 (0 reviews)

Показатель	Текущие показатели	Рост
Учеников на курсе	10
Сертификатов выдано	0
Отзывов получено	0
Рейтинг курса	0.000
Количество уроков	13
Количество квизов	68
Обновления курса	—	—
Дата публикации курса	вчера	—	—	—	—
Последнее обновление	12 мая 2026	—	—	—	—
Сложность	easy	—	—	—	—

Чему вы научитесь

Находить уязвимости в LLM-приложениях через prompt injection - обход инструкций, извлечение системных промптов, манипуляция выводом.
Обходить safety-тренировку моделей через jailbreak-техники - role-play, encoding, payload splitting, multi-turn атаки.
Проводить indirect prompt injection - внедрять вредоносные инструкции через документы, веб-страницы и email.
Атаковать AI-агентов и RAG-системы - подмена инструментов, отравление баз знаний, манипуляция цепочками вызовов.
Оценивать эффективность атак - метрики ASR, LLM-as-judge.
Проектировать защиту - hardening системных промптов, guardrails, input/output фильтрация.
Комбинировать техники - строить композитные атаки, которые не ловятся одиночными фильтрами.

О курсе

Курс - СTF-чемпионат - по защите ИИ-приложений. Короткая теория -> Атака -> Разбор -> Защита Чтобы понять как и от чего защищать, надо сначала попытаться сломать ИИ приложение, чему и будет посвящена основная часть курса. Независимо от того где и как вы создаёте свое приложение: без кода - с n8n, вайбкодингом или пишите весь код руками - курс подойдёт для любой аудитории.

Для кого этот курс

Курс подойдёт тем, кто хочет разбираться в безопасности AI-систем на практике, а не по слайдам. Не нужно быть программистом - достаточно уметь думать как атакующий, а интуицию и насмотренность будем прокачивать в течение курса. — Специалисты по информационной безопасности, которые хотят понять новый класс угроз, связанных с LLM. — Продакт-менеджеры и разработчики AI-продуктов, которые хотят делать свои системы устойчивее к атакам. — QA и тестировщики, которые хотят добавить adversarial testing в свой арсенал. — Все, кто активно пользуется ChatGPT, Claude и другими LLM и хочет понимать, как они ломаются. — Студенты и исследователи в области AI safety и alignment, которые хотят быстро погрузиться в новую область.

Начальные требования

Базовое понимание, что такое LLM (большая языковая модель) - на уровне «знаю, что это нейросеть, которая генерирует текст».

Опыт использования любой LLM (ChatGPT, Claude, Gemini и т.п.) - нужно понимать, что такое промпт и как устроен диалог с моделью.

Код писать не нужно. Вообще. Все задания решаются через чат, формы и загрузку файлов.

Знание английского на уровне чтения технических терминов или использования онлайн-переводчика - часть атак и техник используют англоязычные промпты.

Преподаватели курса

Герман Кочнев

ML engineer, Software engineer, Researcher at AI Security Lab ITMO

1 курс

11

→

Иван Александров

Data Scientist. Researcher in AI Security Lab ITMO. ML-teamlead. Kaggle expert.

★ 5.0

4 курса

3 188

→

Как проходит обучение

Курс состоит из модулей, каждый посвящён отдельному классу атак. Внутри модуля - теория, квизы и CTF-задания.

Теория — короткие блоки с объяснением техники и реальными примерами. Без воды и академизма, только то, что нужно для следующего задания.

CTF-задания - интерактивные упражнения с автоматической проверкой. Тебе дают бота с защитой - ломай его. Сложность от 1 до 10: от простого «ignore previous instructions» до композитных атак из 5+ техник. Есть система подсказок, они открываются после нескольких неудачных попыток.

Квизы - проверка понимания теории. Разбор типичных ошибок и edge cases.

Defense-блоки — в некоторых модулях ты переключаешься на сторону защитника. Проектируешь системные промпты и guardrails, а потом проверяешь, выдержат ли они атаку.

Кода нет. Терминала нет. Все задания решаются прямо в браузере.

Что вы получите

Практические навыки red teaming LLM-приложений - востребованная специализация в AI Security.
Понимание таксономии атак на LLM - prompt injection, jailbreaks, indirect injection, agent attacks.
Опыт проектирования защиты: hardening промптов, guardrails, input/output фильтрация.
Умение оценивать безопасность AI-продуктов - как своих, так и сторонних.
Насмотренность и интуиция в области безопасности ИИ-приложений.

Нагрузка

4-5 часов в неделю

Расскажите о курсе друзьям

Прямая ссылка на курс: stepik.org/225332

🚩 AI Security - практикум по безопасности ИИ приложений ★ 0.000