AI Security — практикум по безопасности ИИ приложений ★ 4.867

Хороший курс, узнал много нового о способах атак на LLM и обходе их защиты. Особенно понравился формат CTF и большое количество практики. Некоторые задания заставили хорошо подумать. Из минусов - на момент прохождения курса (август 2026) было много AI контента, который иногда содержал ошибки и был противоречив, из за этого иногда было сложно понять задания

Классный курс! Проходил для расширения кругозора, не пожалел и считаю, что его необходимо пройти каждому человеку, что бы не "попасть в просак" доверившись ИИ (а он сейчас даже в выдаче поисковика). Крутая реализация в "игровой" форме. Из минусов хотелось бы пожелать добавить больше теории и "воды". Очень много вставлено слов и терминов на английском, что очень затрудняет чтение и понимание.

Авторы курса проделали масштабную работу по выстраиванию инфраструктуры для курса и нагенерили много креатива в заданиях. На этом фоне довольно обидно, что "обучающая" часть работы как будто просела. На мой взгляд, в курсе скудная теория, а практические занятия, в привычном понимании, отсутствуют. Хотя в отзывах пишут, что много практики, но "набить руку" на такой практике едва ли получится. В качестве заданий даются CTF с не очень понятным описанием, а подсказки дублируют тезисы из описания. Курс мне порекомендовал коллега для "старта". Но теперь, когда я уже немного погрузился в тематику, я бы не стал рекомендовать этот курс в текущем виде (на ноябрь 2026), а поискал бы для старта что-то на английском на популярных тематических площадках. Что бы я исправил в курсе? Начал бы с вычитки текста задач и сделал бы содержательные подсказки, которые дают практический совет. Потом добавил бы больше примеров/практических заданий с пошаговым описанием. PS Раз уж спросили про курсы. У меня в закладках этот курс: https://www.hackaprompt.com/learn. Пока ничего не могу сказать про него, т.к. не смотрел.

Хороший курс! Много практики - большой жирный плюс :) Так же здорово что есть карты-выжимки по разделам. Спасибо авторам!

Курс очень крутой! Огромное спасибо авторам за проделанную работу! Было много интересных заданий, и особенно понравилось решать CTF, а над некоторыми пришлось хорошо подумать и поискать решения :) Курс очень вдохновил меня, и теперь хочется дальше развиваться в направлении безопасности ИИ!

После прохождения курса научился исследовать безопасность агентов, узнал какие слабые места бывают у них и как это обнаружить. Понравилось то что курс интерактивный, задания интересные и что приходится включаться по полной чтобы решить их. Некоторые задания кажутся простыми, ты вроде их сделал, но логика автора курса была чуть другой, чем у тебя. Поэтому приходиться повозиться. Выбрал этот курс потому что тема очень актуальная на данный момент и открывает большие перспективы.

Хорошая база для начала работы редтимером, рекомендовал множеству знакомых как войти в тему редтиминга ИИ агентов. Ну а на эту основу можно нарастить мяса из CTF и только на практике ковыряя ИИ агентов

После прохождения курса я глубже погрузился в механизмы уязвимостей AI систем, понял отличие от классических веб уязвимостей. Понравилось, что на курсе много практики, сложные интересные задания. Смело рекомендую всем кто интересуется данной темой.

Очень понравился курс! Тонна интерактива, прикольные иллюстрации очень оживляют курс и делают захватывающим. Курс, который отложится в голове не просто текстом, а эмоциями. Последнее задание - требует положить тренажеры. К моему завершению курса кому-то это удалось, поэтому задачи из 3 последних заданий невыполнимы. Хотел бы продолжить и добить все позиции. Спасибо!

Курс направлен на практическую отработку навыков защиты приложений с применением LLM (больших языковых моделей). В курсе детально разбираются как теоретические основы, так и основные методы обхода и манипуляций LLM. Данный курс будет полезен разработчикам, которые применяют LLM в своих разработках для определения уязвимостей агентов и дальнейшей защиты от возможных ошибок. При этом в курсе разбирается атака на приложение не только в виде чат-бота, но и, пусть упрощённые, но сервисы/агентные системы. Курс оказался крайне веселым**, поскольку** авторами были подготовлены небольшие системы для отработки навыков в среде с LLM, инструментами и встроенными системами защиты. К слабым сторонам курса я бы мог отнести малое количество практики по защите приложения. Значительная часть курса направлена именно на атаку на сервис. На защиту направлены где-то 5 уроков из порядка 27. Из этих 5 лишь в одном предлагается реализовать простейшую систему защиты. В остальных разбираются больше теории выявления уязвимостей. С одной стороны понятно, почему было так сделано (сложно придумать и интегрировать систему для защиты от атак), с другой авторы приложили усилия для создания среды для атаки на учебные сервисы в уроках. Странно это. Также кому-то может показаться, что в курсе много квизов, но мне кажется, что наоборот нужно как-то более детально закреплять теорию. В курсе же много вопросов на выбор из 4 вариантов. Исходя из вышесказанного, я считаю, что курс хорошо подойдет специалистам, которые разрабатывают ПО, в которое входит LLM для обеспечения безопасности пользователя и своего ПО.