AI Security — практикум по безопасности ИИ приложений ★ 5.000

Очень понравился курс! Тонна интерактива, прикольные иллюстрации очень оживляют курс и делают захватывающим. Курс, который отложится в голове не просто текстом, а эмоциями. Последнее задание - требует положить тренажеры. К моему завершению курса кому-то это удалось, поэтому задачи из 3 последних заданий невыполнимы. Хотел бы продолжить и добить все позиции. Спасибо!

Курс направлен на практическую отработку навыков защиты приложений с применением LLM (больших языковых моделей). В курсе детально разбираются как теоретические основы, так и основные методы обхода и манипуляций LLM. Данный курс будет полезен разработчикам, которые применяют LLM в своих разработках для определения уязвимостей агентов и дальнейшей защиты от возможных ошибок. При этом в курсе разбирается атака на приложение не только в виде чат-бота, но и, пусть упрощённые, но сервисы/агентные системы. Курс оказался крайне веселым**, поскольку** авторами были подготовлены небольшие системы для отработки навыков в среде с LLM, инструментами и встроенными системами защиты. К слабым сторонам курса я бы мог отнести малое количество практики по защите приложения. Значительная часть курса направлена именно на атаку на сервис. На защиту направлены где-то 5 уроков из порядка 27. Из этих 5 лишь в одном предлагается реализовать простейшую систему защиты. В остальных разбираются больше теории выявления уязвимостей. С одной стороны понятно, почему было так сделано (сложно придумать и интегрировать систему для защиты от атак), с другой авторы приложили усилия для создания среды для атаки на учебные сервисы в уроках. Странно это. Также кому-то может показаться, что в курсе много квизов, но мне кажется, что наоборот нужно как-то более детально закреплять теорию. В курсе же много вопросов на выбор из 4 вариантов. Исходя из вышесказанного, я считаю, что курс хорошо подойдет специалистам, которые разрабатывают ПО, в которое входит LLM для обеспечения безопасности пользователя и своего ПО.

Очень классный курс! Много задач с теорией, достаточной для их решения.

Уже проходил несколько курсов от этой команды - подача и качество, как всегда на уровне. Такой механики с задачами нигде на степике больше не встречал, очень понравилось ломать ботов. Большой плюс курса, что нет видеоуроков (не люблю курсы с видео). Не понравилось, местами слишком много степов с квизами.

Курс зашел. Вообще курс проходила просто для расширения кругозора. Присматриваюсь к другим направлениям для развития своей карьеры, и тема ИИ-агентов показалась интересной. Интересно было узнать про них не только с точки зрения возможности автоматизации бизнес процессов, но и с точки зрения безопасности. В целом прикольно то, что в курсе много интересных задач, над некоторыми из которых сидела долго. Да и в целом информация хорошо структурирована и подается дозировано. В курсе немного смущало, что местами он как-будто слишком практический. Как будто бы опускаются какие-то теоретические аспекты, которые используются в ред тим командах крупных компаний. И может прикольно было бы иметь ссылки на какие-то источники. А так, курс уже порекомендовала друзьям.

Отличный курс! на тему секьюрити ничего подобного не видел. За задачи отдельный респект, первые 3 модуля прошел на одном дыхании за несколько дней, дальше пришлось попотеть, но было прям интересно расшатать систему до конца. Реально такой практики по взломам сейчас нигде не получишь, есть только Гендальф на 8 заданий.Чувствую как прокачивался скилл с каждым уроком. Спасибо авторам за топ-контент!

очень большая работа была проделана авторами курса по систематизации способов атаки на LLM и решения, на их основе. Однако это не просто изложено в сухом виде, а опробовано в виде квизов (этим на степике никого не удивишь конечно) и тренажёра, где над заданиями нужно сидеть и думать. Тренажёр вообще хорошо задуман. Тут и игровая модель, и сценарии проверки, как будто сквозные, и даже визуальная составляющая располагает к желанию дальше проходить и решать. Но главный плюс - тренажёр находится в отладке, поэтому ребята его постоянно улучшают и, что крайне важно, дают оперативный отклик на появившуюся обратную связь от студентов. Если всё в таком духе продолжится и дальше, то перед нами будет продуманный продукт, который можно и вне степика использовать. курс такой, по-хорошему, рокенролльный, залихватский такой. вопрос, кто является конечной аудиторией курса. Для инженеров в области Deep Learning может вещи рассказаны довольно банальные (ну это не мне судить). С другой стороны, вся информация структурирована, что явный плюс. При этом есть определённый порог входа кмк. Т.е. в рамках тренажёра некоторые задачи можно канешна решать по наитию. Но, если стоит задача погрузиться в тему промпт-инъекций и джейлбрейков, то желательно понимать про веб-технологии, про модели языковые и про всю хайповую оболочку из агентов. сложно сказать, как полученные знания можно будет заиспользовать, если не являешься девсекопсером или мл-инженером, но лично себе пополнил багаж знаний. Из пожеланий - подтянуть информацию по уязвимостям и противодействию им к имеющимся классификациям, типа OWASP. Конечно всё интенсивно меняется, но если предположить, что студентам курса вдруг выпадет задача описывать модель угроз или иной подобный документ в рамках гостированных работ, то привязка к классификации будет подспорьем ощутимым. спасибо большое!