HackTheBox AI Red Teamer Path

Что представляет собой AI Red Teamer Path

В 2025 году HTB совместно с Google (по заявлению самих HackTheBox) создали этот курс из 12 модулей (на момент написания поста), охватывающий разные аспекты безопасности ИИ-систем. По материалам заметно, что при разработке они ориентировались на Google Secure AI Framework (SAIF) и, честно скажу, получилось у них очень даже неплохо.

Теоретическая часть

Авторы разделяют AI-системы на четыре компонента: данные, модель, приложение и система. На каждый из этих компонентов возможны различные атаки, и многие из этих атак рассматриваются в рамках AI Red Teamer Path.

Отдельное внимание уделено одной из самых популярных на данный момент тем — атакам на агентные системы, их инструменты и, в частности, на протокол MCP. По моему мнению, в 2026 году мы будем повсеместно видеть появление новых продуктов, использующих функциональность агентов.

Также большим блоком представлены атаки типа AI Evasion — это вид атак, когда стараемся обмануть классификаторы путем изменения входных данных (текста или изображений). Большую актуальность данной темы вижу для сферы автономного транспорта, где используют распознавание изображений в реальном времени и права на ошибку нет.

Стоит упомянуть и блок AI Privacy, посвященный подходам к обеспечению конфиденциальности данных, которые используются для обучения модели. Интересно будет изучить, как рассмотренные подходы используются в продакшене, потому что они либо требуют дополнительных затрат, либо сильно жертвуют точностью самой модели.

Главным вопросом по мере прохождения данного пути оставался: атаковать AI, конечно, хорошо, но как же защищаться? В последнем модуле AI Defense были наглядно продемонстрированы такие подходы: LLM guardrails, adversarial training и adversarial tuning. Тем не менее, ни один из них не обеспечивает полноценной защиты, а покрывает лишь небольшой спектр уже известных атак.  

Практика

В каждом из модулей (где это возможно) подготовлена программная реализация как самой ИИ-системы, так и атаки на эту систему. При этом код, написанный авторами, подробно разбирается, что позволяет лучше понять теорию и сразу закрепить ее на практике:

▸ Например, в одном из модулей предлагается реализовать классификаторы изображений (весь материал заточен под программирование на Python), а затем обмануть их с помощью уже известных атак

▸ В другом — необходимо проэксплуатировать типовые уязвимости в агентных системах

▸ Разумеется, не обошлось и без части, посвященной различным вариантам prompt-инъекций

Минусы (куда ж без них)

По прохождению курса я выделил следующие недостатки:

▸ Нужно понимание основных терминов, связанных с ИИ-системами. Хоть авторы модулей и пытаются подробно все рассказать, но для первого знакомства все равно может быть тяжеловато (первый модуль вообще является обзором на существующие технологии с большим количеством терминов)

▸ Как следствие предыдущего пункта — желательно обладать математическим аппаратом на уровне студента университета

▸ Практическая эксплуатация агентных систем нередко сводится к очень простой типовой уязвимости (XSS, SQLi или command injection)

▸ Разные модули написаны разными авторами, поэтому сложность текстов и практики может меняться от модуля к модулю, а также часть информации может повторяться

Заключение

Остался под приятным впечатлением после полного изучения всей теории и прохождения практических задач в HackTheBox AI Red Teamer Path. Смело рекомендую всем тем, кто хотел погрузиться в безопасность ИИ, но не знал, с чего начать. И полагаю, что будут некоторые новые мысли даже для тех, кто уже активно занимается AI Security.

P.S.: мнение про саму платформу HTB Academy

Удобство и актуальность

HTB Academy выделяется среди прочих обучающих платформ по следующим причинам:

▸ Цена студенческой подписки всего 7 евро в месяц (позволяет пройти любое количество путей за этот месяц)

▸ Выделенная машина с Kali для решения задач из внутренней сети (можно решать как с нее, так и использовать OpenVPN-конфиг на своей машине)

▸ Поддержка оперативно отвечает и старается помочь с любой проблемой

▸ Авторы стараются поддерживать модули в актуальном состоянии. Пока я проходил данный путь, в нем появилось еще два новых модуля

▸ Для некоторых путей существует возможность купить попытку экзамена, чтобы получить сертификат (CPTS, CAPE и другие), который подытожит результаты обучения