The cybersecurity provider’s next opportunity: Making AI safer
@dmitrynikitinКлючевая идея отчета
Статья McKinsey — «Следующая возможность для поставщиков кибербезопасности: сделать ИИ безопаснее» — это не просто обзор угроз, связанных с искусственным интеллектом.
Главный тезис:
Искусственный интеллект создает крупнейший новый рынок для кибербезопасности за последние годы.
McKinsey рассматривает ИИ одновременно как:
- новый источник атак,
- новый объект защиты,
- новый инструмент защиты,
- и новый рынок для компаний в сфере кибербезопасности.
1. Почему ИИ радикально меняет кибербезопасность
McKinsey выделяет четыре основных фактора.
1) ИИ усиливает злоумышленников
Генеративный ИИ резко снизил стоимость и сложность атак:
- фишинга,
- целевых мошеннических писем,
- подделки голоса и видео,
- социальной инженерии,
- создания вредоносного кода,
- атак на учетные данные.
После появления ChatGPT количество фишинговых сайтов выросло на 138%.
2) ИИ создает новую поверхность атаки
Компании массово внедряют:
- корпоративных помощников на базе ИИ,
- внутренние ИИ-системы,
- ИИ-агентов,
- системы поиска по внутренним знаниям,
- автономные рабочие процессы.
При этом:
- права доступа часто настроены неправильно,
- конфиденциальные данные попадают в запросы,
- ИИ-системы получают слишком широкие полномочия,
- модели становятся новой точкой входа для атак.
McKinsey прямо пишет:
Само внедрение ИИ становится риском кибербезопасности.
3) Классические средства защиты перестают справляться
Причины:
- атаки происходят со скоростью машин,
- объем событий безопасности резко вырос,
- центры мониторинга перегружены,
- специалистов не хватает.
Среднее время локализации крупного взлома:
- 73 дня.
4) Возникает новый рынок защиты ИИ
McKinsey оценивает:
- общий рынок кибербезопасности примерно в 2 триллиона долларов,
- ежегодный рост около 12–13%,
- главным ускорителем роста становится ИИ.
2. Главные риски ИИ для компаний
Усиленный ИИ-фишинг
Это самый массовый вектор угроз.
Генеративный ИИ позволяет:
- писать практически идеальные мошеннические письма,
- персонализировать атаки,
- создавать правдоподобные подделки голоса и видео,
- масштабировать социальную инженерию.
Теперь фишинговые письма выглядят профессионально и почти без ошибок.
Утечки данных
Это одна из самых практических проблем для бизнеса.
Примеры:
- сотрудники вставляют конфиденциальные данные в чат-боты,
- внутренние ИИ-помощники индексируют лишние документы,
- системы поиска получают доступ к чувствительным базам знаний,
- запросы и ответы сохраняются у внешних поставщиков услуг.
Уязвимости ИИ-моделей
McKinsey фактически описывает появление нового направления защиты приложений:
- внедрение вредоносных инструкций в запросы,
- отравление моделей данными,
- обход ограничений,
- небезопасные расширения,
- атаки на векторные базы данных,
- небезопасные ИИ-агенты.
Это уже отдельный класс угроз.
Взрывной рост цифровых идентичностей
ИИ-агенты создают:
- нечеловеческие учетные записи,
- автономные цифровые удостоверения,
- автоматические взаимодействия между системами.
Это меняет рынок управления доступом и привилегиями.
3. Самая важная мысль отчета
McKinsey считает, что рынок движется к:
«Кибербезопасности, изначально построенной вокруг ИИ»
То есть защита станет:
- автономной,
- управляемой ИИ,
- основанной на анализе поведения,
- непрерывной,
- контекстной.
Не «человек плюс система мониторинга», а:
- автоматизированные центры реагирования,
- ИИ-поиск угроз,
- автономное реагирование,
- автоматическое выявление атак.
4. Где будут основные деньги
McKinsey особенно выделяет следующие направления:
Направление
Почему растет
Центры мониторинга и реагирования
автоматизация обнаружения и реакции
Облачная безопасность
защита ИИ-нагрузок и данных
Защита конечных устройств
обнаружение угроз с помощью ИИ
Управление идентичностями
защита ИИ-агентов и нечеловеческих учетных записей
Управление ИИ
требования регуляторов и контроль
Проверка ИИ на устойчивость к атакам
тестирование моделей
Защита данных
безопасность внутренних баз знаний
5. Что McKinsey советует компаниям
Поставщикам решений
Нужно:
- встраивать ИИ в продукты,
- создавать специализированную защиту ИИ,
- переходить от отдельных инструментов к платформам,
- автоматизировать процессы реагирования.
McKinsey считает, что более 90% возможностей по защите ИИ будут поставляться внешними компаниями.
Крупным компаниям
Организации должны:
- вести учет всех ИИ-систем,
- контролировать доступы,
- внедрять управление ИИ,
- оценивать риски,
- отслеживать использование ИИ внутри компании.
Инвесторам
McKinsey фактически говорит, что следующая волна крупных компаний-«единорогов» в кибербезопасности будет построена вокруг ИИ.
6. Самые важные выводы
Вывод 1 — защита ИИ не равна обычной кибербезопасности
Появляются новые категории:
- защита моделей,
- защита запросов,
- защита ИИ-агентов,
- защита цифровых идентичностей ИИ,
- защита процессов вывода модели.
Вывод 2 — злоумышленники внедряют ИИ быстрее защитников
Атакующие адаптируются быстрее большинства компаний.
Вывод 3 — безопасность станет невидимым слоем ИИ
Так же как шифрование стало базовой частью интернета.
Вывод 4 — управление ИИ становится частью системы безопасности
Регуляторные требования, управление рисками и кибербезопасность начинают объединяться.
7. Что особенно важно сейчас
В новом материале McKinsey про «агентные» системы главный акцент смещается:
- от защиты генеративного ИИ
- к защите автономных ИИ-агентов.
Проблема в том, что ИИ-агенты:
- самостоятельно принимают решения,
- вызывают внешние интерфейсы,
- управляют процессами,
- получают доступы к системам.
То есть становятся полноценными участниками инфраструктуры.
Главный вывод
McKinsey считает, что:
- ИИ не просто создает новые угрозы,
- он полностью перестраивает всю отрасль кибербезопасности.
Основные направления развития:
- автономная защита,
- системы безопасности на базе ИИ,
- управление ИИ,
- защита ИИ-агентов,
- защита цифровых идентичностей,
- безопасность данных и моделей.