The cybersecurity provider’s next opportunity: Making AI safer

The cybersecurity provider’s next opportunity: Making AI safer

@dmitrynikitin

Ключевая идея отчета

Статья McKinsey — «Следующая возможность для поставщиков кибербезопасности: сделать ИИ безопаснее» — это не просто обзор угроз, связанных с искусственным интеллектом.

Главный тезис:

Искусственный интеллект создает крупнейший новый рынок для кибербезопасности за последние годы.

McKinsey рассматривает ИИ одновременно как:

  • новый источник атак,
  • новый объект защиты,
  • новый инструмент защиты,
  • и новый рынок для компаний в сфере кибербезопасности.


1. Почему ИИ радикально меняет кибербезопасность

McKinsey выделяет четыре основных фактора.

1) ИИ усиливает злоумышленников

Генеративный ИИ резко снизил стоимость и сложность атак:

  • фишинга,
  • целевых мошеннических писем,
  • подделки голоса и видео,
  • социальной инженерии,
  • создания вредоносного кода,
  • атак на учетные данные.

После появления ChatGPT количество фишинговых сайтов выросло на 138%.


2) ИИ создает новую поверхность атаки

Компании массово внедряют:

  • корпоративных помощников на базе ИИ,
  • внутренние ИИ-системы,
  • ИИ-агентов,
  • системы поиска по внутренним знаниям,
  • автономные рабочие процессы.

При этом:

  • права доступа часто настроены неправильно,
  • конфиденциальные данные попадают в запросы,
  • ИИ-системы получают слишком широкие полномочия,
  • модели становятся новой точкой входа для атак.

McKinsey прямо пишет:

Само внедрение ИИ становится риском кибербезопасности.


3) Классические средства защиты перестают справляться

Причины:

  • атаки происходят со скоростью машин,
  • объем событий безопасности резко вырос,
  • центры мониторинга перегружены,
  • специалистов не хватает.

Среднее время локализации крупного взлома:

  • 73 дня.


4) Возникает новый рынок защиты ИИ

McKinsey оценивает:

  • общий рынок кибербезопасности примерно в 2 триллиона долларов,
  • ежегодный рост около 12–13%,
  • главным ускорителем роста становится ИИ.


2. Главные риски ИИ для компаний

Усиленный ИИ-фишинг

Это самый массовый вектор угроз.

Генеративный ИИ позволяет:

  • писать практически идеальные мошеннические письма,
  • персонализировать атаки,
  • создавать правдоподобные подделки голоса и видео,
  • масштабировать социальную инженерию.

Теперь фишинговые письма выглядят профессионально и почти без ошибок.


Утечки данных

Это одна из самых практических проблем для бизнеса.

Примеры:

  • сотрудники вставляют конфиденциальные данные в чат-боты,
  • внутренние ИИ-помощники индексируют лишние документы,
  • системы поиска получают доступ к чувствительным базам знаний,
  • запросы и ответы сохраняются у внешних поставщиков услуг.


Уязвимости ИИ-моделей

McKinsey фактически описывает появление нового направления защиты приложений:

  • внедрение вредоносных инструкций в запросы,
  • отравление моделей данными,
  • обход ограничений,
  • небезопасные расширения,
  • атаки на векторные базы данных,
  • небезопасные ИИ-агенты.

Это уже отдельный класс угроз.


Взрывной рост цифровых идентичностей

ИИ-агенты создают:

  • нечеловеческие учетные записи,
  • автономные цифровые удостоверения,
  • автоматические взаимодействия между системами.

Это меняет рынок управления доступом и привилегиями.


3. Самая важная мысль отчета

McKinsey считает, что рынок движется к:

«Кибербезопасности, изначально построенной вокруг ИИ»

То есть защита станет:

  • автономной,
  • управляемой ИИ,
  • основанной на анализе поведения,
  • непрерывной,
  • контекстной.

Не «человек плюс система мониторинга», а:

  • автоматизированные центры реагирования,
  • ИИ-поиск угроз,
  • автономное реагирование,
  • автоматическое выявление атак.


4. Где будут основные деньги

McKinsey особенно выделяет следующие направления:

Направление

Почему растет

Центры мониторинга и реагирования

автоматизация обнаружения и реакции

Облачная безопасность

защита ИИ-нагрузок и данных

Защита конечных устройств

обнаружение угроз с помощью ИИ

Управление идентичностями

защита ИИ-агентов и нечеловеческих учетных записей

Управление ИИ

требования регуляторов и контроль

Проверка ИИ на устойчивость к атакам

тестирование моделей

Защита данных

безопасность внутренних баз знаний

5. Что McKinsey советует компаниям

Поставщикам решений

Нужно:

  • встраивать ИИ в продукты,
  • создавать специализированную защиту ИИ,
  • переходить от отдельных инструментов к платформам,
  • автоматизировать процессы реагирования.

McKinsey считает, что более 90% возможностей по защите ИИ будут поставляться внешними компаниями.


Крупным компаниям

Организации должны:

  • вести учет всех ИИ-систем,
  • контролировать доступы,
  • внедрять управление ИИ,
  • оценивать риски,
  • отслеживать использование ИИ внутри компании.


Инвесторам

McKinsey фактически говорит, что следующая волна крупных компаний-«единорогов» в кибербезопасности будет построена вокруг ИИ.


6. Самые важные выводы

Вывод 1 — защита ИИ не равна обычной кибербезопасности

Появляются новые категории:

  • защита моделей,
  • защита запросов,
  • защита ИИ-агентов,
  • защита цифровых идентичностей ИИ,
  • защита процессов вывода модели.


Вывод 2 — злоумышленники внедряют ИИ быстрее защитников

Атакующие адаптируются быстрее большинства компаний.


Вывод 3 — безопасность станет невидимым слоем ИИ

Так же как шифрование стало базовой частью интернета.


Вывод 4 — управление ИИ становится частью системы безопасности

Регуляторные требования, управление рисками и кибербезопасность начинают объединяться.


7. Что особенно важно сейчас

В новом материале McKinsey про «агентные» системы главный акцент смещается:

  • от защиты генеративного ИИ
  • к защите автономных ИИ-агентов.

Проблема в том, что ИИ-агенты:

  • самостоятельно принимают решения,
  • вызывают внешние интерфейсы,
  • управляют процессами,
  • получают доступы к системам.

То есть становятся полноценными участниками инфраструктуры.


Главный вывод

McKinsey считает, что:

  • ИИ не просто создает новые угрозы,
  • он полностью перестраивает всю отрасль кибербезопасности.

Основные направления развития:

  • автономная защита,
  • системы безопасности на базе ИИ,
  • управление ИИ,
  • защита ИИ-агентов,
  • защита цифровых идентичностей,
  • безопасность данных и моделей.


Report Page