Искусственный интеллект под защитой

Рождение рынка защиты ИИ: текущее состояние и перспективы

Искусственный интеллект (ИИ) стремительно трансформируется в новую базовую платформу для всего ИТ-рынка. С развитием ИИ закономерно усиливается и его значимость как объекта защиты: кибербезопасность искусственного интеллекта перестает быть нишевой темой и становится важным направлением развития рынка решений информационной безопасности.

В рамках совместного исследования Группа компаний Б1, ГК «Солар», Ассоциация ФинТех (АФТ), HiveTrace поставили перед собой задачу понять, как развивается рынок средств защиты ИИ в России и мире. Эксперты опросили порядка 60 организаций из различных отраслей, включая финансы, ритейл, промышленность, телеком и государственный сектор в России.

Результаты исследования показывают, что глобальный рынок решений и услуг в сфере кибербезопасности ИИ стремительно развивается. Появляются новые разработчики, а существующие ведущие ИБ-поставщики создают платформенные решения и встраивают функционал защиты ИИ в свои продукты и услуги.

Рынок ИБ для ИИ в РФ находится на начальной стадии формирования. Впрочем, можно ожидать, что защита ИИ превратится в важное направление внутри рынка средств и услуг информационной безопасности. Для компаний это означает необходимость уже сегодня закладывать основы безопасного использования ИИ, определять приоритеты инвестиций и выстраивать стратегию защиты с учетом новых технологических реалий.

ОСНОВНЫЕ ВЫВОДЫ

ИИ ЯВЛЯЕТСЯ КЛЮЧЕВОЙ ПЛАТФОРМОЙ РАЗВИТИЯ ИТ ВО ВСЕМ МИРЕ

~0 трлн

долл. США составили общие траты и инвестиции на ИИ и инфраструктуру для ИИ в 2025 году

организаций в мире уже используют ИИ хотя бы в одной из бизнес-функций

>0%

всех ИТ-трат бизнеса будет связано с ИИ (ПО, услуги, инфраструктура) к 2029 году

ОРГАНИЗАЦИИ ПО ВСЕМУ МИРУ СЕРЬЕЗНО РАССМАТРИВАЮТ РИСКИ, СВЯЗАННЫЕ С ИИ, И УЖЕ ВСТРЕЧАЮТСЯ С НИМИ НА ПРАКТИКЕ

организаций считают себя полностью способными защищать агентские ИИ-системы

компаний в мире столкнулись с атакой на ИИ-приложения с использованием промтов, 29% – с атаками на инфраструктуру приложений ГенИИ

организаций считают риски, связанные с безопасностью, важным барьером для масштабного внедрения ГенИИ

Результаты опроса показывают, что крупные отечественные компании активно инвестируют в технологии ИИ: 97% респондентов используют, пилотируют ИИ или считают его значимым для бизнеса. 35% опрошенных считают ИИ одним из трех главных стратегических приоритетов и критически важным для ключевых процессов, еще 46% выделяют его как важный элемент для отдельных бизнес-процессов
Наиболее распространенные типы используемого ИИ – большие языковые модели / ГенИИ, ИИ-системы дополненные поиском и ИИ-агенты. ИИ на базе больших языковых моделей используют 79% опрошенных компаний, ИИ-системы, дополненные поиском (RAG), – 67%, 46% опрошенных компаний использует ИИ-агентов с доступом к системам
При этом уровень удовлетворенности защитой ИИ остается неоднозначным: 41% компаний полностью или скорее удовлетворены текущим уровнем защиты. Еще 33% скорее не удовлетворены, а 7% полностью не удовлетворены уровнем защиты; 19% считают, что оценивать зрелость пока рано
Организации уже сталкиваются с инцидентами, связанными с использованием ИИ: такие случаи отметили 19% респондентов
49% компаний выделяют бюджет на защиту ИИ[1]. Наиболее высока доля компаний с бюджетами на защиту ИИ среди организаций, которые считают ИИ одним из трех главных стратегических приоритетов и критически важным для ключевых процессов. Более 40% опрошенных не выделяют соответствующий бюджет или затруднились с ответом.
При этом 15% опрошенных компаний, где ИИ считается стратегическим приоритетом, не выделяют бюджеты на защиту ИИ. Среди компаний, для которых ИИ важен в отдельных процессах, бюджет на защиту ИИ выделяется в 42% случаев. 53% опрошенных планируют увеличить траты на защиту ИИ, около четверти (23%) не планируют инвестиции или хотят оставить их на текущем уровне; 5% планируют их сократить
Только 16% респондентов уже применяют специализированные решения от внешних разработчиков для обеспечения безопасности ИИ. При этом 46% готовы их использовать в ближайшем времени. Уровень использования внутренних разработок для защиты ИИ составляет 51% – сейчас это основные инструменты защиты. При этом 19% респондентов не применяют сейчас и не рассматривают такие решения на ближайшее время
Уровень зрелости рынка отечественных киберрешений для защиты ИИ пока оценивается как невысокий. Лишь 8% респондентов считают, что на рынке представлено достаточно зрелых решений для защиты ИИ. 45% отмечают наличие лишь отдельных продуктов, а значительная часть респондентов вообще не знакома со специализированными решениями данного класса
Наиболее востребованные функции – это предотвращение утечек данных через ИИ (59%), автоматическая защита персональных и конфиденциальных данных (55%), защита от атак через запросы к моделям (41%), контроль использования несанкционированных ИИ-сервисов (30%) и защита интеллектуальных агентов (27%). Значительно меньший интерес вызывают задачи по защите моделей от копирования и цифровой маркировки контента
В целом результаты исследования показывают, что рынок переходит от стадии осознания рисков к стадии практического внедрения средств защиты. При относительно низком текущем уровне использования специализированных решений (16%) потенциальный интерес к ним в три раза выше. Одновременно формируется запрос на отечественные легкоинтегрируемые и комплексные платформы, обеспечивающие защиту ИИ на протяжении всего жизненного цикла

«Рынок решений в сфере кибербезопасности ИИ пока зарождается, но уже можно отметить скорость его развития – в текущем году размер рынка превысит отметку 1% от всего глобального рынка ИБ. С высокой степенью уверенности можно также говорить, что рынок проходит схожую трансформацию, что ранее прошли рынки ИБ облачных технологий или мониторинга и реагирования на угрозы ИБ (SecOps): от набора точечных средств защиты к формированию полноценного платформенного слоя корпоративной безопасности.

Такой подход интегрирует защиту моделей, ИИ-агентов, данных и процессов исполнения ИИ в единый контур. Более того, по мере роста автономности ИИ-систем, рынок решений будет мигрировать от защиты ИИ-приложений к защите ИИ-агентов и далее к сквозной защите автономной ИИ-инфраструктуры и комплексному управлению рисками.

Одновременно в мире растет востребованность специализированных услуг по аудиту, тестированию и управлению безопасностью ИИ, а также построению киберустойчивых архитектур ИИ-систем».

Сергей Салов

Партнер Б1, группа услуг в области трансформации бизнеса

СЦЕНАРИИ РАЗВИТИЯ РЫНКА РЕШЕНИЙ КИБЕРЗАЩИТЫ

Рынок только формируется, поэтому конечные победители и его будущая структура неясны. Пока можно сформулировать четыре возможных сценария или параллельные траектории развития:

Рынок сконцентрируется вокруг крупных разработчиков ИБ-решений, как это произошло с облачной ИБ, EDR/XDR
Появится отдельный лидер или лидеры рынка
Безопасность ИИ постепенно станет частью безопасности приложений, облаков, защиты данных, управления идентификацией и доступом и превратится из отдельного рынка во встроенную функцию существующих платформ кибербезопасности
Поставщики ИИ-систем и платформ ИИ-разработки сами формируют или приобретают продукты встроенной кибербезопасности, подобно тому, как Microsoft, VMware и другие вендоры встраивают ИБ-решения в пакеты своих программных продуктов