Более 40% всего прикладного ПО будет включать ИИ-агентов до 2027 года

Группа компаний Б1, ГК «Солар», Ассоциация ФинТех (АФТ) и HiveTrace представили результаты совместного исследования, посвященного обзору текущего состояния рынка защиты искусственного интеллекта (ИИ) и перспектив развития этого направления. 

ИИ является ключевой платформой развития ИТ во всем мире: порядка 1,76 трлн долларов США составили общие траты и инвестиции на ИИ и инфраструктуру для ИИ в 2025 году. Большинство организаций во всем мире (88%) используют ИИ хотя бы в одной из бизнес-функции. К 2026-2027 гг. более 40% всего прикладного ПО будет включать ИИ-агентов, а через три года в мире будет активно работать более одного миллиарда ИИ-агентов. 

В ближайшей перспективе более четверти всех ИТ расходов будут так или иначе связаны с технологиями искусственного интеллекта (ПО, услуги, инфраструктура). Аналитические агентства прогнозируют, что к 2030 году ИИ будет задействован практически во всех ИТ процессах, а до 25% задач будут выполняться ИИ системами автономно. 

Однако готовность инфраструктуры, процессов управления и механизмов безопасности отстает от темпов внедрения ИИ. Организации по всему миру сталкиваются с реальными угрозами: менее трети считают себя полностью способными защищать агентские ИИ-системы, а 32% подверглись атакам на ИИ-приложения с использованием промптов. 

Более того, риски, связанные с безопасностью ИИ, – это серьезный барьер для масштабного внедрения генеративного ИИ (ГенИИ): с атаками на инфраструктуру приложений ГенИИ уже столкнулись 29% организаций.  

Традиционные средства ИБ недостаточны для защиты ИИ-моделей и ИИ-систем с дополненным поиском по базам знаний (RAG), автономных ИИ-агентов и экосистем инструментов ИИ, поскольку ключевые угрозы возникают на уровне данных, логики поведения моделей и их самостоятельных действий. По мере масштабирования ИИ и его интеграции в бизнес-процессы и системы риски манипуляции запросами, неконтролируемой работы агентов, утечек конфиденциальных данных и компрометации баз знаний будут усиливаться.

Осознание этой проблемы ведет к формированию принципиально нового класса технологий рынка ИБ безопасности систем искусственного интеллекта и к появлению специализированных подходов к защите ИИ-моделей, приложений и инфраструктуры. 

О Группе компаний Б1

Группа компаний Б1 предлагает многопрофильные услуги в сфере аудита, стратегического, технологического и бизнес-консалтинга, сделок, оценки, налогообложения, права и сопровождения бизнеса.

Мы работаем свыше 35 лет в России и 25 лет в Беларуси. За это время в компаниях группы создана сильная команда специалистов с обширными знаниями и опытом реализации сложнейших проектов. Наша практика представлена в 12 городах: Москве, Минске, Владивостоке, Екатеринбурге, Казани, Краснодаре, Новосибирске, Ростове-на-Дону, Самаре, Санкт-Петербурге, Тольятти и Челябинске.

Группа компаний Б1 помогает клиентам находить новые решения, расширять, трансформировать и успешно вести свою деятельность, а также повышать свою финансовую устойчивость и кадровый потенциал.

www.b1.ru 

О Группе компаний «Солар»

Группа компаний «Солар» — лидирующий провайдер комплексной кибербезопасности. Ключевые направления деятельности — предоставление услуг и сервисов в области информационной безопасности, разработка собственных ИБ-продуктов, обучение ИБ-специалистов, аналитика и исследование киберинцидентов.

С 2015 года предоставляет ИБ-решения организациям от малого бизнеса до крупнейших предприятий ключевых отраслей. Под защитой «Солара» — более 1 500 крупнейших компаний России. Компания работает в направлениях безопасной разработки программного обеспечения, управления доступом, защиты корпоративных данных, детектирования хакерских атак и угроз, что позволяет закрывать максимум потребностей заказчиков. 

Группа компаний предлагает сервисы первого и крупнейшего в России коммерческого SOC — Solar JSOC, экосистему управляемых сервисов ИБ — Solar MSS. По данным независимых аналитиков, «Солар» входит в топ-5 европейских и топ-15 мировых сервис-провайдеров по объему бизнеса. 

Работа центра исследования киберугроз Solar 4RAYS нацелена на изучение тактик киберпреступников. Полученные аналитические данные обогащают разработки Центра технологий кибербезопасности. 

Линейка собственных продуктов включает DLP-решение Solar Dozor, шлюз веб-безопасности Solar webProxy, IdM-систему Solar inRights, PAM-систему Solar SafeInspect, анализатор кода Solar appScreener, решение для автоматизации мониторинга и реагирования Solar SIEM и другие. 

Группа компаний «Солар» инвестирует в развитие отрасли кибербезопасности и помогает решать проблему кадрового дефицита. Для поддержки молодых технологичных проектов и насыщения рынка технологиями созданы венчурный фонд Solar Ventures и программа CyberStage. «Солар» реализует образовательные и просветительские проекты, направленные на повышение цифровой грамотности населения. 

rt-solar.ru 

Об Ассоциации ФинТех

Ассоциация ФинТех учреждена в конце 2016 г. по инициативе Банка России и ключевых участников финансового рынка как межотраслевая площадка для взаимодействия банков, страховых и ИТ-компаний, профессиональных участников рынка ценных бумаг, телеком-операторов, финтехов и регулятора. 

В настоящий момент в состав АФТ входят: Банк России, Сбер, ВТБ, Альфа-Банк, Газпромбанк, Национальная система платежных карт (НСПК), Т-Банк, Райффайзенбанк, Россельхозбанк, ДОМ.РФ, Московская Биржа, Страховой Дом ВСК, ПСБ, Совкомбанк; ассоциированные члены: Ак Барс Банк, РНКО «Платежный центр», МТС, Ростелеком, АльфаСтрахование, Капитал Лайф Страхование Жизни, Московский кредитный банк, Кредит Европа Банк (Россия), Банк Синара, Яндекс, Центр-Инвест, ОТП Банк, «Диасофт», «ФлексСофт», Авито, Т1, РЕД СОФТ, Билайн, БПС, Банк Точка, УК «ДОХОДЪ», РЕСО-Гарантия, Банк ВБРР, МТС Банк.

fintechru.org 

О HiveTrace (ООО «Хайвтрейс»)

«Хайвтрейс» – российская компания, специализирующаяся на безопасности искусственного интеллекта и разработке решений для защиты корпоративных GenAI-систем. Компания разработала и продолжает развивать и продвигать на рынке два продукта, обеспечивающих безопасность внедрения и эксплуатации ИИ. 

HiveTraceAIFirewall – система мониторинга ИИ-систем в реальном времени:

• выявляет и блокирует промпт-атаки, токсичный и вредоносный контент;
• реализует гибкие корпоративные политики (этика, язык, запрет на ПДн);
• снижает риск утечки данных и репутационных потерь. 

HiveTraceRed– автоматизированный red-teaming для ИИ:

• моделирует десятки сценариев атак (джейлбрейки, утечки, misinformation и др.);
• тестирует систему на соответствие OWASP LLMTop 10;
• работает непрерывно и интегрируется в CI/CD, сокращая time-to-market 
  AI-продукта;
• в десятки раз эффективнее ручного тестирования.

Оба продукта работают с любыми LLM и встраиваются в процессы разработки и эксплуатации — от CI/CD до эксплуатации в проде. Команда HiveTrace объединяет инженеров и исследователей безопасности ИИ, сотрудничает с ведущими вузами и участвует в развитии отраслевых стандартов, создавая полноценный цикл защиты: тестирование, мониторинг и предотвращение атак. 

В штате компании работают эксперты в области Data Science и кибербезопасности с успешным опытом разработки и внедрения ПО в компаниях масштаба enterprise. Сотрудники «Хайвтрейс» регулярно участвуют в профильных конференциях, выступают в качестве спикеров в вебинарах, подкастах и дают экспертные комментарии в СМИ. 

hivetrace.ru