Согласно Gartner «1H26 CIO Report», 77% CIO называют безопасность и риски главными препятствиями для масштабирования автономных технологий. Некоторые из них, тем не менее, находят способы ускорить этот процесс, сообщает портал InformationWeek.
Автономный искусственный интеллект выходит от стадии эксперимента и становится приоритетом предприятия. Модели достаточно точны. Экономическое обоснование очевидно. Советы директоров стремятся к ускорению. Но большинство CIO сдерживают проблемы безопасности, а не технические ограничения.
Действительно, 77% из более чем 11 тыс. CIO, опрошенных Gartner, заявили, что безопасность и риски являются главными препятствиями для масштабирования автономных технологий. Их опасения обоснованы: автономные агенты ИИ могут допускать утечки данных, совершать дорогостоящие ошибки и создавать проблемы с аудитом.
Но все большее число CIO находят способы ускорить процесс, не жертвуя безопасностью. Ответ, по их словам, кроется в защитных ограничениях, управлении и ином типе партнерства между CIO и руководителями, отвечающими за безопасность и конфиденциальность.
Растущее давление со стороны автономного ИИ
Согласно опросу Gartner, проведенному в апреле 2026 г. среди 469 руководителей компаний, примерно восемь из десяти из них ожидают, что к 2030 г. автономный бизнес будет доминировать в их отрасли. Советы директоров и руководство, осознавая конкурентные риски, подталкивают CIO идти в ногу с этими изменениями.
«Наши команда руководителей и совет директоров относительно хорошо разбираются в ИИ, — говорит Кит Фултон, директор по данным поставщика ПО для финансовых учреждений Jack Henry. — Они видят потенциал ИИ. И спрашивают: „Как мы можем ускорить процесс?“. Я отвечаю: „Я тоже хочу ускорить процесс. Но мы хотим быть осторожными“».
Это напряжение между давлением бизнеса и дисциплиной в области безопасности проявляется во всех отраслях. Опрос Sembi «Software Quality Pulse Report», проведенный среди почти 3800 руководителей компаний-разработчиков ПО, показал, что 86% как минимум иногда задерживают выпуск релизов из-за проблем безопасности, а 63% называют проблемы конфиденциальности и безопасности препятствиями для внедрения ИИ.
«Сейчас со всех сторон бизнеса оказывается реальное давление с целью ускорения внедрения ИИ, и команды безопасности [и ИТ] не могут просто сказать „нет“, — отмечает Ринки Сети, CISO компании Upwind Security и бывший руководитель служб безопасности в Twitter, Rubrik и BILL. — Разговор сместился с блокирования инноваций на их ответственное внедрение».
Главные проблемы с агентным ИИ
Утечка данных. По словам многих руководителей, основная проблема — это видимость, точнее её отсутствие. «Большинство организаций до сих пор не до конца понимают, к чему имеют доступ агенты ИИ, на какие действия они способны и как они ведут себя после развертывания в производственных средах, — говорит Сети. — Утечка данных — это серьезная проблема, особенно когда агенты могут получать доступ к внутренним системам или перемещать информацию между средами без четкого контроля».
Фултон проводит различие между кибербезопасностью и безопасностью данных: «На самом деле, самая большая проблема — это не кибербезопасность. А безопасность денег и данных. Мы должны быть уверены, что персональные данные не покидают здание, когда мы общаемся с агентами гиперскейлеров».
Ошибочность агентов. Проблема усугубляется ошибочностью агентного ИИ. «Агенты достигли точности
Теневой ИИ. Дополнительную сложность добавляет рост теневого ИИ. «Сотрудники внедряют инструменты ИИ, потому что они повышают производительность, и большинство групп по безопасности обнаруживают их использование постфактум, а не через формальные процессы утверждения, — говорит Сети. — Однако решение не в том, чтобы запрещать всё подряд, потому что это обычно загоняет деятельность ещё глубже в подполье».
Безопасность в ИИ с самого начала
Организации, которые продвигаются быстрее всего, не добавляют безопасность после развертывания. Они строят её с самого начала.
«Безопасность не является для нас тормозом, — говорит Чейз Кристенсен, CIO сегмента и вице-президент по корпоративным решениям компании Jabil, предоставляющей производственные услуги. — Она замедляет процесс только тогда, когда мы не закладываем ее в наши процессы. Мы же встраиваем безопасность на начальном этапе жизненного цикла разработки ПО (SDLC). Это устраняет все препятствия и позволяет нам быстро масштабироваться».
Он также переосмыслил подход Jabil к теневым ИТ и ИИ. «Мы не говорим о теневых ИТ — мы говорим о демократизации ИТ, — поясняет он. — Корпоративные ИТ-службы могут работать медленно. Наша задача — предоставить платформы. Когда мы обеспечиваем правильные данные и правила использования, то, что выглядит как теневые ИТ, становится двигателем роста организации».
Сети соглашается с тем, что ранняя интеграция имеет важное значение. «Организации, которые успешно это делают, с самого начала рассматривают системы ИИ как производственные нагрузки, а не как экспериментальные побочные проекты, — говорит она. — Добавление системы безопасности после развертывания редко бывает эффективной, потому что к этому моменту система ИИ уже интегрирована в рабочие процессы, API и среды данных, которые трудно распутать».
Правильные ограничения для ИИ: принцип собачьей площадки
Фултон рассматривает ограничения не как препятствия, а как факторы, ускоряющие процесс. «Я часто обращаюсь к аналогии с собачьей площадкой, — говорит он. — Я вожу туда своего щенка, потому что хочу, чтобы у нее была свобода, но я не хочу, чтобы она бегала по улице. Она видит забор и не выходит за него. Она может резвиться, и я знаю, что с ней все в порядке. Ключ к быстрому прогрессу — это наличие правильных ограничений».
Уровень риска определяет ограничения. «У нас есть критерии для оценки уровня риска действий, которые может предпринять агент, — говорит Фултон. — В зависимости от уровня риска мы применяем разные ограничения. Перемещение денег очень сложно отменить. Ограничения в этом случае должны быть очень осторожными и строгими по сравнению с ограничениями для „второго пилота“, помогающего составить документ Word».
Ответственность не подлежит обсуждению. «Каждый агент должен отслеживаться, проверяться и быть привязан к конкретному человеку, ответственному за его поведение, — считает Фултон. — Нельзя посадить агента в тюрьму. Каждое действие агента должно быть отслежено до человека, ответственного за него».
Непрерывная видимость развертывания ИИ
Для Сети самым большим изменением является переход от статических проверок политик к мониторингу в режиме реального времени. «Безопасность становится тормозом, когда команды полагаются на традиционные модели управления, которые не были созданы для автономных систем реального времени, — говорит она. — Организации, которые продвигаются быстрее всего, — это те, которые при развертывании ИИ с самого начала обеспечивают видимость и контекст в режиме реального времени, вместо того чтобы пытаться добавить элементы управления позже».
Это означает переосмысление того, что такое «достаточно хорошая» безопасность. «Если вы не можете ответить на вопрос, к каким данным агент имеет доступ, какие действия он может предпринять или отклонилось ли его поведение от нормальных шаблонов, вы не готовы к масштабированию, — отмечает Сети. — Ошибка заключается в том, чтобы рассматривать развертывание ИИ как требующее разовой проверки безопасности, а не как постоянное обязательство по мониторингу».
Изменение взаимоотношений между CIO и CISO
Многие руководители указывают на динамику отношений между CIO и CISO как на критически важный фактор — или узкое место — в области автономного ИИ.
«ИИ делает отношения между CIO и CISO гораздо более тесно переплетенными в операционном плане, — говорит Сети. — Исторически безопасность и ИТ могли работать параллельно, но автономные системы требуют гораздо более тесной координации, поскольку инфраструктура, управление данными, разработка приложений и безопасность теперь глубоко взаимосвязаны».
Разговоры также изменились. «Речь теперь идет не столько о контрольных списках соответствия, сколько об операционной устойчивости, прозрачности и управлении бизнес-рисками со скоростью автоматизации, — отмечает Сети. — Во многих организациях CIO и CISO теперь совместно несут ответственность за безопасное внедрение ИИ, а не рассматривают безопасность как функцию утверждения на последующем этапе».
Роль директора по конфиденциальности (CPO). По словам Фултона, традиционное партнерство CIO и CISO — это лишь часть картины. «CPO может быть вовлечен больше, чем CISO, — говорит он. — Речь идёт об уважении конфиденциальности клиентов и заказчиков — и о том, чтобы не доверять их данные гиперскейлерам».
Организации, масштабирующие автономный ИИ, не игнорируют безопасность. Они просто перестали позволять ей быть причиной того, что все останавливается. «Не ждите идеального управления, прежде чем двигаться вперёд, потому что бизнесу надо идти вперёд, — советует Сети. — Скорость без видимости создаёт риск, тогда как видимость даёт вам уверенность в том, что вы можете ответственно двигаться быстрее».
