Искусственный интеллект обещает бизнесу скорость, но та же скорость меняет правила защиты: атаки, которые раньше занимали недели, теперь укладываются в считанные часы, а привычная модель «человек в контуре» перестает успевать. Рассмотрим, как дать ИИ-агентам полномочия и темп для реальной работы, не потеряв контроль над их действиями.

Несколько лет автоматизация в кибербезопасности держалась на простом правиле: машина предлагает, человек решает. Сегодня это правило дает трещину — и не потому, что человеку перестали доверять, а потому, что он перестал успевать. Скорость, с которой теперь идут атаки и ответы на них, не оставляет времени на ручное одобрение каждого шага. Современный ИИ-автопилот разгоняется подобно машине, несущейся на скорости 500 км/ч в плотном потоке, и уследить за всем вручную человек уже не в состоянии. К сожалению, и злоумышленники с помощью ИИ-агентов проникают в инфраструктуру за считанные часы, тогда как раньше требовались недели. Значит, и защита обязана работать в том же темпе. Если разбор логов и поиск способа остановить проникновение растягиваются на дни, у инфраструктуры просто не остается шанса среагировать. Метрики time to detect и time to respond сокращаются по обе стороны баррикад.

Ускорение требует ресурсов — и вычислительных, и инженерных. Обрабатывать сетевой поток прежними методами уже недостаточно. Перенос обработки на аппаратный уровень, на программируемые логические схемы (FPGA), становится нормой для российского рынка, поскольку кратно повышает пропускную способность и снимает необходимость бесконечно оптимизировать код. Отдельная статья — стоимость самих моделей. Аппаратные затраты на мощные LLM сегодня значительны, особенно когда одна система решает десятки ИТ- и бизнес-задач. По сути, это новый виток тех же серьезных вложений в инфраструктуру, которые компании уже проходили раньше.

Отсюда возникает вопрос, какие полномочия давать агенту и как их ограничить. Начать разумно с безопасного сценария: внутренней языковой модели можно открыть доступ на чтение логов и конфигураций, чтобы она помогала оптимизировать политики и предлагала решения, а человек проверял результат и принимал окончательное решение. Но прежде чем доверить исполнение команд, нужно точно определить, что агенту разрешено и с какими системами он может взаимодействовать. Здесь кроется типичная ловушка: даже полномочия системных администраторов часто описаны нечетко, и если у администратора есть привилегированный доступ ко всему, ровно такие же права рискует унаследовать и агент. Поэтому правила для агента должны быть такими же строгими, как для администратора: своя учетная запись, минимальные права и проверка действий.

Риски растут вместе с полномочиями. Чтобы повысить производительность, бизнес охотно просит подключить агента ко всему сразу — к почте, CRM, ERP, отчетам в BI. Но если все эти права собраны у одного агента, взлом одного сегмента открывает доступ ко всем данным, а права на изменение позволяют захватить управление не только ИТ-системами, но и бизнес-приложениями. Добавляет проблем и неравенство моделей: слабые ошибаются даже на простых задачах, а сильные, у которых таких промахов почти не осталось, нельзя развернуть внутри контура компании. Самый же незаметный канал утечки — когда сотрудники пользуются личными учетными записями внешних ИИ-сервисов и загружают туда чувствительную информацию. Данные уходят в облака зарубежных провайдеров, их дальнейшее хранение непрозрачно, а подключенный на личном устройстве VPN и шифрованный сторонний туннель не дают службе безопасности увидеть, что именно покинуло периметр.

Ответ на эти риски — не запрет ИИ, а создание наблюдаемой среды для него. Нулевой практический шаг — убрать теневой ИИ, построив прокси, через который сотрудники смогут легитимно пользоваться моделями, а компания — видеть, какие данные уходят вовне. Следующий уровень — поставить между управляемой системой и агентом отдельный слой контроля, AI Gateway или AI Firewall, который следит за действиями агента на той же скорости, на которой тот работает. Логично развести и роли по принципу разделения обязанностей — когда одним агентом управляет ИТ, а независимый агент кибербезопасности проверяет его действия на соответствие правилам безопасной работы с инфраструктурой. Так на смену human in the loop приходит security agent in the loop. Такой контур превращает скорость из угрозы в управляемое преимущество.

В перспективе часть рутины перейдет к агентам целиком — например, автоматическое закрытие критических уязвимостей, на которые сегодня у команд уходят драгоценные часы. Но доверять эту скорость стоит только там, где заранее определены полномочия, выстроен надзор и налажена видимость. Инструменты для этого уже появляются. Главный принцип при этом остается прежним — давать ИИ темп и права ровно настолько, насколько компания способна контролировать его действия.

Эльман Бейбутов, директор по развитию бизнеса UserGate