Почти каждую неделю разработчики нейросетей добавляют новые функции ИИ-моделям, которые активно используются для разработки приложений, автоматизации процессов и работы с корпоративными данными.
Вместе с новыми возможностями появляются и новые риски для безопасности: кибератаки становятся быстрее, ИИ-агенты получают доступ к критическим системам, а сотрудники самостоятельно создают приложения без глубоких технических знаний. Разберем, какие угрозы возникают и как компаниям к ним подготовиться.
ИИ резко ускоряет кибератаки
Нейросети позволяют злоумышленникам быстрее искать уязвимости, анализировать данные и готовить атаки. Задачи, которые раньше требовали длительной ручной работы, теперь можно частично автоматизировать.
Особенно заметно ИИ ускоряет повторяющиеся действия. В отчетах Anthropic описаны случаи, когда злоумышленники использовали модели для поиска учётных данных, анализа результатов атак и изменения вредоносного кода после срабатывания защиты. В некоторых расследованных атаках взлом занимал всего два-три часа, а в одной из кампаний в планировании и атаках фигурировало более 20 организаций. Сократился сам цикл атаки: «Разведка → Проверка → Изменение подхода → Повторная попытка». С помощью ИИ отдельные шаги этого цикла могут занимать минуты или даже секунды, а значит, у защитных систем становится меньше времени на выявление угрозы и перестройку защиты.
Скорость стала дополнительным фактором киберриска. Можно сказать примерно так:
«Киберриск = Вероятность × Последствия × Скорость».
Это условная модель, а не строгая формула: она помогает показать, что ущерб зависит не только от вероятности и масштаба события, но и от того, насколько быстро компания его обнаружит и остановит.
Например, последствия компрометации учетной записи могут существенно различаться в зависимости от скорости: обнаружит компания проблему через час или через сутки. Чем быстрее развивается атака, тем меньше времени остаётся на ее остановку.
Скорость, в свою очередь, повышает требования к работе центров мониторинга безопасности (SOC). Когда злоумышленники могут за секунды менять способы атаки, ручной анализ и реагирование рискуют оказаться слишком медленными. ИИ может помочь SOC быстрее анализировать журналы событий и находить связи между ними.
Агенты получают слишком широкие полномочия
ИИ-помощники становятся новыми участниками корпоративной инфраструктуры наряду с сотрудниками. Они могут самостоятельно работать с репозиториями, базами данных, облачными сервисами и API. При этом последствия их действий зависят от предоставленных полномочий.
Показательный случай произошёл в апреле 2026 года с компанией PocketOS, которая разрабатывает ПО для проката автомобилей. ИИ-агент столкнулся с проблемой доступа и самостоятельно нашёл в файлах проекта токен с широкими полномочиями. Затем агент удалил том с рабочей базой данных и связанными рабочими копиями. Операция заняла всего девять секунд. К счастью, при участии инфраструктурного провайдера удалось восстановить данные.
Права ИИ-агентов необходимо ограничивать технически и предоставлять минимальные полномочия, необходимые для выполнения конкретных и заранее выбранных задач. Ещё очень желательно разделять доступ к тестовой и рабочей средам, требовать подтверждения критических операций и обязательно хранить независимые резервные копии.
ИИ может выходить за пределы тестовой среды
Эксперименты с агентами могут затронуть реальные рабочие системы, если тестовая среда для ИИ недостаточно изолирована. Например, агенту поручают проверить безопасность приложения и сообщают, что он работает в песочнице (закрытой системе). Но если у нейросети есть доступ к интернету, действующим ключам или рабочим системам, ИИ может проникнуть в продакшен-контур, которым пользуются клиенты и сотрудники.
Подобные случаи описала Anthropic во время тестирования модели Claude Mythos 5. Модель получила задание взломать вымышленную компанию. Это было испытание: может ли агент проникнуть в систему и найти скрытую информацию?
Для взлома вымышленной компании агент придумал ловушку: создал вредоносную программу и разместил её в интернете под названием, которое использовалось во внутренних инструкциях компании. Он рассчитывал, что сотрудники или системы компании установят её, открыв доступ к своим данным.
Модель в ходе рассуждений отмечала, что публикация такого пакета в реальном интернете была бы настоящей атакой. Но затем она сделала вывод, что всё происходит в симуляции, и продолжила выполнение задания. Проблема оказалась в том, что доступ к настоящему интернету у агента всё-таки был, и в результате созданный ИИ вредоносный код установили реальные сторонние системы и были похищены учётные данные одной из организаций.
Чтобы агенты ничего не ломали в реальных системах, тестовые среды надо тщательно изолировать. Для этого стоит использовать отдельные сети и учётные записи, ограничивать исходящий трафик и разрешать подключения только к проверенным адресам. Конечно, за действиями агентов тоже нужно следить и предусмотреть возможность быстро остановить их работу.
Вайбкодинг создает новые уязвимости внутри компаний
Программирование с нейросетью дало сотрудникам возможность самим создавать приложения, даже если у них нет опыта разработки. При этом человек может не понимать, как устроен сгенерированный код и что он делает. В результате в корпоративной инфраструктуре появляются инструменты, безопасность которых никто полноценно не проверял.
Такие приложения могут содержать уязвимости, передавать конфиденциальные данные внешним сервисам и получать избыточные права доступа. С поддержкой таких программ тоже возникают проблемы: сотрудник создал приложение, но со временем становится непонятно, кто отвечает за его безопасность и как его чинить при поломках.
Для снижения этих рисков нужно вводить отдельные правила безопасности вайбкодинга. Например, назначать ответственного за каждое приложение, ограничивать доступ к корпоративным данным и проверять сгенерированный код перед запуском.
ИИ помогает находить сложные цепочки уязвимостей
Отдельную опасность представляют цепочки уязвимостей, которые позволяют злоумышленникам последовательно проникать в разные корпоративные системы. Например, ошибка в публичном сервисе может открыть доступ к системе авторизации, а через неё — к внутренним репозиториям. ИИ помогает быстрее обнаруживать и проверять такие взаимосвязи.
Пример описала компания Hacktron, которая занимается исследованиями кибербезопасности и разрабатывает ИИ-агентов для поиска и эксплуатации уязвимостей. В июле 2026 года её исследователи с помощью Claude обнаружили и использовали две уязвимости: в обработке изображений на публичном форуме OpenAI и в корпоративной системе единого входа (SSO). Через форум они получили доступ к учётным записям сотрудников OpenAI, а затем с помощью Codex смогли создать тестовый запрос на изменение кода во внутреннем репозитории компании. Вся цепочка заняла около 72 часов. Исследователи сообщили об уязвимостях, а OpenAI выплатила им вознаграждение в размере 6500 долл.
Для защиты от подобных атак компаниям необходимо учитывать связи между системами, а не только отдельные уязвимости. Вот несколько способов: отслеживать зависимости программных компонентов с помощью SBOM (спецификации состава ПО), проверять связи между публичными сервисами и критической инфраструктурой, изолировать обработку пользовательских файлов. Чем меньше барьеров между системами, тем выше риск распространения атаки.
ИИ помогает находить уязвимости в популярном ПО
Ещё один пример — уязвимости PHP2Shell.
В октябре 2026 года разработчики PHP выпустили исправления для двух критических ошибок: CVE-2026-109618 и CVE-2026-109619. Их объединили под названием PHP2Shell. Обе связаны с обработкой памяти в самом PHP и в некоторых случаях позволяют выполнить код на сервере без пароля или других учётных данных.
Нашли уязвимости с помощью больших языковых моделей. Исследователи компании Calif сообщили о проблеме в августе 2026 года, независимо её подтвердили в OpenAI, а затем к анализу подключилась Wiz. В работе использовались генеративные модели, в том числе OpenAI. Исследователи направляли работу, проверяли результаты и готовили отчёт. Но ИИ заметно ускорил поиск сложной ошибки в коде, которая оставалась незамеченной много лет.
После выхода исправлений 21 октября интерес к уязвимостям резко вырос: разработчики опубликовали обновления, но миллионы сайтов и серверов ещё продолжали работать на старых версиях PHP. Чтобы защититься, владельцам нужно обновить ПО.
Уже на следующий день, по заявлению Cloudflare, число попыток взломов и использования уязвимостей достигло миллионов. 26 октября CISA добавила обе уязвимости в каталог активно используемых.
Исследователи также увидели успешное выполнение команд на honeypot — специально созданных серверах-ловушках с уязвимыми версиями PHP. Их оставляют доступными, чтобы наблюдать за действиями злоумышленников. В одном из наблюдений за короткое время три таких тестовых PHP-сервера 35 раз использовались через уязвимости PHP2Shell.
На момент публикации не было подтверждено, что злоумышленники сами использовали ИИ для атак. ИИ помог исследователям найти и проверить уязвимость, а затем информация о ней стала доступна всем, в том числе и злоумышленникам.
Этот случай показывает новую особенность: ИИ ускоряет не только атаки, но и поиск уязвимостей. Для защитников это возможность раньше находить и закрывать проблемы. Но если компания долго не обновляет популярные компоненты, те же возможности получают и злоумышленники.
Что делать сейчас
Компаниям стоит уже сейчас решить, для каких задач можно использовать ИИ и к каким системам и данным его можно подключать. Для каждого такого случая нужно определить ответственного и заранее установить границы: что инструменту разрешено делать самому, а где он должен запросить подтверждение.
Доступы лучше выдавать только необходимые для конкретной задачи. Тестовую среду нужно отделять от рабочей, а важные действия (например, удаление данных или изменение кода) проводить с подтверждением сотрудника. Действия инструмента важно записывать, чтобы при ошибке можно было понять, что произошло, и быстро остановить дальнейшую работу.
Приложения, созданные с помощью ИИ, тоже нужно проверять ещё до запуска. У каждого такого приложения должен быть человек, который отвечает за его работу и безопасность. Чем важнее приложение и чем больше данных оно использует, тем тщательнее должна быть проверка кода, доступов и сторонних компонентов.
Правила стоит периодически пересматривать: появляются новые инструменты, а вместе с ними — новые способы подключить их к корпоративным системам. Если заранее установить понятные ограничения и порядок проверки, компания сможет пользоваться ИИ и при этом лучше контролировать риски.
