ИИ в кибербезопасности может быть не только мечом, но и щитом. Рассмотрим, как именно он помогает защищать инфраструктуру, приложения и данные.
Хайпа нет, полет нормальный
Искусственный интеллект вошел в арсенал информационной безопасности не вчера и не сегодня. Пока защита самих ИИ-систем становится отдельным направлением рынка, а использование ИИ злоумышленниками активно обсуждается, машинное обучение в средствах защиты давно стало привычным инструментом. Модель в продукте сама по себе уже мало кого удивляет. Заказчику важнее не то, используется ли внутри ИИ, а какую задачу он решает: помогает ли быстрее обнаруживать угрозы, снижать нагрузку на аналитиков или точнее выделять подозрительную активность. И отсутствие ажиотажа здесь скорее хороший знак. На первый план выходит результат, который можно измерить.
Особенно заметен этот эффект там, где приходится работать с большими потоками событий. Например, SIEM собирает и сопоставляет данные из разных источников, а NGFW анализирует сетевой трафик и применяет политики безопасности. Модели машинного обучения могут дополнять традиционные правила: выявлять аномалии, находить нетипичные последовательности действий и помогать расставлять приоритеты среди срабатываний. Но обещать, что одна только модель автоматически повысит и скорость, и точность, было бы неправильно. Результат зависит от качества данных, выбранного сценария и того, как модель встроена в продукт. Сильный эффект появляется тогда, когда аналитик тратит меньше времени на шум и больше — на действительно значимые события.
Еще одно направление — безопасность приложений. Инструменты статического анализа исходного кода (SAST) могут выдавать много находок, которые требуют дополнительной проверки. Здесь ИИ полезен для первичного разбора: он помогает группировать схожие результаты, учитывать контекст кода, предполагать вероятность ложного срабатывания и формировать очередь для проверки специалистом. Вместо неструктурированного перечня из сотен находок команда получает более понятную картину рисков. Важная оговорка: низкий приоритет не означает, что уязвимости точно нет. Поэтому автоматически отбрасывать результаты только на основании вывода модели нельзя, особенно когда речь идет о критичных приложениях.
Отдельная тема — ложные срабатывания. Иногда можно услышать, что ИИ обязательно делает детектирование менее предсказуемым, но и обратное обещание, будто модель сама устранит весь шум, столь же неверно. Ложные срабатывания и пропущенные угрозы возможны как у правил, так и у моделей. Их соотношение зависит от данных, порогов детектирования, условий эксплуатации и регулярной проверки качества. Поэтому оценивать ИИ нужно не по красивой демонстрации, а по метрикам в реальной среде: сколько полезных сигналов он выделил, сколько ложных тревог добавил и что мог пропустить.
Сначала — цель, потом — внедрение
Несмотря на зрелость отдельных сценариев машинного обучения в киберзащите, внедрение ИИ не гарантирует улучшения продукта. Модель может решить действительно дорогую для заказчика задачу, а может добавить задержки, стоимость эксплуатации, новые зависимости и риски без заметной пользы. Поэтому начинать нужно с простого вопроса: какую именно проблему мы собираемся решить? А уже затем выбирать технологию и определять, как измерим результат.
На практике обычно сталкиваются два подхода. Первый — внедрить ИИ, потому что он уже есть у конкурентов. Второй — увидеть конкретную проблему: например, аналитики слишком долго разбирают однотипные срабатывания, а разработчики теряют время на ручную сортировку находок. И только после этого проверить, поможет ли здесь модель. Причем иногда достаточно правил, статистических методов или давно проверенных алгоритмов машинного обучения. Большая языковая модель (LLM) нужна далеко не в каждом сценарии: для детектирования аномалий и для понятного объяснения срабатывания пользователю могут потребоваться совершенно разные решения.
Именно на этой развилке продуктовые команды часто ошибаются. Если добавлять LLM ради самого факта ее наличия, легко получить усложнение архитектуры, рост стоимости и задержек, а также дополнительные требования к безопасности и контролю качества ответов. У ИИ может быть и вспомогательная роль, и самостоятельная продуктовая функция. Вопрос в другом: становится ли защита лучше для конкретного пользователя? Если мы можем показать, что сократилось время расследования, улучшилась приоритизация уязвимостей или снизилась доля бесполезных срабатываний без неприемлемого роста пропусков, внедрение имеет смысл. Если таких результатов нет, самая современная модель остается лишь дорогой галочкой в списке возможностей продукта.
