Искусственный интеллект не переписывает правила кибербезопасности — он значительно усиливает привычные атаки. Эдер Рибейро, директор по реагированию на инциденты компании TransUnion, объясняет на портале InformationWeek, какие угрозы, связанные с ИИ, заслуживают внимания и какие риски по-прежнему доминируют в сфере реагирования на инциденты.

С учетом того, что ИИ доминирует в заголовках новостей о кибербезопасности (и большинстве других областей), кажется, что он переписал ландшафт угроз. Дипфейки, инъекции промптов, атаки на большие языковые модели и автономные взломы с использованием ИИ говорят о том, что мы, возможно, переживаем важный переломный момент в кибербезопасности.

Некоторые из этих угроз реальны, особенно для организаций, активно использующих агентов ИИ. Но этот нарратив часто затмевает более важную реальность: самые большие угрозы, с которыми сталкивается большинство предприятий, исходят не от злоумышленников, взламывающих защиту с помощью новых атак на основе ИИ. Судя по тому, что я вижу в области глобального реагирования на киберинциденты, успешные атаки по-прежнему основаны на знакомых, проверенных тактиках.

Наиболее эффективными инструментами в арсенале злоумышленников остаются фишинг, кража учетных данных, выдача себя за другое лицо и социальная инженерия. Отличие заключается в том, что ИИ помогает осуществлять эти атаки быстрее, в бóльших масштабах и с таким уровнем мастерства, которого раньше было сложнее достичь.

Понимание разницы между преувеличенными рисками ИИ и угрозами, с которыми команды безопасности сталкиваются каждый день, имеет решающее значение для практического подхода к кибербезопасности.

Отделение реальности от шумихи вокруг ИИ

Несмотря на опасения, что ИИ устранит технические барьеры для киберпреступности, успешные атаки по-прежнему требуют значительных экспертных знаний. Возьмем, например, широко обсуждаемые атаки с инъекцией промптов. Эти атаки включают в себя манипулирование системой ИИ для раскрытия информации или использование вредоносных промптов, чтобы заставить ее выполнять действия, которые она не должна выполнять. Хотя исследователи безопасности продемонстрировали успешные подобные атаки — и организации, внедряющие инструменты ИИ, должны понимать и защищаться от таких рисков — такие атаки не так просты и легки, как может показаться.

Манипулирование корпоративными системами ИИ, которые использует большинство организаций, требует времени, доступа к целевой среде и технического уровня, которыми многие злоумышленники не обладают. Организации, применяющие зрелые передовые модели ИИ, получают выгоду от существенных встроенных средств контроля безопасности, предназначенных для ограничения злоупотреблений.

Недавние события, такие как июльский инцидент безопасности, связанный с оценочными моделями OpenAI и Hugging Face, демонстрируют, что продвинутые атаки с использованием ИИ не являются чисто теоретическими. Однако сегодня они остаются исключением.

Организациям следует бороться с инъекцией промптов без отвлечения внимания от уязвимостей в системе идентификации и доступа, лежащих в основе большинства успешных инцидентов.

Те же угрозы, но усиленные

Новые методы атак с использованием ИИ, такие как инъекция промптов, привлекают внимание, потому что они новые и тревожные. По сравнению с ними программы-вымогатели кажутся чем-то из прошлого. Тем не менее, несмотря на более чем 15 лет борьбы с ними, программы-вымогатели остаются одной из самых разрушительных и дорогостоящих киберугроз, с которыми сталкиваются организации.

Малые и средние предприятия остаются частыми целями программ-вымогателей, потому что их режимы резервного копирования данных часто менее частые или менее тщательные. Хотя некоторые злоумышленники могут хвастаться использованием ИИ — часто в качестве психологической тактики — основные методы эффективных атак с использованием программ-вымогателей хорошо известны: фишинг, кража учетных данных или социальная инженерия, сбор учетных данных, латеральное перемещение и запуск вредоносного ПО.

Программы-вымогатели могут считаться чем-то устаревшим, но их атаки по-прежнему наносят ущерб организациям.

Аналогично, по-прежнему распространена компрометация корпоративной электронной почты. Доступные инструменты, такие как фишинговые наборы, позволяют даже начинающим злоумышленникам присылать убедительные фишинговые письма, которые направляют получателей на поддельные страницы входа, предназначенные для кражи учетных данных. Оказавшись внутри, они могут отслеживать активность, ожидая подходящего момента для перехвата управления и получения выгоды.

ИИ доказал свою исключительную ценность как инструмент для ускорения, масштабирования и значительного повышения убедительности традиционных атак.

Где ИИ создает реальные широкомасштабные проблемы

Если и есть область, где ИИ явно меняет ландшафт угроз, то это социальная инженерия. Человеческий фактор остается одной из наиболее уязвимых аспектов системы безопасности организации.

ИИ способен создавать практически нераспознаваемые фишинговые электронные письма и мошеннические веб-сайты. Агенты ИИ могут генерировать реалистичные поддельные документы и персонализированные сообщения с минимальными усилиями, позволяя злоумышленникам быстро адаптировать сообщения для конкретных отраслей или целей. Если злоумышленники уже взломали систему электронной почты, они будут знать, когда отправить идеально рассчитанный мошеннический запрос на оплату.

Технология дипфейков еще больше расширила эти возможности, поскольку сообщения, которые выглядят и звучат аутентично, убедительно имитируют руководителей, сотрудников и деловых партнеров.

Организациям следует развивать свои программы повышения осведомленности, выходя за рамки традиционных тревожных сигналов, таких как подозрительный язык или несоответствие доменов отправителей. Им необходимо следовать установленным процедурам утверждения, особенно для финансовых транзакций.

Угроза ИИ не ограничивается атакой

Еще одна возникающая проблема — это роль, которую ИИ играет после того, как злоумышленник получает легитимный доступ к сети, часто с помощью украденных учетных данных. Все чаще корпоративные агенты ИИ предоставляют злоумышленникам потенциальный путь к системам знаний, которые агрегируют информацию по всей организации.

Злоумышленники, использующие доверенных ИИ-агентов («Living‑off‑the‑Agent», LoTA), могут взаимодействовать с агентами корпоративной платформы ИИ в качестве авторизованного пользователя, задавая вопросы и находя конфиденциальные данные. Такие атаки особенно сложны, поскольку их действия часто неотличимы от легитимного поведения пользователя. Злоумышленник не использует уязвимость в платформе ИИ; он использует уже имеющийся доступ.

Риски, связанные с использованием ИИ сотрудниками

Наконец, особую обеспокоенность вызывает несанкционированное использование ИИ сотрудниками. В этом году 63% из 2000 респондентов опроса BlackFog о теневом ИИ сообщили, что считают допустимым использование инструментов ИИ без одобрения работодателя, если нет санкционированного компанией варианта, при этом 58% используют менее безопасные бесплатные версии.

Проблема в том, что организации не могут контролировать инструменты ИИ, о которых они не знают.

Когда сотрудники вводят конфиденциальную внутреннюю информацию или бизнес-данные в несанкционированные платформы ИИ, они непреднамеренно создают новые точки уязвимости. Из-за широкого распространения теневой ИИ представляет собой более непосредственный и практический риск, чем любая сложная эксплойт-атака на основе ИИ.

Четкое определение политики использования ИИ сотрудниками и поддержание видимости ИИ в масштабах всей организации должны быть частью любой стратегии управления ИИ.

Сосредоточьтесь на том, что действительно важно

ИИ трансформирует ландшафт кибербезопасности. Но для большинства организаций наибольшие риски не связаны с тем, что привлекает внимание руководителей или попадает в заголовки отраслевых новостей.

Большинство успешных инцидентов по-прежнему начинаются с компрометации личных данных, фишинговых кампаний, слабого контроля доступа и человеческой ошибки.

Организации по-прежнему могут повысить свою устойчивость, укрепляя безопасность идентификационных данных, внедряя надежную многофакторную аутентификацию, повышая устойчивость к фишингу и осознанно подходя к развертыванию ИИ. Будущее кибербезопасности будет связано с ИИ, но устранение рисков, которые злоумышленники используют сегодня, остается основой надежной стратегии безопасности.