Аналитики предполагают, что браузеры с агентными функциями сегодня создают неприемлемый риск для руководителей служб информационной безопасности (CISO), поскольку утечка данных стала одной из главных проблем безопасности, но далеко не единственной, сообщает портал ZDNet.

Аналитики Gartner предупреждают, что компаниям следует пока избегать браузеров с агентными функциями, также известных как браузеры с ИИ, которые меняют то, как мы используем браузеры для доступа к Интернету, выполнения поисковых запросов и управления рабочими процессами.

Поскольку ИИ уже внедрился практически во все отрасли, было лишь вопросом времени, когда эти технологии проникнут на рынок веб-браузеров.

Известные разработчики браузеров изучают преимущества и потенциальные области применения ИИ в функциях поиска, помощи пользователям, поддержке и безопасности, а интерес к браузерам с агентными функциями привел к появлению множества более мелких компаний, и теперь браузеры с ИИ предлагаются такими ИИ-организациями, как OpenAI и Perplexity.

Браузеры с ИИ могут быть полезны для исследовательских целей, обобщения контента и персонализации. Они могут сэкономить вам время и повысить эффективность — но это не означает, что каждый ответ чат-помощника на основе большой языковой модели LLM является правильным, и это не означает, что браузеры с ИИ по своей природе безопасны.

В аналитическом отчете и рекомендациях Gartner Research «Cybersecurity Must Block AI Browsers for Now», опубликованных 1 декабря, аналитики сообщают, что, хотя агентные браузеры потенциально могут революционизировать наше взаимодействие с веб-сайтами и выполнение онлайн-действий, они также создают «критические риски кибербезопасности». «CISO должны блокировать все браузеры с ИИ в обозримом будущем, чтобы минимизировать риски», — заявила Gartner.

Объяснение рисков браузеров с ИИ

По словам аналитиков Gartner Денниса Сюй, Евгения Миролюбова и Джона Уоттса, главная проблема заключается в том, что «настройки браузера с ИИ по умолчанию ставят пользовательский опыт выше безопасности».

Поскольку такие браузеры способны работать независимо, взаимодействовать с веб-сайтами и выполнять задачи от имени пользователя, а также отображать контент, который может побудить пользователя к определенным действиям — даже если этот контент является вредоносным — существуют очевидные риски их использования как в потребительском, так и в деловом контексте.

Например, чат-бот с ИИ может непреднамеренно взаимодействовать со вредоносным веб-сайтом, или сотрудник может передать конфиденциальные, важные корпоративные данные ИИ-помощнику, не зная, где будет храниться эта информация. Если облачный бэкенд, используемый ИИ, небезопасен, это в конечном итоге может привести к утечке данных или инциденту безопасности, который поставит бизнес под угрозу.

Кроме того, Gartner отметила, что сотрудники могут испытывать соблазн использовать браузеры или помощников на основе ИИ для автоматизации повторяющихся задач. Хотя ИИ может улучшить рабочие процессы и повысить эффективность, его использование таким образом может также иметь непредвиденные последствия — например, сотрудник может использовать его для прохождения обучения по кибербезопасности, ничему при этом не научившись.

Почему это важно

Gartner — далеко не единственная организация, бьющая тревогу по поводу потенциальных последствий для кибербезопасности, связанных с браузерами и помощниками на основе ИИ.

Эксперты по безопасности внимательно следят за эволюцией браузеров с ИИ и предупреждают о многих потенциальных проблемах кибербезопасности, связанных с их регулированием, включая появление атак с инъекцией промптов, кражу и утечку персональных данных, а также повышенный риск слежки, ставящей под угрозу нашу личную безопасность.

Gartner рекомендует предприятиям проводить оценку рисков решений на основе ИИ, а также любых связанных с ними бэкэнд-систем, поскольку такие проверки безопасности могут показать, считаются ли браузеры с ИИ приемлемым риском для безопасности. Учитывая их новизну и неизученность, ответ, скорее всего, отрицательный.

В этом случае, по мнению Gartner, CISO следует рассмотреть возможность полного запрета использования браузеров с ИИ. Однако в любом случае сотрудники должны быть обучены опасностям чрезмерной зависимости от ИИ — и тому, почему им не следует раскрывать конфиденциальную информацию при взаимодействии с ИИ-программами.

«Хотя агентные браузеры обещают множество функций для улучшения пользовательского опыта, мы все еще находимся на ранних этапах, когда риски недостаточно изучены, а конфигурации по умолчанию ставят удобство выше безопасности, что мы наблюдаем во многих технологиях, — прокомментировал Джаввад Малик, ведущий специалист по повышению осведомленности в области безопасности компании KnowBe4. — Однако повсеместные запреты редко являются устойчивыми долгосрочными стратегиями. Вместо этого следует сосредоточиться на оценке рисков конкретных ИИ-сервисов, лежащих в основе этих браузеров. Это позволит обеспечить постепенное внедрение при сохранении необходимого контроля».