Исследование Zscaler «All Eyes on Securing GenAI» подчеркивает, что компаниям необходимо соизмерять потенциал инструментов генеративного ИИ (GenAI) с эффективными стратегиями безопасности, пишет на портале Network Computing Зьюс Керравала, основатель и главный аналитик компании ZK Research.

По мере развития технологий организации постоянно ищут новейшие и лучшие инструменты, которые помогут им опередить конкурентов. Однако новое исследование, проведенное компанией Zscaler, выявило тревожную тенденцию, когда организации спешат внедрить инструменты GenAI, несмотря на опасения по поводу безопасности.

Исследование основано на опросе 901 руководителя ИТ-подразделений компаний с численностью сотрудников от 500 человек, работающих на десяти мировых рынках. Опрос проводился в октябре 2023 г. компанией Sapio Research.

Выводы поражают: подавляющее большинство организаций используют инструменты GenAI, такие как ChatGPT, в различных формах. При этом 57% организаций используют GenAI в полной мере, а 38% подходят к его применению осторожно. Наиболее распространенными сценариями использования являются анализ данных (78%), разработка R&D-сервисов (55%), маркетинг (53%), задачи конечных пользователей (44%) и логистика (41%).

Однако наряду с таким быстрым внедрением наблюдается значительное осознание потенциальных рисков безопасности: 89% организаций признают эту озабоченность. Удивительно, но в значительной части организаций (23%) отсутствует какая-либо форма мониторинга использования инструментов GenAI, что свидетельствует о пробелах в практике обеспечения безопасности. Среди основных причин беспокойства — потенциальная потеря конфиденциальных данных, ограниченность ресурсов для контроля использования и непонимание преимуществ/опасностей.

Еще одним важным моментом является роль ИТ-команд в стимулировании внедрения инструментов GenAI. Вопреки ожиданиям, не рядовые сотрудники, а ИТ-специалисты являются основными пользователями и пропагандистами GenAI. Действительно, 59% респондентов заявили, что движущей силой использования GenAI являются ИТ-команды, а 21% — что это делают руководители компаний. Лишь 5% респондентов назвали своих сотрудников инициаторами внедрения GenAI.

Несмотря на осознание потенциальных рисков, многие компании, особенно небольшие, продолжают внедрять инструменты GenAI. В компаниях с числом сотрудников от 500 до 999 человек уровень внедрения отражает общую тенденцию (95% организаций используют инструменты GenAI). Однако уровень признания связанных с этим рисков также высок — 94%.

Исследование также указывает на критическое окно возможностей для организаций в решении растущих проблем безопасности. Если ИТ-команды возьмут на себя ведущую роль, то у компаний появится возможность стратегически контролировать темпы внедрения GenAI и укреплять меры безопасности. Такой упреждающий подход крайне важен, поскольку 51% респондентов ожидают всплеска интереса к GenAI до конца года. Это означает, что организации должны незамедлительно принять меры по устранению разрыва между использованием и безопасностью.

Как проводить внедрение GenAI

Для решения этих проблем Zscaler предлагает руководителям предприятий несколько рекомендаций:

  • Внедрить архитектуру нулевого доверия для авторизации одобренных приложений и пользователей.
  • Проводить тщательную оценку рисков безопасности для новых ИИ-приложений.
  • Создать комплексные системы протоколирования взаимодействия с ИИ.
  • Внедрить специфичные для ИИ-активностей меры по предотвращению утечек данных (DLP) на основе нулевого доверия.

Таким образом, исследование подчеркивает, что компаниям необходимо соизмерять потенциал инструментов GenAi с эффективными стратегиями безопасности, чтобы обеспечить безопасное использование этой новой технологии в каждой организации, независимо от ее размера.