По прогнозам Gartner, к 2023 г. более 10% работников будут искать возможности обмануть ИИ-системы отслеживания поведения и измерения производительности сотрудников, пишет портал Information Age.
Современные системы отслеживания все больше используют искусственный интеллект для регистрации действий сотрудников. Учитывая, что они находят все более широкое применение в условиях пандемии Covid-19, Gartner прогнозирует, что компании будут все чаще сталкиваться с работниками, которые стремятся уклониться от слежки.
Системы на основе ИИ используются работодателями для анализа поведения работников таким же образом, как ИИ используется для понимания клиентов — с ведением журнала основной активности и уведомлениями. Более сложные версии могут пытаться обнаруживать положительные действия или неправильное поведение с помощью многопараметрического анализа. Расширение использования этих систем происходит на фоне растущего процента работников, выступающих против таких инструментов.
Еще до пандемии исследования Gartner показали, что работники опасаются новых технологий, используемых для отслеживания и мониторинга привычек работников. Это может привести к тому, что из-за пробелов в собранных данных метрики не буду адекватно фиксировать активность, ответственность будет размыта или ИИ может быть обманут ложными или запутанными данными.
Подобные ситуации уже были выявлены в цифровых организациях, например в службах такси, когда водители иногда одновременно работают на два разных сервиса с целью максимизации личных доходов.
«Многие предприятия делают окончательный переход на полностью или не полностью удаленную работу, который может быть как дорогостоящим, так и требовать культурных изменений», — сказал Уит Эндрюс, заслуженный вице-президент по исследованиям Gartner. По его словам, для управленческих культур, которые привыкли полагаться на прямое наблюдение за поведением сотрудников, удаленная работа усиливает мандат на цифровой мониторинг деятельности работников, в некоторых случаях через ИИ.
«Как это уже происходило с другими технологиями, направленными на ограничение своих пользователей, работники быстро обнаружат пробелы в стратегиях надзора на основе ИИ. Они будут делать это по целому ряду причин, например, стремясь скрыть низкую рабочую нагрузку, ради лучшей оплаты или просто вопреки. Некоторые даже могут относиться к обману инструментов мониторинга на основе ИИ как игре, направленной на дискредитацию метрик, используемых руководством», — пояснил Эндрюс.
Для борьбы с возможным обманом систем отслеживания на основе ИИ он рекомендует ИТ-лидерам, которые рассматривают возможность развертывания инструментов мониторинга производительности с поддержкой ИИ, сначала внимательно изучить источники данных, дизайн с учетом пользовательского опыта и первоначальный сценарий использования, предназначенные для этих инструментов, прежде чем инвестировать.
«Определите, отвечает ли цель и объем сбора данных задаче улучшения работы сотрудников. Для тех, кто решит инвестировать: убедитесь, что технология внедряется этически корректно, проверьте ее на соответствие ключевому набору принципов проектирования, ориентированного на человека», — заключил Эндрюс.
