Проблема заключается в том, чтобы поставить людей на первое место в любом ИИ-проекте. Портал ZDNet приводит рекомендации ИИ-специалистов по созданию ориентированной на людей и в тоже время управляемой ИИ корпоративной культуры.

Как признают люди, отвечающие за проектирование, создание и внедрение ИИ — от инженеров по данным до разработчиков, — ИИ является мощным механизмом для расширения человеческих знаний и навыков и повышения эффективности. Но как сторонники ИИ могут использовать его для исправления нездоровой или токсичной корпоративной культуры? Это, пожалуй, самая сложная проблема при внедрении ИИ.

Предприниматели и эксперты, находящиеся на переднем крае ИИ-революции, признают, что одной технологией эту задачу не решить. «ИИ не может решать задачи, в которых уже есть глубинные проблемы, например, культура компании или отсутствие доверия со стороны клиентов, — говорит Стефан Болдуин, основатель Assisted Living Center. — Они определяются принципами формирования повседневной внутренней и внешней работы компании».

Одна из проблем, указывает он, заключается в том, что «модели ИИ действуют на основе исторических данных, а это значит, что они подвержены предубеждениям, которые были у нас, людей, при сборе информации. Иногда автоматизированный процесс не учитывает людей, которыми он управляет».

Ниже представлены рекомендации по созданию культуры, ориентированной на людей и управляемой ИИ.

Выведите ответственность за ИИ за пределы ИТ-отдела. ИИ должен быть инициативой масштаба всего предприятия, в которой участвуют все стороны. «Успешное и продуктивное внедрение ИИ — это межфункциональная работа, выходящая далеко за рамки только науки о данных, — говорит доктор Майкл Ву, главный ИИ-стратег компании PROS. — Расширенные команды должны быть составлены из представителей технической стороны, включающей ИТ и облачные операции для обеспечения безопасности и управления данными, и бизнес-стороны, включающей управление изменениями, подготовку кадров, внедрение, лучшие практики».

Признайте, что ИИ — это просто код. Это не какая-то таинственная темная магия, способная перехитрить человека. «ИИ больше не является волшебством, и предприятия, похоже, теперь понимают это, — говорит Бируд Шет, соучредитель и генеральный директор компании Gupshup. — ИИ не пытается заменить человека, а способен вести беседу в более человекоподобной манере, обладая силой автоматизации и интеллектом, которая может быть у машины».

Направьте ИИ в те области, где он наиболее эффективен. Ву отмечает, что наилучший выбор направлений для продвижения и запуска ИИ сильно зависит от отрасли. «Общее заключается в том, что организации должны иметь надежный источник чистых и богатых данных в качестве сопутствующего продукта обычной деловой активности, — говорит он. — Например, компании с крупными центрами поддержки часто ведут оперативный учет происшествий и решений. Данные о транзакциях в организациях, занимающихся продажами, как правило, достаточно чистые, поскольку они необходимы для надлежащей бухгалтерской практики. Эти данные будут подпитывать ИИ/MО по мере его обучения. С другой стороны, хотя у маркетинговых организаций также много данных, они зачастую зашумленные и требуют очистки, прежде чем их можно будет использовать в производственных моделях».

Наибольшую перспективу для ИИ Шет видит в отделах поддержки клиентов, подразделениях обнаружения новых продуктов и отделах по работе с сотрудниками в клиентских организациях. «Значительный прогресс в области языкового разбора и машинного обучения обеспечил ускорение обработки запросов в службу поддержки, — говорит он. — Прогнозирование и управление контекстом на основе ИИ позволяют использовать механизмы точного обнаружения через более простые интерфейсы, такие как чаты. Механизмы познания на основе МО делают разрешение запросов и решение проблем поддержки на основе политик достаточно точными и простыми для развертывания на защищенных каналах, таких как MS Teams и прогрессивные веб-приложения».

Исследуйте и продвигайте наиболее эффективные технологии. По словам Ву, наиболее эффективны оптимизация ценообразования, предиктивное обслуживание и технологии разговорного ИИ, поскольку данных, необходимых для обучения и дальнейшей подпитки этих технологий по мере их обучения, как правило, много. Их внедрение также не требует серьезных изменений в работе предприятия. Кроме того, поскольку существует множество поставщиков, предлагающих эти решения, общая стоимость владения относительно невелика по сравнению с тем влиянием на доходы, которое эти технологии способны обеспечить.

Шет видит наибольший потенциал в многоязычной NLP, МО и предиктивном ИИ.

Обеспечьте справедливость ИИ за счет большей прозрачности. Чтобы добиться признания и поддержки ИИ на предприятии, полученные результаты должны быть максимально справедливыми и свободными от предвзятости. «Прозрачность и справедливость необходимы для успеха ИИ, поскольку такой ИИ вызывает доверие, информируя сотрудников и клиентов о том, как ими управляют, — говорит Болдуин. — Есть много примеров неправильного функционирования ИИ, и вам, как компании, меньше всего хочется быть не в состоянии объяснить, почему произошла ошибка».

Однако, по словам Ву, предстоит еще многое сделать в этом направлении. «Многие отрасли, начинающие использовать ИИ, больше сосредоточены на том, чтобы заставить свой ИИ работать и достичь положительной рентабельности инвестиций в первую очередь с помощью ограниченных данных, которые у них есть. Для этих отраслей справедливость не является непосредственным приоритетом, хотя она постоянно присутствует в корпоративных повестках. Хотя все говорят о приоритетности этики и справедливости ИИ, не все предпринимают действия для борьбы с предвзятостью».

Поощряйте осведомленность и обучение справедливому и действенному ИИ ИТ-руководителей и персонала. Руководители и сотрудники ИТ-отделов должны проходить обучение и повышать осведомленность, чтобы уменьшить предвзятость в отношении ИИ, считает Шет. «ИИ настолько хорош, насколько хороши данные, которые мы ему предоставляем. Поскольку за обучающие данные отвечают люди, существует большая вероятность того, что наши алгоритмы ИИ могут быть испорчены человеческой предвзятостью или в них со временем обнаружится влияние каких-то неблагоприятных выборок. Мы можем определить различные модели, которые могут помочь в принятии лучших и справедливых решений, но наряду с этим бизнес-лидеры должны знать о проблеме предвзятости в отношении данных и принимать правильные решения, чтобы помочь устранить ее».

Поощряйте осведомленность и обучение справедливому и действенному ИИ на всех уровнях организации. ИИ может быть корпоративной задачей, но именно ИТ-лидеры должны возглавить процесс обеспечения должного качества ИИ. «Обучение и тренинги для ИТ-руководителей и персонала — это хорошее начало, но зачастую этого недостаточно, — говорит Ву. — Смягчение предвзятости ИИ должно быть обязанностью каждого, как и безопасность данных, поскольку это сродни деловой этике компании».

В то же время, добавляет он, «сотрудникам часто нужен какой-то стимул, который будет мотивировать их к проявлению нового профессионального поведения, пока оно не стало второй натурой. Эти стимулы не всегда должны быть связаны с деньгами. Например, корпоративная геймификация может быть использована для повышения осведомленности и интереса к снижению предвзятости ИИ. В рамках предприятия ее можно использовать для стимулирования позитивного поведения, помогающего выявить эти предвзятости, и даже краудсорсинга для поиска потенциальных решений».

Регулярный анализ результатов ИИ также является обязательным условием успеха, говорит Шет: «На самом деле, это один из тяжело усвояемых уроков для компаний, занимающихся ИИ, — всегда иметь человека в обойме». Он рекомендует «регулярно проверять результаты ИИ, отобранные случайным образом, чтобы убедиться, например, что все слои населения адекватно представлены в случайной выборке».

По словам Шета, у конечных пользователей не всегда есть время и желание давать отзывы о неоптимальных результатах ИИ. «Активно и регулярно оценивайте эффективность ваших моделей. Отзывы рецензентов должны автоматически учитываться в следующем раунде обучения модели. Такая практика не позволит моделям устаревать и терять актуальность», — полагает он.