В условиях развития агентного искусственного интеллекта плохое управление (governance) данными рискует усилить предвзятость и ошибочные решения. Управление должно стать основой для надежного ИИ реального времени, пишет на портале InformationWeek Эрин Хамм, директор по данным в DataBee, принадлежащей компании Comcast.

В течение многих лет управление рассматривалось как налог, который вы платите, чтобы избежать проблем — это было что-то, что вы делали реактивно, минимально и в основном для удовлетворения требований аудиторов. Это уже была неэффективная модель, но теперь агентный ИИ сделал ее неприемлемой.

Развитие ИИ, особенно агентного, коренным образом изменило ожидания в отношении управления данными. Речь идет уже не только о соблюдении нормативных требований и ответственном управлении, но и об обеспечении надежных результатов ИИ.

Теперь, когда ИИ получил широкое распространение, предприятия выходят за рамки экспериментов и начинают внедрять агентный ИИ и автономную бизнес-аналитику (BI) в операционные рабочие процессы и отчетность. Эти технологии выступают в качестве интеллектуальных «вторых пилотов» для автоматизации повторяющихся задач, проактивного выявления закономерностей и даже инициирования действий на основе предопределенных параметров управления и рисков.

Однако успех зависит от готовности данных. Агентный ИИ процветает благодаря контекстно-насыщенным, высококачественным данным. Современным организациям необходимо уделять гораздо больше внимания данным, используемым для построения моделей ИИ, чтобы гарантировать их точность и происхождение. Без надежной архитектуры данных и управления ими эти системы рискуют усилить предвзятость или принятие бизнес-решения на основе неполной информации.

Расширение сферы управления

По мере распространения ИИ в организациях становится ясно, что необходим более строгий подход к управлению. Эта новая волна внедрения ИИ высвечивает необходимость расширения сферы деятельности команд управления, включая:

  • Контроль за предвзятостью и справедливостью. Наборы данных, используемые для ИИ, должны быть репрезентативными и свободными от системной предвзятости, однако большинство организаций не знают, что содержится в их обучающих наборах. Это не провал науки о данных, а скорее ситуация, когда управление должно вмешаться и помочь им получить необходимые знания.
  • Происхождение данных и прозрачность. Если команды не могут отследить происхождение данных, они не могут защитить результаты ИИ. Надлежащая политика обеспечит четкую видимость происхождения данных и их преобразования до того, как они достигнут систем ИИ.
  • Динамическое управление рисками. ИИ вносит новые риски, такие как дрейф моделей и галлюцинации, которые требуют тесного сотрудничества команд управления с командами безопасности и управления рисками. Это уже не только ИТ-проблемы; это проблемы управления рисками — и командам управления необходимо место за этим столом.

За последние пару лет работа по управлению эволюционировала от преимущественно ориентированной на соответствие нормативным требованиям к стратегическому компоненту цифровой трансформации. Эффективные команды управления теперь тесно сотрудничают с командами безопасности, ИИ/машинного обучения и облачных операций для управления рисками и обеспечения инноваций во всей организации. Аналогичным образом, вместо реактивных аудитов после завершения цикла, управление может быть интегрировано в процессы жизненного цикла данных, уменьшая трение и повышая гибкость.

Проблема неоперационализированного управления

Наиболее распространенный вид неудачи — это не сопротивление внедрению ИИ, а управление посредством служебной записки. Когда речь идет об ИИ и его эффективном использовании, организации выигрывают от подхода, ориентированного на управление, с четко определенными ролями и обязанностями, а также ясной структурой использования ИИ в повседневной работе. Организациям может быть проще просто сказать «нет» ИИ, но это было бы ошибкой. Вместо этого им следует продумать все аспекты и разработать руководящие принципы, позволяющие людям использовать инструменты ИИ для повышения производительности.

Организации со зрелыми, интегрированными практиками управления должны увидеть значительные улучшения. Они лучше подготовлены к ответственному использованию ИИ, снижению регуляторных рисков и поддержанию доверия клиентов при одновременном ускорении получения инсайтов.

Управление с включением ИИ в цикл

Эффективность и безопасность в управлении данными все чаще обеспечиваются интеграцией и автоматизацией. Организации, которые правильно подходят к этому вопросу, внедряют следующее:

  • Унифицированная видимость данных. Команды не могут управлять тем, чего не видят. Переходите к платформам, которые объединяют данные из нескольких источников в единое, нормализованное представление. Это уменьшает разрозненность и упрощает последовательное применение политик управления.
  • Политика как код. Применение правил в режиме реального времени всегда превосходит ретроспективные проверки. Внедряйте правила управления непосредственно в конвейеры обработки данных, обеспечивая реагирование в режиме реального времени, а не проверки постфактум.
  • Управление с приоритетом безопасности. С учетом стремительного роста объемов данных в гибридных и мультиоблачных средах происходит конвергенция управления с кибербезопасностью. Команды должны уделять приоритетное внимание безопасному обмену данными и мониторингу аномалий в рамках рабочих процессов управления.
  • Управление с помощью ИИ. ИИ следует использовать для классификации данных, выявления пробелов в соответствии нормативным требованиям и выработки рекомендаций по их устранению, освобождая человеческие команды для принятия более важных решений. Цель состоит не в замене команд управления на ИИ, а в том, чтобы прекратить заваливать их ручной работой.

Управление имеет возможность стать фактором, способствующим развитию бизнеса, а не узким местом. Когда управление автоматизировано и интегрировано с безопасностью, организации могут быстрее внедрять инновации, сохраняя при этом доверие и соответствие нормативным требованиям.

ИИ в управлении станет конкурентным преимуществом

Организации, которые сейчас опережают конкурентов, — это не те, у кого самый сложный ИИ. Это те, чьи данные действительно готовы к его использованию: нормализованы, отслеживаемы, управляются в режиме реального времени и связаны во всех рабочих процессах безопасности. Эта готовность возникла не случайно, а благодаря архитектурным решениям, принятым задолго до того, как были определены сценарии использования ИИ.

Устаревшие системы, которые не могут поддерживать обмен данными в режиме реального времени или автоматизацию управления, не только замедляют работу, но и создают накопленный риск, который усугубляется с каждой последующей ИИ-инициативой. Поэтому предприятиям следует уделять больше внимания нативным облачным архитектурам, тканям данных и экосистемам на основе API, поскольку это необходимые условия для масштабируемого ИИ.

Готовое к ИИ управление не является необязательным, оно является основополагающим. Отстающие проигрывают не потому, что выбрали неправильную модель, а потому, что построили ее на основе данных, которым не могут доверять.