Использование искусственного интеллекта в государственном секторе расширяется, однако проблемы с данными, устаревшими системами и механизмами управления сдерживают эффективное масштабирование этой технологии, отмечают опрошенные порталом AI Business эксперты.

Государственные структуры переходят от экспериментов с ИИ к его полномасштабному внедрению, отчасти под давлением общественного запроса на более оперативное оказание услуг и ощутимые результаты — запроса, темпы роста которого опережают возможности самих ведомств.

Согласно недавнему глобальному исследованию Capgemini Research Institute «Data and AI in government», охватившему 600 руководителей высшего звена организаций госсектора, чуть более половины государственных организаций изучают возможности, проводят пилотные проекты или уже внедряют агентный ИИ (системы, способные самостоятельно принимать решения и выполнять действия).

Тем не менее, темпы внедрения зачастую опережают развитие систем управления и контроля, необходимых для регулирования работы таких ИИ-агентов: менее четверти респондентов заявили, что их практики ответственного использования ИИ успевают за скоростью развертывания этих инструментов.

Марк Рейнхардт, руководитель глобального направления по работе с государственным сектором компании Capgemini, отмечает, что корни этой проблемы уходят в давние трудности, связанные с государственными технологическими системами. «Организации госсектора годами сталкиваются с проблемами устаревшей инфраструктуры, использованием унаследованных систем, сложностями обеспечения совместимости и вопросами управления, — поясняет он. — С появлением ИИ, и в особенности агентного ИИ, решение этих задач стало критически важным».

Управление агентным ИИ

По словам Рейнхардта, главным препятствием является отсутствие надлежащего фундамента данных. В случае с агентным ИИ эта проблема может усугубляться, поскольку таким системам требуется доступ к широкому спектру информации и других систем.

Лора Гилберт, руководитель программы " AI for Government" в лондонском Tony Blair Institute for Global Change, соглашается с тем, что проблема кроется в данных, лежащих в основе моделей. «По моему опыту, правительства сдерживает вовсе не сама технология, — отметила она. — Настоящий разрыв наблюдается на уровне фундаментальных основ».

Она также указывает на проблему нехватки компетенций и неуверенности в собственных силах: «Многие правительства передали значительную часть своих технических функций на аутсорсинг, из-за чего им трудно оценить, что реально осуществимо, что безопасно, а что им навязывают с преувеличенными обещаниями. Никто точно не знает, как решить вопрос ответственности при использовании агентного ИИ: кто отвечает за действия, совершенные ПО? У государственных служащих отсутствуют стимулы идти на риск и внедрять инновации». Поэтому ведомствам необходимо внедрить адресные механизмы контроля, ограничивающие сферу действия ИИ-агентов и снижающие риски, но не препятствующие их эффективному использованию. На практике это означает, что государственные органы должны четко определить, какие решения агент может принимать самостоятельно, к каким данным и системам он имеет доступ и в каких случаях управление необходимо передать человеку.

«Правительствам следует сосредоточиться на создании систем управления данными, механизмов контроля и подотчетности, которые позволят ответственно масштабировать технологии ИИ и обеспечивать ощутимую пользу для общества, — считает Рейнхардт. — Кроме того, разумеется, необходимо модернизировать устаревшие системы — особенно те, архитектура которых изначально не предусматривала взаимодействия через API и, следовательно, интеграции с агентами».

Сферы внедрения ИИ-агентов в госсекторе

На данном этапе наиболее подходящими сферами применения могут стать задачи, где агенты способны автоматизировать повторяющиеся процессы с большими объемами данных, не принимая при этом решений, способных существенно повлиять на жизнь граждан.

В качестве примеров таких задач Рейнхардт называет административные процедуры, обработку документов, ведение дел, внутренние ИТ-процессы, а также выполнение рутинных рабочих операций и согласование документов.

Гилберт также высказывается в пользу начала работы с процессов, характеризующихся низким уровнем риска и большими объемами операций. По ее словам, такие внутренние задачи, как обработка корреспонденции, первичная сортировка дел или обобщение доказательной базы, отлично подходят для получения необходимого опыта, «поскольку ошибки здесь можно исправить, а экономия времени очевидна».

Это позволит сформировать необходимую уверенность и доказательную базу для перехода к более ответственным задачам, непосредственно затрагивающим интересы граждан. «На начальном этапе важно понять разницу между ситуациями, которые можно сравнить с дверью, открывающейся в обе стороны (ошибки обратимы), и ситуациями, напоминающими дверь, открывающуюся только в одну сторону (ошибки необратимы)», — поясняет Гилберт.

Однако уровень риска существенно варьируется в зависимости от сценария использования, а сохранение доверия общественности является для государственных органов ключевой задачей. «Ошибки ИИ, затрагивающие жизнь и благополучие граждан, подрывают доверие к государственным институтам и службам и, вероятно, могут затормозить дальнейшее внедрение этой важнейшей технологии, помогающей административным органам справляться с высокой нагрузкой», — подчеркивает Рейнхардт.

Следовательно, меры контроля должны соответствовать уровню риска: степень надзора должна зависеть от масштаба последствий и критической важности конкретной задачи, а также — что особенно важно — от потенциальных рисков для граждан.

Гилберт выделяет, помимо начала работы с малых и низкорисковых задач, еще один важный приоритет: формирование собственных компетенций внутри организации. «Вам не нужна армия специалистов, — говорит она, — но вам необходима ключевая команда людей, способных создавать, тестировать и подвергать критическому анализу, а также работающих в непосредственной близости от тех, кто принимает решения».