Будут ли предприятия когда-нибудь доверять автономным системам? Опрошенные порталом InformationWeek эксперты рассказывают, почему автономность остается недостижимой, как внедряется агентный искусственный интеллект и как передача полномочий от человека к ИИ будет формировать операции следующего поколения.

Концепция автономного предприятия — это привлекательная перспектива будущего автоматизации, отражающая энтузиазм и прогресс, наблюдаемые в области самоуправляемых автомобилей, но применимая к бизнес- и техническим процессам.

Концепция основана на принципе, что каждый компонент — и, в конечном итоге, предприятие в целом — может функционировать с высоким уровнем самоуправления, динамично адаптируясь к изменениям рынка и операционным требованиям с минимальным вмешательством человека.

Важно отметить, что цель этой автономной концепции заключается в том, чтобы выйти за рамки простой жестко запрограммированной API-автоматизации и таких подходов, как роботизация процессов (RPA), которые превосходно справлялись с автоматизацией дискретных, повторяющихся задач, но оказались неустойчивыми и сложными для масштабирования.

Чтобы устранить эти ограничения, несколько лет назад компания Gartner выступила с идеей гиперавтоматизации — комбинированного использования ИИ, процессной аналитики, RPA и других технологий для автоматизации сквозных бизнес-процессов в больших масштабах.

Недавние достижения в области генеративного и агентного ИИ подливают масла в огонь идеи автономного предприятия. Прогресс в области обработки неструктурированных данных с помощью больших языковых моделей (LLM) прокладывает путь для систем, которые поддерживают поведение, направленное на достижение конкретных целей, во всех бизнес-функциях. Однако, несмотря на прогресс в автоматизации все большего числа процессов, по-прежнему существуют пробелы в достижении истинной автономности предприятия.

Прогресс в области автономности предприятий, сопровождающийся взлетами и падениями, схож с динамикой развития самоуправляемых автомобилей. Системы становятся все более совершенными в автоматизации большей части бизнес-среды, но, как и в случае с самоуправляемыми автомобилями, они по-прежнему полагаются на бдительного человека, готового в любой момент взять на себя управление, если что-то пойдет не так.

Настоящая автономность начинает появляться, но только в географически ограниченных или строго регламентированных условиях. И когда эти ограниченные системы сталкиваются с новыми или неожиданными проблемами — подобно тому, как самоуправляемый автомобиль застревает в глухом переулке или блокирует доступ спасателей — они часто терпят неудачу по-новому, снова требуя вмешательства человека.

Парадокс автономности

Фундаментальный парадокс автономного предприятия заключается в том, что, хотя автономность является явной целью для многих руководителей предприятий, использование термина «автономный» — особенно поставщиками — вызывает у них немедленное сопротивление.

«Проще говоря, для предприятий „автономность“ в настоящее время означает больше рисков, чем положительных эффектов. Предприятия не доверяют автономности ИИ [в этих системах]», — говорит Ник Крамер, руководитель отдела прикладных решений консалтинговой компании SSA & Co.

Действительно, приходит множество сообщений о том, как автономный ИИ выходит из-под контроля, что приводит к серьезным последствиям. Чат-боты становятся предметом судебных исков из-за неточных рекомендаций. CrowdStrike вывела из строя ИТ-системы по всему миру из-за неудачного обновления. Совсем недавно AWS пережила массовый сбой из-за автоматического распространения неправильной настройки DNS.

На практике это проявляется в том, что в процессе аугментации часто требуется участие человека. «Аугментация — это слово, которое мы часто используем, — отмечает Крамер. — Даже с эмоциональной точки зрения, его коннотация сместила акцент с автономности на агентность. Агенты помогают нам, людям, в то время как автономные системы заменяют нас».

Что содержится в названии? Разделение на автономные и агентные системы

Семантика играет ключевую роль в переходе к самоуправляемым бизнес-системам. Нишант Удупа, директор практики Everest Group, объясняет, что хотя термины «автономный» и «агентный» во многом являются синонимами, их практическое использование различается.

«В целом, автономные системы означают независимые или самоуправляемые объекты, состоящие из нескольких агентов», — объясняет он. Термин «агентный», напротив, используется для обозначения отдельных агентов, работающих в координации для создания этих автономных или самоуправляемых систем.

Использование этих терминов также зависит от отрасли, отмечает Удупа. Он поясняет, что термин «автономный» получил распространение в физических областях, таких как самоуправляемые автомобили и роботы, а термин «агентный» более популярен в программно-определяемых рабочих процессах, включая продажи, маркетинг и инжиниринг.

Такое различие в использовании не является случайным.

«Идея полностью автономной системы, хотя и привлекательна в теории, на сегодняшний день остается в значительной степени нереалистичной», — говорит Удупа, отмечая, что, согласно недавнему опросу 123 руководителей, проведенному Everest Group, почти 70% всех инициатив в области агентного ИИ все еще находятся на стадии доказательства концепции или пилотного проекта, а не полномасштабного внедрения. Более половины из них не продвигаются вперед из-за таких факторов, как опасения по поводу затрат, проблемы конфиденциальности данных, неопределенность в отношении правильных сценариев использования и ограниченный технический опыт.

«Более реалистичными являются агентные компоненты — более мелкие, ориентированные на достижение конкретных целей агенты, способные автономно выполнять отдельные задачи в определенных границах», — говорит Удупа.

Есть еще одна проблема.

Армандо Франко, директор по технологической модернизации TEKsystems Global Services, отмечает, что для руководителей высшего звена автономное предприятие — это просто неправильный брендинг: этот термин слишком абстрактен для бизнес-лидеров. ИИ, автоматизация и ИИ-агенты являются более осязаемыми и ориентированными на результат.

«Автономность — это результат, а не заголовок, — говорит он. — Когда вы сочетаете генеративный ИИ, интеллектуальные рабочие процессы и ориентированные на API архитектуры, вы на самом деле создаете все более самоуправляемую операционную модель».

Переосмысление уровней автономности предприятия

Усилия по стандартизации уровней автономного вождения для автомобилей дают ценные уроки для предприятий, независимо от того, используется ли термин «автономный» или «агентный». SAE International популяризировала шестиуровневую структуру (L0-L5) для характеристики прогресса в области автономных автомобилей. Эта модель определяет разделение труда и ответственности между людьми и ИИ.

На нижних ступенях этой лестницы возможности L1 и L2 поддерживают такие функции, как контроль скорости и удержание в полосе движения, при этом водители-люди твердо управляют операциями и берут на себя полную ответственность. На уровне L3 ИИ может взять на себя полный контроль, но люди должны быть бдительными на случай, если им понадобится быстро взять управление на себя. На уровне L4 ИИ может управлять автомобилем автономно, но только в пределах географически ограниченных зон или при определенных условиях окружающей среды. В будущем ИИ уровня L5 сможет управлять автомобилем в любых условиях.

Эта модель имеет определенную ценность для обсуждений применительно к предприятиям, но следует с осторожностью относиться к заявлениям поставщиков. Предостерегающим примером из автомобильной отрасли является расхождение между маркетингом Tesla, рекламирующим полностью автономное вождение, и его технической реализацией, которая предлагает только ИИ уровня L2, требующий постоянного полного контроля со стороны человека.

«В конечном итоге мы придем к некоторой стандартизации аналогичной структуры для агентного/автономного ИИ, но в настоящее время, к сожалению, мы рассматриваем эту тему скорее как маркетинговый ход», — отмечает Крамер. Наличие какой-либо аналогии концепции SAE важно, когда все согласны с тем, что ИИ является ключом к автоматизации предприятий.

Однако также важно прояснить, что на практике означают уровни автономности. Распространенная опасность и ловушка, с которой столкнулся Крамер, — это отношение ко всем видам автоматизации как к задаче для генеративного ИИ или LLM.

«Нам не нужны агенты для всего», — говорит он. Некоторые виды автоматизации просты и эффективны, подобно наборам правил и поведению в стиле RPA. Поэтому его команда уделяет много времени помощи клиентам в создании объективного видения для определения наиболее подходящих ИИ-решений.

Удупа замечает, что схемы автономного управления в стиле SAE набирают популярность в некоторых областях, таких как телекоммуникации, для классификации прогресса ИИ в сетевых операциях. Но даже здесь эти схемы в первую очередь служат для направления дискуссий, а не для предоставления жестких технических спецификаций.

«Такие схемы больше относятся к таксономии», — говорит Удупа. Они позволяют предприятию сообщать об уровне автономности, на котором оно работает, что облегчает СМИ и инвесторам понимание степени внедрения ИИ и способствует увеличению финансирования и положительному вниманию со стороны СМИ. Однако с точки зрения инженерного процесса путь от L0 до L5 является более непрерывным.

Разрыв между человеком и ИИ: сложность распределения ответственности

В схеме SAE наблюдается интересный разрыв между переходом от ИИ L2 для расширенной помощи водителю к ИИ L3 для условной автоматизации. На уровне L2 человек несет полную ответственность, даже если система сама тормозит и крутит руль. На уровне L3 система несет полную ответственность, пока не перестает ее нести, и тогда она может в любой момент потребовать от человека вернуть контроль.

Для предприятия условный характер этой передачи ответственности создает юридическую, технологическую и человеческую проблему.

«Проблема передачи управления в автономных корпоративных системах точно отражает разрыв между уровнями L2 и L3 схемы SAE в автономных транспортных средствах, когда ответственность переходит от человека к машине, что создает глубокую неопределенность», — говорит Крамер.

Эта неопределенность приводит к чрезмерной уверенности в отношении автоматизации, когда человек, осуществляющий мониторинг, перестает уделять внимание системе. Когда происходит ошибка, отстраненный человек не готов взять на себя управление. Кроме того, навыки человека могут ухудшаться с течением времени, в результате чего дежурный сотрудник оказывается неподготовленным в критический момент.

В случае возникновения проблемы неопределенность передачи ответственности затрудняет определение виновного. Кто виноват в ошибке: человек, который не заметил ее, или ИИ, который ее допустил? «Предприятия сталкиваются с идентичными проблемами», — отмечает Крамер.

Учитывая этот разрыв, большинство предприятий отказываются переходить к условной автоматизации. В настоящее время лучшей практикой является совершенствование системы с участием человека. Такой подход снижает риски и даже позволяет достичь почти идеальной точности без галлюцинаций. Цель состоит в эффективном управлении исключениями с помощью пороговых значений событий и вмешательств, скорректированных с учетом уровня риска, истории клиента и влияния на бизнес.

Удупа считает, что роль человека-водителя должна кардинально измениться: люди должны быть полностью исключены из рутинных процессов и перейти на новые роли. «По сути, люди в корпоративных автономных системах должны быть сосредоточены только на стратегическом управлении, управлении исключениями и постоянной оптимизации», — говорит он.

В этой модели уровень оркестрации и принятия решений ИИ гарантирует, что человеческий контроль интеллектуально встроен в процессы, управляемые ИИ. Необходимо наличие механизмов для перехода к ручному управлению, особенно в отраслях, критичных с точки зрения безопасности и выполнения задач, таких как промышленное производство, где может потребоваться остановка завода.

Практические геозоны для корпоративных процессов

В автомобильной промышленности многие пионеры достигают невероятных успехов в области высокоавтоматизированных технологий. Примером может служить запуск сервисов беспилотных такси без рулей Waymo и Tesla, которые работают в геозонах — при этом важно, что в случае возникновения проблем дистанционные водители готовы взять управление на себя.

Для предприятий аналогом геозон являются изолированные аспекты бизнес-процессов, где определенное сочетание ИИ и статических правил обеспечивает надежность сквозной обработки.

«Во всех секторах наблюдается тенденция, когда предприятия внедряют автономные системы в тщательно определенных границах, а не стремятся к неограниченной автоматизации», — говорит Крамер.

Эти системы могут работать автономно в пределах определенных границ процессов, доменных ограничений или операционных параметров, с явными точками передачи, когда сложность, риск или неопределенность превышают пороговые значения.

Например, в обработке страховых претензий Крамер наблюдает использование сложных геозонированных мультиагентных систем. Для простых претензий система обеспечивает полностью автономную сквозную обработку без участия человека, в то время как сложные претензии автоматически передаются экспертам-людям. Граница обнаружения мошенничества работает аналогичным образом. Агенты ИИ постоянно анализируют шаблоны и отмечают подозрительные случаи, а следователи-люди проверяют отмеченные элементы в режиме реального времени.

Удупа предполагает, что такого рода геозонирование служит основой для оркестрации ИИ. Процесс картирования этих геозон включает в себя определение того, какие бизнес-процессы должны обрабатываться агентами, а какие требуют контроля и вмешательства со стороны человека.

«Мне кажется, что это скорее бизнес-решение, чем технологическое», — говорит Удупа. Например, многие предприятия знакомы и комфортно относятся к понятию «темных фабрик» как полностью автономных фабрик, которые теоретически могут эффективно работать без участия человека.

От гиперавтоматизации к агентному ИИ

Инструменты и процессы для поддержки более автономных предприятий претерпевают смену парадигмы благодаря инновациям в области генеративного и агентного ИИ. Крамер отмечает, что отрасль переходит от идеи использования гиперавтоматизации для управления рабочими процессами с помощью нескольких инструментов автоматизации к все более автономным агентным системам ИИ, которые самостоятельно рассуждают, планируют и действуют.

«Это не постепенное улучшение, а категорическая трансформация в том, как предприятия концептуализируют автоматизацию», — говорит он.

Франко отмечает, что рост популярности агентных архитектур ИИ способствует переходу от пассивного ИИ, отвечающего на запросы, к активному ИИ, способному предпринимать контекстно-ориентированные, целенаправленные действия. Кроме того, новые платформы от ведущих поставщиков ИИ и традиционных корпоративных решений позволяют создавать комбинируемые микроагенты, которые интегрируются с корпоративными системами, сохраняя при этом управление и отслеживаемость.

«CIO больше не экспериментируют с автономностью, они внедряют ее в практику, — говорит Франко. — Мы видим ранние автономные рабочие процессы, встроенные в системы реагирования на инциденты, жизненные циклы разработки ПО и системы взаимодействия с клиентами».

Развитие автономного стека

Чтобы понять, как извлечь максимальную выгоду из более мощных систем с геозонами и участием человека, необходимо улучшить процессы и техническую архитектуру, чтобы иметь возможность безопасно использовать новые инструменты и передовые практики.

На уровне процессов, по словам Удупы, одним из подходов является четырехуровневая схема внедрения, направленная на улучшение систем исполнения:

• Архитектура и интеграция данных: предприятие должно создать основу для взаимодействия данных в реальном времени на всех уровнях. В промышленном производстве она будет включать системы ИТ, ОТ и Интернета вещей. В телекоммуникациях это будут данные о клиентах, сетях и услугах. Этот базовый уровень — это, по сути, данные, которые агенты ИИ будут использовать для принятия решений.

• Оркестрация и принятие решений с помощью ИИ: это включает в себя обучение агентов ИИ на основе данных, определение надежных схем контроля правил принятия решений, создание защитных механизмов и тестирование агентов. Этот интеллектуальный уровень помогает преобразовать данные и аналитику в действия.

• Автоматизация процессов и адаптация рабочих процессов: этот уровень призван помочь командам перепроектировать и усовершенствовать существующие рабочие процессы, чтобы они стали самонастраивающимися системами для интеллектуального выполнения задач с минимальным вмешательством человека.

• Трансформация и управление талантами: этот уровень дает сотрудникам возможность контролировать и управлять автономными операциями. Он должен включать управление изменениями, повышение квалификации/переподготовку талантов, поддержку новых ролей в области ИИ-операций и обучение новым схемам управления ИИ для снижения рисков.

Основываясь на этом, Франко описывает стек автономности, организованный в виде серии из пяти технологических уровней, которые параллельны классическому облачному стеку:

• Основа данных: поддерживает надежные мультимодальные данные реального времени и динамические конвейеры данных.

• Уровень моделей и агентов: фокусируется на базовых моделях, агентах, настроенных для конкретных областей, и генерации с расширенным поиском.

• Интеграция и оркестрация: включает безопасные шлюзы API, шины событий и очереди сообщений.

• Уровень опыта и инсайтов: инновации в области адаптивных интерфейсов, «вторых пилотов» и автономных рабочих процессов.

• Уровень стратегического управления и этики: инструменты для управления политиками в виде кода, управления рисками моделей и платформы, готовые к аудиту.

Будущее автономного предприятия

Предприятие будущего, скорее всего, будет более автономным, даже если этот термин будет поглощен более практичными и менее угрожающими терминами, такими как " ИИ-агентный" и " ИИ-аугментированный«.

Удупа считает, что термин сохранит свое нынешнее разделение. «На мой взгляд, это связано с различиями между автономными физическими системами/ устройствами и агентными программно-определяемыми процессами/системами», — говорит он. Это означает, что мы будем все чаще говорить об автономных автомобилях и фабриках, а также об агентных финансовых и маркетинговых отделах.

По мнению Франко, термин «автономное предприятие» постепенно будет поглощен терминологией агентных систем или самоуправляемых операций, подобно тому, как цифровая трансформация уступила место модернизации и ИИ-трансформации. «Предприятия не гонятся за автономностью как за модным словом, это результат того, что они создают, — говорит он. — А создают они самокорректирующиеся, постоянно обучающиеся экосистемы, в которых ИИ, люди и системы производят бизнес-результаты».