Предприятия продолжают активизировать свои усилия в направлении автоматизации. Автоматизация задач и процессов позволяет повысить операционную эффективность и снизить затраты, но она также несет риски. Опрошенные порталом InformationWeek эксперты рассказывают о плюсах и минусах автономных систем — автоматизированных систем, работающих без вмешательства человека.

Предприятия давно автоматизируют задачи, особенно на производственных площадках. В современном мире автоматизация проникает во все уголки предприятия, что повышает их конкурентоспособность. Чтобы сохранить ее, им необходимо постоянное ускорение для переоценки ситуации и перехода на более высокий уровень гибкости, который может быть достигнут только через партнерство человека и машины. Более того, предприятия будут вынуждены перейти на более высокий уровень автоматизации, поскольку конкурентное давление продолжает расти.

Автоматизированные системы против автономных

Предприятия обычно прибегают к автоматизации задач тогда, когда им нужно производить что-то быстрее, дешевле, с лучшей повторяемостью и в большем масштабе, чем это могут сделать люди. Самые подходящие задачи для автоматизации — это утомительные и повторяющиеся ручные процессы, с которыми люди справляются с большим трудом. Автоматизируя задачи, предприятия преследуют цель уменьшить количество ошибок, которые люди допускают ввиду потери концентрации или усталости. Самая экстремальная форма автоматизации — это автономная система, работающая без вмешательства человека. Однако это не означает, что автономные системы не нуждаются в надзоре.

«Автоматизация — необходимый функциональный компонент автономной системы. Она подразумевает определенную степень искусственного интеллекта, принятие решений, которое не обязательно основано на правилах или рабочих процессах, а предполагает действия на основе новых шаблонов, которые не запрограммированы в системе, — сказал старший директор Oracle Autonomous Database по управлению продуктами Роберт Грин. — Автоматизация по-прежнему требует, чтобы решение о действии принимал человек, поэтому он и далее будет в центре внимания».

Решаем, что автоматизировать, а что сделать автономным

Организации автоматизируют все больше задач при помощи роботизации процессов (RPA), а в некоторых случаях они перенимают автономные возможности корпоративных продуктов. «Вы начинаете автоматизацию, делая постепенные, небольшие шаги, чтобы нарастить свой внутренний потенциал и понять, как заставить ее работать в гибридных окружениях, в которых участвуют люди, — сказал Крис Николсон, генеральный директор и основатель поставщика решений для глубокого обучения с подкреплением Pathmind. — Предприятия также хотят автоматизировать процессы, которые легко визуализировать. Например, распознавание текста при обработке документов, которое позволяет убедиться, что машина работает правильно».

По словам Грина, автономный надзор и принятие решений улучшают безопасность, эффективность и качество выполнения задач. «На самом деле автономное принятие решений становится критически важным именно в среде, которую формируют группы взаимодействующих оконечных устройств, — сказал он. — Люди могут работать с одной базой данных и принимать окончательные решения, но они физически не в состоянии принимать своевременные решения, работая с миллионами баз данных».

Примеры автономных систем

Автономные системы принимают мгновенные решения на основе сложной информационной сети, которая может постоянно меняться (к примеру, автономный автомобиль). Например, поставщик ИИ для блокчейн-решений Fetch.AI запустил в Мюнхене испытания инфраструктуры зонирования «умного» города, в которой автономные ИИ-агенты используются для оптимизации потребления ресурсов и уменьшения углеродного следа в городе. В сети Fetch.ai действуют автономные ИИ-турагенты, которые продают, ведут переговоры и занимаются поставками оборудования. По словам генерального директора и соучредителя Fetch.AI Хумаюна Шейха, они позволяют и отелям, и их клиентам экономить до 10%. «Автономные системы не выступают заменой автоматизированным программам, но ключевым моментом для их развития является взаимосвязь, — считает он. — Чтобы широко распространить их — необходима сеть».

Риски автономных систем

Подобно системам автоматизации, автономные системы могут выполнять задачи, которые традиционно выполнялись людьми, но делать это быстрее и в большем масштабе. Тем не менее, организации должны помнить не только о преимуществах, которые приносит автономная система, но и рисках. «Автономность увеличивает сложность систем. Повышенная сложность повышает вероятность получения непредсказуемых результатов, в том числе неудач, с которыми вы еще не сталкивались, — сказал Николсон. — В отличие от людей алгоритмы и модели предиктивного машинного обучения не всегда могут объяснить свое поведение (справедливости ради, это дано не всем людям). Недостаточное представление о том, почему возникли сбои, может усложнить их предотвращение».

Отсутствие прозрачности (возможности объяснения) также может подвергнуть компанию штрафам и судебным искам, особенно если система причинит вред людям. Прозрачность — это наиболее обсуждаемая тема, касающаяся этики поведения ИИ, другая важная проблема — кто должен нести ответственность, если анонимная система выйдет из строя? Люди, которые разработали, применяли, разрешили ее применение или это какая-то комбинация? Простой вопрос, но ответ на него непрост, потому что он может определять, что кто-то понесет или не понесет ответственность перед законом.

А что, если организации соединят между собой разные автономные системы? Их поведение нужно будет контролировать. «Имеется большая вероятность, что организации, стремящиеся интегрировать свои автономные системы, вступят в договорные отношения, но вначале нужно установить промышленные стандарты», — полагает Майкл Ричардсон, основатель и управляющий директор консалтинговой компании Tech-Azur.

Стандартов автономных систем станет больше

Автоматизация становится все более распространенным явлением на предприятиях, а вместе с ней следует ожидать роста автономных систем. «В целом, автономные возможности в настоящее время основаны на собственных сетях систем различных поставщиков. Инженер-программист интегрирует составные части, чтобы предоставить решение, но его возможности в плане масштабируемости, доступности и применения подходят гораздо меньшему числу сценариев по сравнению с автоматизацией и ИИ-автоматизацией, — сказал CTO поставщика корпоративного ПО BMC Software Рам Чакраварти. — По мере развития этой концепции и с внедрением программных платформ для автономных систем появятся согласованные отраслевые стандарты и протоколы взаимодействия, которые позволят абстрагировать оборудование, датчики, устройства и т. д. в рамках экосистемы».

Появились первые стандарты — IEEE P7008, P7009 и P7010, которые регулируют этику применения автономных систем, конструктивные особенности и показатели благополучия соответственно. В будущем появится больше стандартов автономных систем, но по-настоящему автономный бизнес появится еще не скоро.