Дерек Эшмор, руководитель направления трансформации приложений компании Asperitas, рассказывает на портале The New Stack о нескольких причинах, по которым агентный искусственный интеллект не оправдывает ожиданий.
У предприятий есть множество причин для внедрения ИИ-агентов, которые могут повысить производительность и снизить утомляемость сотрудников. Существует также множество причин, по которым внедрение ИИ-агентов может заканчиваться неудачей. И по мере того, как все больше и больше организаций будут переходить на агентный ИИ, самые предусмотрительные из них будут заранее думать о том, как избежать ловушек, которые могут привести к провалу агентных проектов.
Как человек, который узнал кое-что о том, как избежать неудачи при внедрении ИИ-агентов, на собственном опыте внедрения ряда ИИ-агентов для внутреннего использования, а также от корпоративных клиентов, я считаю нужным рассказать об основных причинах неудач, а также дать советы по их устранению.
Что такое ИИ-агенты и как их могут использовать компании?
ИИ-агент — это автономная программная система, которая воспринимает окружающую среду, принимает решения и предпринимает действия.
Создавая настраиваемые агенты, адаптированные к конкретным сценариям использования, организации могут частично или полностью автоматизировать сложные задачи, которые ранее требовали ручного труда со стороны сотрудников.
Технология агентного ИИ является относительно новой, а готовые к производству технологии и фреймворки агентного ИИ (такие как Model Context Protocol, MCP) стали доступны лишь в течение последнего года. Тем не менее, ИИ-агенты уже получают широкое распространение в бизнес-среде: согласно исследованию IDC «2025 CIO Sentiment Survey — Part 1: The State of Digital Transformation, Technology, and Emerging Tech Priorities», проведенному летом 2025 г., 34,1% предприятий на тот момент уже начали внедрять агентный ИИ.
Основные причины неудачного внедрения агентного ИИ
Но опять же, одно дело — начать внедрять ИИ-агентов, и совсем другое — успешно завершить проект. Ниже приведены основные причины, по которым внедрение агентного ИИ может закончиться неудачей.
1. Нереалистичные ожидания. ИИ-агенты — это мощный тип решения, способный автоматизировать задачи и рабочие процессы, которые в противном случае потребовали бы ручного труда. Но они не могут творить чудеса. Они могут не справиться с очень сложными задачами или с задачами, требующими понимания контекста (например, понимания человеческих эмоций), которое могут обеспечить только люди.
Это не значит, что ИИ-агенты не могут быть полезны в таких случаях. Они все равно могут быть полезны, но только если работают вместе с людьми, а не вместо них. Другими словами, для достижения целей ИИ-агентам часто необходимо, чтобы «человек оставался в курсе».
Кроме того, часто бывает так, что агенты с самого начала испытывают трудности с выполнением поставленных перед ними задач. Обычно они должны пройти итеративный процесс разработки, прежде чем смогут оправдать ожидания, а это означает, что они могут не начать приносить бизнес-ценность так быстро, как того хотят или ожидают руководители.
Непонимание этих ограничений или установление нереалистичных ожиданий в отношении возможностей ИИ-агентов является одной из частых причин, по которой внедрение не достигает своих целей в полной мере.
2. Неправильная приоритизация сценариев использования. Учитывая огромный потенциал ИИ-агентов, организации могут испытывать соблазн разработать индивидуальных агентов, предназначенных для выполнения всех возможных сценариев использования или рабочих процессов.
Для большинства компаний это ошибочный подход, поскольку он ставит их в положение, когда они берут на себя больше, чем могут выполнить. Если ваша организация только начинает внедрять и управлять ИИ-агентами, ей следует начать с простых задач, которые четко определены, а результаты легко измерить (например, развертывание программного приложения или запись данных в базу данных).
Организация должна переходить к более сложным сценариям использования только после достижения успеха в этих задачах. Попытки сразу же решать сложные задачи, включающие несколько переменных или систем, не приведут вас к успеху.
3. Проблемы качества данных. Старая поговорка «мусор на входе, мусор на выходе» применима ко многим типам ИТ-систем. Но она особенно актуальна для ИИ-агентов, которые будут испытывать трудности с эффективной работой, если у них нет доступа к нужным типам данных или если данные, с которыми они работают, имеют низкое качество.
Поэтому крайне важно обеспечить, чтобы ИИ-агенты имели доступ к данным, необходимым для выполнения поставленных задач. (Конечно, они не должны иметь доступа к ресурсам, не имеющим отношения к их предполагаемому использованию, поскольку это создает угрозу безопасности.) Часто это включает не только легко управляемые ресурсы, такие как структурированные базы данных, но и данные в свободной форме, неструктурированные данные, такие как сборники документов.
Не менее важно очищать данные, чтобы избежать пропусков, неполноты, устаревания или неактуальности информации, прежде чем предоставлять их агентам — например, в ситуациях, когда информация о клиентах из одного источника противоречит данным из другого. Без точных и согласованных данных агенты с большей вероятностью примут неправильные решения, поскольку не смогут эффективно интерпретировать свою среду.
4. Проблемы управления. Возможность отслеживать действия агентов путем регистрации и аудита их деятельности имеет решающее значение для управления и безопасности. Эта прозрачность также играет важную роль в развитии и совершенствовании агентов, поскольку регистрация и аудит необходимы для выявления ошибок (таких как непреднамеренное изменение конфиденциальных данных) и их исправления путем внедрения новых мер безопасности.
К сожалению, большинство современных фреймворков агентного ИИ предлагают ограниченные встроенные функции для решения этих проблем. Но при достаточных усилиях в области разработки можно реализовать индивидуальные решения по управлению, которые обеспечат успешное внедрение агентного ИИ. Это требует большего объема работы, чем простое внедрение готового решения, но необходимо для баланса между возможностями ИИ-агентов и потенциальными рисками управления.
Готовность к производству: правильный подход к внедрению агентного ИИ
Если описанные выше проблемы вам знакомы, то, вероятно, это потому, что многие из них возникают и при внедрении генеративного ИИ. Однако ИИ-агенты усугубляют некоторые из этих проблем, поскольку, в отличие от систем генеративного ИИ, агенты не просто создают контент. Они могут предпринимать независимые действия, которые напрямую влияют на производительность и надежность ИТ-систем, поэтому при разработке стратегии внедрения и реализации агентного ИИ так важно с самого начала все сделать правильно.
