Компании стремятся к многократному увеличению прибыли за счет искусственного интеллекта, но многие проекты быстро терпят неудачу. Портал ZDNet разбирает реальные риски и показывает, как с помощью агентного ИИ получать надежные и прибыльные результаты.
Представьте, что вы — генеральный директор. Ваша рабочая группа по стратегии в области ИИ только что представила вам два варианта.
Первый — безопасный. Вы можете использовать агентный ИИ для сокращения накладных расходов и экономии 10% от общих затрат на человеческий капитал.
Второй вариант — смелый. Вы можете увеличить рост в десять раз, используя агентный ИИ для трансформации деятельности вашей компании.
Первый вариант практически не изменит ситуацию, но поможет инициативе в области ИИ окупиться. Второй вариант может значительно улучшить ваши финансовые показатели и сделать вас легендой в глазах совета директоров. Но также может привести к увольнению.
Превосходные оценки ИИ зашкаливают. Согласно KPMG, агентный ИИ позволит получить ежегодный прирост производительности на 3 трлн. долл. Accenture утверждает, что агентный ИИ — это «не что иное, как новый тип капитала» и «знаменует собой сдвиг в экономической истории». Прошлой осенью Gartner заявила: «У организаций есть решающий период от трех до шести месяцев для определения своей стратегии развития агентного ИИ, поскольку отрасль находится на переломном этапе».
Итак, что же делать?
Факторы риска
Gartner может посоветовать вам действовать прямо сейчас. Accenture советует стремиться к десятикратному росту, а не к 10%-ной экономии затрат. Однако сохраняйте спокойствие. Хотя инициативы в области агентного ИИ, несомненно, имеют огромный потенциал, начинание без четкой стратегии может привести к провалу.
Как оказалось, у Gartner есть статистика и на этот счет. В ее исследовании говорится: «Более 40% проектов по агентному ИИ будут отменены к концу 2027 г. из-за растущих затрат, неясной бизнес-ценности или неадекватного контроля рисков».
Есть и другие причины этих неудач. Gartner заявила, что большинство проектов на ранних стадиях — это эксперименты или проверка концепции, и так и должно быть. Но подобные тесты — это всего лишь тесты. Тесты не гарантируют успеха. В этом и суть.
1. Введение в заблуждение . С другой стороны, организации часто вводятся в заблуждение своими поставщиками. Многие поставщики, поддавшись ажиотажу вокруг ИИ, занимаются тем, что Gartner назвала «AI-washing». Нет, это не Джеймс Бонд в душе. Это термин, заимствованный из «гринвошинга» — практики ложного представления продуктов как экологически чистых.
Gartner подсчитала, что менее 13% из тысяч поставщиков «агентного» ИИ выпускают действительно «агентные» продукты. Большинство компаний переименовывают существующие продукты — от ИИ-помощников и роботизатизации процессов до сервисов на основе скриптов и чат-ботов — в «агентные». Предположение о том, что эти инструменты могут выполнять автономные задачи, ошибочно, что приводит к пилотным проектам на основе этих продуктов, которые обречены на провал.
2. Неконтролируемые затраты. Еще один подвох — это затраты. Большинство реализаций ИИ полагаются для когнитивной обработки данных на внешние большие языковые модели, предоставляемые крупными сервис-провайдерами. Эти сервисы связываются с вашими приложениями через API.
Представьте API как розетку в вашей стене. Вы подключаете кофеварку к этой розетке и получаете энергию для приготовления этого коричневого эликсира. Розетка и вилка — это стандартизированные интерфейсы (как и API). Ваша кофеварка — это ваше приложение. Облачный сервис — это энергоснабжающая компания, которой вы платите за использование.
ИИ-компании измеряют потребление на основе показателя, называемого «токенами». Генеративный ИИ использует токены довольно экономно. Они расходуются, когда задается вопрос, и все. Как и в случае с кофеваркой, которая готовит чашку кофе, потребление энергии/токенов минимально.
Теперь сравним потребление энергии кофеваркой с потреблением энергии серверной стойкой. Серверы потребляют больше энергии и используют ее постоянно, 24/7. Счет за электроэнергию для серверной стойки будет значительно выше, чем для кофеварки (даже часто используемой).
То же самое происходит и с агентным ИИ, который работает практически постоянно, с множеством одновременно действующих агентов, потребляющих токены с невероятной скоростью. По мере того, как компании расширяют использование агентного ИИ, они обнаруживают, что их счета за облачные услуги стремительно растут. Неслучайно OpenAI поднялась от нулевой выручки в конце 2022 г. до более чем 20 млрд. долл. в
3. Непредсказуемые результаты. Еще одна ловушка заключается в том, что проекты ИИ являются «недетерминированными», то есть одни и те же входные данные могут давать разные выходные данные при разных запусках, поскольку ИИ учитывает вероятность, случайность и контекстную чувствительность, а не следует фиксированному, повторяемому пути выполнения.
Эта непредсказуемость может быть очень опасна при создании и тестировании решений, отладке сбоев, проверке результатов, обеспечении соответствия нормативным требованиям и поддержании согласованного поведения при обновлениях и развертываниях.
«Раньше ПО было исключительно детерминированным: одинаковые входные данные — одинаковые выходные данные, легко доверять. ИИ-агенты нарушают эту модель, поскольку одни и те же входные данные дают разные результаты. Это требует гибридного подхода. Контекст, контроль и управление нельзя просто добавить после развертывания. Компании, добивающиеся успеха, проектируют эти уровни с самого первого дня», — поясняет Мадхав Таттай, исполнительный вице-президент и генеральный менеджер Agentforce в Salesforce.
4. Несанкционированные агенты. Представьте себе, что может произойти, когда доверенный сотрудник начнет действовать ненадлежащим образом. То же самое может произойти и с агентами, за исключением того, что агенты намного быстрее любого сотрудника. Непреднамеренное действие, совершенное в больших масштабах, может распространиться по всей организации со скоростью света.
Мамы могут хотеть от детей делать то, что они имеют в виду, а не что говорят. Они ожидают, что при правильном воспитании дети должны понимать, чего от них требуется, независимо от того, правильно ли это сформулировано.
Несоответствие целей может стать реальной проблемой, если сотрудник неправильно вводит команду агенту. Хотя, вероятно, можно создать систему контроля и сдержек для агентов, более вероятная реальность такова, что если вы неправильно введете команду агенту, он не поймет вашего намерения. Он просто пронесется по вашей сети, оставляя за собой обломки.
Если в вашей логической цепочке где-то есть неправильно проинструктированные агенты, эти ошибки будут каскадно распространяться на другие агенты, создавая эффект домино, который может заставить вас пожалеть, что вы не можете спрятаться в юрте в лесу на следующие два года.
5. Риск нарушения безопасности и конфиденциальности данных. Безопасность и конфиденциальность — еще одна проблема. Почти все глубокие развертывания ИИ-агентов предполагают использование LLM вне локальной сети. Это означает, что ваши данные должны быть отправлены ИИ где-то в облаке.
Крупные ИИ-компании обещают, что не будут использовать ваши корпоративные данные для обучения, но факт остается фактом: вы все равно отправляете данные в систему, которую не контролируете. Это может вызвать множество проблем, связанных с конфиденциальностью, регулированием и управлением. Прежде чем принимать какие-либо окончательные решения о внедрении, обязательно тщательно изучите этот вопрос.
Можно долго рассказывать о факторах риска. Существуют пугающие истории. McDonald’s потеряла сотни долларов на заказах макнаггетс, а также добавляла бекон в мороженое. Онкологический центр UT MD Anderson потерял 62 млн. долл. на внедрении Watson.
Речь не о том, чтобы отпугнуть вас от агентного ИИ. Важно, чтобы вы понимали, что внедрение сопряжено с риском. Вам нужно очень стратегически и обдуманно подходить к этому. Это не новая блестящая игрушка. Это риск и возможность, от которых зависит судьба вашей компании.
Стратегии получения выгоды
Вы наверняка знаете поговорку: «Без риска нет вознаграждения». Выше мы обсудили риски, поэтому давайте теперь посмотрим, как получить выгоду от внедрения агентного ИИ.
Accenture определила многоуровневый подход к ИИ-проектам:
• Уровень 1 — агентная автоматизация: это базовый уровень внедрения ИИ. Здесь Accenture говорит о точечных решениях или о том, что она называет «простой заменой человека». Это означает, что вы можете дополнить техническую поддержку чат-ботом, обученным по предметной области, или поручить агенту обработку определенных форм или входных данных.
• Уровень 2 — минимальные ставки: это термин Accenture для переосмысления сквозных процессов, призванного раскрыть ценность. Идея заключается в том, что вы можете значительно сэкономить и увеличить общую производительность, но при этом не выделить свой бизнес среди конкурентов.
• Уровень 3 — стратегические ставки: Accenture продвигает идею о том, что, если вы пойдёте на большой риск, вы можете получить большую прибыль, используя их
Практичен ли или достижим ли такой подход? Конечно. Возможно. Наверное, в большей степени, чем что-либо ещё.
Вероятно эта модель так называемого «стратегического» анализа возможностей ИИ призвана скорее вызвать ажиотаж, чем добиться ощутимых результатов. Даже в Accenture заявили (и это прямая цитата): «Если программа компании по внедрению агентного ИИ не вдохновляет инвесторов, значит, амбиции недостаточно высоки».
1. Начните с реальности, а не с амбиций. Давайте немного притормозим, хорошо? Резкий старт с полной скоростью, скорее всего, приведет к заносу. Вместо этого проявите осторожность и осмотрительность. Вы все еще можете получить выгоду. Просто делайте это таким образом, чтобы повысить шансы на общий успех.
Начните с анализа ваших текущих бизнес-процессов. Почти у всех компаний есть процессы, которые занимают слишком много времени, недостаточно оперативны, слишком дороги, постоянно ломаются или иным образом доставляют головную боль. Вам даже не нужно проводить углубленный анализ всей компании. Эти проблемные области очевидны уже давно.
2. Выберите правильные отправные точки. Будьте избирательны при выборе вариантов для внедрения агентного ИИ. Ищите внутренние процессы, которые затратны в эксплуатации, происходят часто и следуют достаточно предсказуемым закономерностям. Особенно перспективными кандидатами являются рабочие процессы, которые приводят к потере дохода, создают узкие места или зависят от повторяющихся ручных операций.
Осторожно используйте агентные решения для замены ручного труда. Не стоит пугать сотрудников угрозой увольнения. Вместо этого нужно дать сотрудникам возможность вносить более значимый вклад, освободив их от утомительной рутинной работы. Начните с некритичных систем, где ошибки управляемы и не будут распространяться по всему бизнесу.
Рассматривайте агентные решения как легкодоступные достижения. Некоторые проблемы можно исправить с помощью агентов, ориентированных на конкретные задачи. Другие можно смягчить, используя несколько агентов, работающих вместе в одной среде данных. Третьи же можно решить с помощью простых алгоритмических процессов, которые вообще не требуют ИИ.
Избегайте областей, полных частных случаев, неоднозначности или постоянно меняющихся правил. Агентам гораздо сложнее надежно справляться с такими ситуациями, и они с большей вероятностью создадут проблемы, чем принесут пользу.
3. Установите ограничения. При переходе от тестирования к развертыванию в производственной среде установите ограничения. Обязательно продумайте и внедрите эти ограничения до масштабирования.
Держите людей в курсе событий уже на ранних этапах, особенно в вопросах согласования и обработки исключений, чтобы агенты не работали без контроля. Это может оказаться сложнее, чем обещают ИИ-компании. Когда Claude Code внезапно начал распределять работу между агентами, обнаружилось, что они работали гораздо быстрее, чем их можно было отслеживать, часто застревали и создавали другие проблемы. Решением стало устранение одновременно работающих агентов, по крайней мере, до тех пор, пока не получилось лучше ими управлять.
Постепенно увеличивайте автономность по мере того, как вы будете уверены в производительности. Не спешите сразу же включать полную агентную автоматизацию. Это может потребовать от вас сопротивления давлению инвесторов и других ключевых заинтересованных сторон, но стойте на своем. Вы же не захотите передать свою производственную линию импульсивному племяннику-неудачнику вашего крупнейшего инвестора. Аналогично, не следует передавать свой рабочий процесс агентам ИИ до тех пор, пока они не будут готовы к полноценному использованию.
«Организациям необходимо адаптивное управление, которое развивается по мере развития ИИ. Хотя человеческий контроль по-прежнему важен сегодня, структуры управления должны предусматривать большую автономию ИИ и включать четкие, перспективные меры защиты, — считает Мудит Гарг, генеральный директор и соучредитель компании Qventus, занимающейся разработкой ПО для больниц на основе ИИ. — Многие системы здравоохранения, разработавшие структуры управления ИИ пару лет назад, уже вынуждены перестраивать их, чтобы соответствовать современным возможностям ИИ».
Обязательно постоянно отслеживайте как поведение, так и затраты, потому что в случае с агентным ИИ небольшие проблемы могут быстро накапливаться, если их оставить без внимания. Из этого следует, что если вы не можете что-то отслеживать или еще не придумали, как это сделать, подождите, пока не сможете, прежде чем запускать агентный ИИ.
«Компании объединяют агентов, используя различные модели, поставщиков и инструменты. Управление должно быть достаточно открытым и гибким, чтобы соответствовать этим требованиям. Но открытость без контроля — это просто бессистемность, — отмечает Таттай. — Агенты должны строиться на основе стандартов с жестким управлением, постоянной прозрачностью и мониторингом на протяжении всего жизненного цикла агента. Доверие — это непреложный принцип».
4. Масштабируйте то, что действительно работает. После того, как вы определили жизнеспособный сценарий использования, ограничьте первоначальный проект. Начните с одного рабочего процесса. Убедитесь, что вы можете продемонстрировать четкую, измеримую окупаемость инвестиций. Затем расширяйте проект на тесно связанные процессы, где шаблоны и данные схожи.
Прежде чем пытаться масштабировать его в масштабах всей организации, подождите, пока не докажете, что можете надежно выполнять сразу несколько проектов.
5. Измерьте реальную отдачу. Как понять, что это работает? Во-первых, поговорите со своими сотрудниками. Они скажут вам, нравятся им новые системы или нет. После того, как вы получите оценку настроения сотрудников, посмотрите на другие показатели, которые могут измерить успех в четких, операционных терминах. Ищите снижение стоимости выполнения задач, сокращение времени цикла, уменьшение количества ошибок и измеримую выручку, полученную или возвращенную.
«Самая большая проблема — доказать окупаемость инвестиций в масштабе. Во многих системах здравоохранения отсутствуют четкие показатели эффективности, и они сталкиваются с длительными сроками внедрения, усугубляемыми зависимостью от устаревших систем электронных медицинских карт», — отмечает Гарг.
Помните, что если вы не можете связать процесс с ощутимым, измеримым результатом, вы не сможете доказать, что принесли пользу.
«Успех требует определения измеримых результатов на раннем этапе и приоритетного внимания к небольшому числу высокоэффективных сценариев использования, перехода от 80%-ной к 95%-ной точности, а не распыления по 1000 поверхностных приложений», — говорит Гарг.
И чего не следует делать.
Также помните о следующих предостережениях. Не начинайте с попытки полной трансформации. Не развертывайте изменения сразу на нескольких системах. Не предполагайте, что то, что вам говорит поставщик, он действительно может сделать. Не позволяйте никому заставлять вас двигаться быстрее, чем ваша организация может эффективно это осуществить.
Путь к вознаграждению
В начале этой статьи вам был предложен выбор. Но на самом деле нет смысла выбирать между безопасным повышением эффективности на 10% и рискованной
Начните с целенаправленных улучшений. Если все пойдет хорошо, они просто окупятся. Изучите, что работает, что ломается и что масштабируется. Затем, со временем, распространите эти достижения на более широкие системы, которые изменят то, как работает ваш бизнес.
Агентный ИИ — это мощный инструмент. Он может кардинально изменить траекторию развития бизнеса. Это может быть как к лучшему, так и к худшему. ИИ усиливает сильные стороны высокоэффективных организаций и дисфункции проблемных.
Итак, что же делать?
Действовать надо осторожно, чтобы не запустить в свою бизнес-модель неуправляемого зверя. Начните с пилотных проектов, развивайте их и постепенно масштабируйте со временем. По мере этого вы можете обнаружить возможности, которые позволят вам вывести свой бизнес на новый уровень или даже за его пределы.
