Чатботы на основе искусственного интеллекта предоставляют пользователям мгновенный доступ к общей информации, не отвлекая экспертов компании, пишет на порталу The New Stack Дев Наг, основатель и генеральный директор QueryPal.

Команды DevOps и платформ для разработчиков подвергаются безостановочной бомбардировке сообщениями, прерывающими их работу, — от вопросов, на которые они отвечали десятки раз, до запросов на информацию, легко доступную в документах: «Как мне подключиться к базе данных? Почему мое развертывание не работает? Что означает эта ошибка?».

Это касается не только DevOps — пользователи присылают множество вопросов по безопасности, соблюдению нормативных требований, запросов в отдел кадров и т. д. Никто не хочет тратить время и силы эксперта на ответы на эти повторяющиеся вопросы, но лучшего варианта пока не придумано.

И последствия этих прерываний гораздо больше, чем просто время, затраченное на ответы на вопросы. Существует стоимость переключения контекста: исследователи из Калифорнийского университета в Ирвайне обнаружили, что после прерывания требуется 25 минут, чтобы полностью вернуться к предыдущей задаче. Кроме того, есть и альтернативные издержки, когда более важные задачи вытесняются повторяющимися вопросами, а отставание в работе становится все более длительным.

Одни и те же вопросы, снова и снова

Большая часть работы инженера DevOps заключается в обеспечении внутренней поддержки платформ, конвейеров, документации и пр. Команды часто откликаются на вызовы, чтобы решать внутренние вопросы на нескольких коммуникационных платформах. Такие дежурства отвлекают инженеров DevOps и инженеров по надежности сайтов (SRE) от работы по созданию инструментов, которые делают процессы обеспечения надежности эффективными и последовательными, что часто приводит к выгоранию и текучести кадров.

Хотя команды DevOps могут выпускать документацию для разработчиков, чтобы они могли самостоятельно получать информацию, большинство людей не хотят вручную искать ответы в документах (часто в различных хранилищах знаний). Вместо этого люди зачастую сотрудничают в командных чатах, задают вопросы и получают содержательные ответы в режиме реального времени.

Проблема традиционного управления знаниями заключается в том, что оно сосредоточено на сборе и хранении информации. Оно не обеспечивает обмен знаниями и их распространение; вместо этого все бремя ложится на спрашивающего. Это привело к тому, что команды DevOps подвергаются бомбардировке сообщениями в командном чате. Они получают одни и те же вопросы снова и снова от разных людей, которые не знают, что на их вопрос был дан ответ несколько дней назад в том же канале. А те делают то, что делают всегда: заходят в Slack или Teams и задают вопрос, зная, что эксперт даст правильный ответ.

Соединяя людей с нужными знаниями

Одним из решений этой проблемы являются чатботы с ИИ, работающие на основе генерации с расширенным поиском (RAG) и больших языковых моделей (LLM). Получая информацию из самых разных источников — ранее заданные вопросы в чат-каналах (включая Slack и Teams), базы знаний, генерируемый сообществом контент в GitHub, Notion, Confluence, загруженные документы компании, указанные администратором веб-сайты и многое другое, — чатбот может автоматически и мгновенно отвечать на повторяющиеся вопросы. Спрашивающему не нужно думать о том, как и где он задает вопросы. Он получает необходимую информацию, не отнимая время у экспертов.

Эта технология индексирует неструктурированную информацию в разговорах в чате и объединяет ее со структурированными знаниями в различных хранилищах. Эти данные хранятся для быстрого семантического поиска, а когда поиск находит совпадение или несколько совпадений с запросом пользователя, он извлекает связанные данные и передает их обратно в LLM для определения оптимального ответа. Таким образом, чатбот может отвечать на вопросы, которые могут быть нечеткими или неточными, кратко излагать свои выводы и ссылаться на источники. Это может экономить часы времени и энергии, которые в противном случае тратятся на ручные ответы.

Это также экономит время пользователей, поскольку все ваши лучшие практики, руководства, процессы, решенные проблемы и часто задаваемые вопросы доступны любому авторизованному сотруднику в режиме реального времени — и все это в чате. Информация сама приходит к пользователям, вместо того чтобы искать ее в различных хранилищах, — это эффективный способ взаимодействия с корпоративными данными.

Такой чатбот с ИИ не заменяет людей, он поддерживает людей и избавляет их от рутины, чтобы команды могли сосредоточиться на более важных задачах.