Тим Янг, директор по маркетингу Vespa.ai, рассказывает на портале The New Stack о том, как оптимизация оркестровки рабочих процессов обеспечивает контекст, необходимый автономным агентам.

Публичные ИИ-помощники стали настолько распространены, что поставщики ПО все чаще добавляют в свои приложения поиск с использованием искусственного интеллекта, диалоговые возможности и ИИ-агентов. От электронной коммерции и поддержки клиентов до корпоративного ПО, ИИ быстро становится основным интерфейсом для многих приложений.

Компании, которые создают продукты на основе собственной информации, особенно хорошо подготовлены к тому, чтобы извлечь выгоду из этого сдвига. Независимо от того, предоставляют ли они финансовую аналитику, аналитику рынка, юридические исследования, научные публикации или деловую информацию, их продукты помогают профессионалам принимать более обоснованные решения, преобразуя достоверную информацию в действенные инсайты.

ИИ позволяет этим организациям предоставлять эту экспертизу благодаря совершенно новым пользовательским интерфейсам. Все чаще они конкурируют не только по качеству своей собственной информации, но и по тому, насколько интеллектуально они ее извлекают, понимают и преобразуют в ценность для клиента.

Появляется новое поле конкурентной борьбы. Поскольку ИИ становится основным интерфейсом для доступа к корпоративным знаниям, способность извлекать, проверять, ранжировать и собирать информацию становится почти столь же важной, как и сама корпоративная информация.

Значительная часть внимания отрасли сосредоточена на все более совершенных языковых моделях, но эффективность этих моделей зависит от контекста, который они получают. Разработка рабочих процессов извлечения, которые постоянно предоставляют достоверную, релевантную и актуальную информацию, быстро становится одной из определяющих инженерных задач для ИИ-нативных приложений.

Инженерия извлечения информации: оптимизация рабочего процесса

На протяжении десятилетий инженерия извлечения информации была сосредоточена на том, чтобы помочь людям найти нужную информацию. Будь то поиск на веб-сайте, в юридической базе данных или на платформе финансовых исследований, задача заключалась в том, чтобы получить наиболее релевантные результаты, балансируя при этом конкурирующие приоритеты, такие как релевантность, задержка, масштабируемость и стоимость. Задача поисковой системы заключалась в извлечении релевантной информации. Задача человека заключалась в ее оценке.

ИИ коренным образом меняет роль поисковой системы.

Вместо того чтобы извлекать информацию для оценки людьми, системы поиска все чаще собирают контекст, который большие языковые модели и агенты ИИ используют для исследований, рассуждений и действий. Каждое решение об извлечении информации теперь становится частью автоматизированного рабочего процесса, в котором релевантность, актуальность, задержка и доверие напрямую влияют на конечный ответ.

Это смещает инженерную задачу с отдельных технологий на сам рабочий процесс извлечения. Цель больше не состоит в простом поиске релевантных документов, а заключается в оркестрации поиска, ранжирования, фильтрации, инференса и обновлений в реальном времени, чтобы они эффективно работали вместе. Мы считаем, что эта новая дисциплина заслуживает собственного названия: инжиниринг извлечения информации (Retrieval Engineering). Промпт-инижиниринг влияет на то, как языковая модель рассуждает. Инжиниринг извлечения информации определяет, о чем ей нужно рассуждать. Оба аспекта важны, но по мере того, как приложения ИИ становятся все более автономными, качество извлечения все больше определяет качество результата.

По мере того, как приложения ИИ развиваются от разговорных помощников до систем глубокого исследования и автономных агентов, оптимизация рабочих процессов, а не отдельных компонентов, становится все более важной. Один запрос пользователя может запустить десятки — или даже сотни — операций извлечения, прежде чем будет сгенерирован ответ.

Проблема не в векторном поиске

Векторные базы данных решили важную проблему, сделав семантический поиск практичным в масштабе. Но это лишь один этап гораздо более масштабного рабочего процесса.

В производственных приложениях ИИ все чаще сочетается векторное сходство с поиском по ключевым словам, структурированной фильтрацией, бизнес-правилами, персонализацией, ранжированием на основе машинного обучения и инференсом в реальном времени для формирования контекста, от которого зависят языковые модели. Инженерная задача больше не заключается в выборе лучшей технологии извлечения — она заключается в оркестрации все более сложных рабочих процессов извлечения, которые остаются точными, отзывчивыми и экономически эффективными.

Многие организации решают эту проблему, комбинируя специализированные технологии. Векторная база данных обеспечивает семантический поиск. Поисковая система обрабатывает лексическое соответствие. Дополнительные сервисы обеспечивают переранжирование, персонализацию и инференс. Вначале это работает хорошо, но каждый дополнительный компонент добавляет еще один сетевой узел, еще одну операционную зависимость и еще один источник задержки. Проблема больше не в векторном поиске. Она заключается в разработке эффективной архитектуры извлечения.

От компонентов к платформам

Этот сдвиг меняет подход к проектированию инфраструктуры извлечения информации. Вместо оптимизации отдельных компонентов в отрыве от контекста, инженерным командам все чаще необходимо оптимизировать рабочий процесс извлечения как целостную систему — балансируя качество извлечения, задержку, актуальность, масштабируемость и стоимость инфраструктуры.

Именно поэтому появляются платформы поиска на основе ИИ. Вместо того чтобы объединять извлечение, ранжирование, инференс и обслуживание из нескольких независимых сервисов, они выполняют рабочий процесс в рамках единой распределенной архитектуры. Проблема оптимизации смещается от интеграции компонентов к проектированию самого рабочего процесса.

ИИ трансформировал пользовательский интерфейс. Теперь он трансформирует и инфраструктуру извлечения информации, лежащую в его основе. Для организаций, создающих приложения на основе собственных знаний, следующее конкурентное преимущество будет заключаться не только в более крупных языковых моделях или лучших векторных вложениях. Оно будет заключаться в создании рабочих процессов извлечения, которые последовательно предоставляют достоверный, релевантный и своевременный контекст в масштабе.

Инженерия извлечения информации стремительно становится одной из дисциплин, определяющих следующее поколение ИИ-нативных приложений.