Аналитика реального времени прочно заняла свое место в качестве краеугольного камня во многих отраслях. Кроме того, широкое внимание привлек генеративный искусственный интеллект, который обещает инновационные решения и беспрецедентные знания в самых разных областях — от развлечений до здравоохранения. Слияние аналитики реального времени с методами генеративного ИИ дает потрясающий синергетический эффект. Оно позволяет организациям обнаруживать глубоко спрятанные инсайты в тех случаях, когда возможность скоротечна, пишет на портале Datanami Чад Мели, директор по маркетингу компании Kinetica.

Ди Джей Патил, бывший главный специалист по анализу данных США и бывший главный специалист LinkedIn, считает, что полное использование потенциала генеративного ИИ потребует развития возможностей, ориентированных на быструю обработку данных. «Большинство данных, которые сегодня доступны для больших языковых моделей (LLM), — это низкоскоростные данные; они очень статичны и не обновляются, — говорит Патил. — Я думаю, что в ближайшие два года мы увидим развитие этого направления».

Одной из революционных технологий, лежащих в основе генеративного ИИ, являются векторные базы данных. Считайте, что это организованные коллекции информации, которые поднимают сопоставление образцов на новую высоту. Векторное вложение — это способ организации данных, который облегчает поиск сходств и взаимосвязей между различными фрагментами данных. До сих пор векторные базы данных были ограничены устаревшими историческими данными. Пользователи ChatGPT знакомы с тем фактом, что он слеп к любой информации, созданной после сентября 2021 г.

Векторные вложения — это числовые представления объекта (источник: Раджат Трипати/Pinecone)

Чтобы в полной мере оценить огромный потенциал генеративного ИИ в реальном времени, необходимо отказаться от близорукого представления о том, что генеративный ИИ ограничивается творческими областями, такими как музыка, изобразительное искусство и проза. Хотя эти художественные приложения, несомненно, продемонстрировали возможности технологии, сфера применения генеративного ИИ выходит далеко за рамки этих областей. Он способен оптимизировать работу различных отраслей, где быстро меняющиеся данные от датчиков и машин имеют решающее значение для принятия решений.

Как он изменит методы работы компаний? В сфере финансовых услуг, я думаю, мы увидим, как векторный поиск в реальном времени произведет революцию в выявлении мошенничества и оценке рисков. Если закодировать исторические данные о транзакциях и профили клиентов в виде векторов, можно будет быстро сопоставлять поступающие транзакции с известными моделями мошеннического поведения. Это позволит мгновенно выявлять подозрительные действия, что приведет к ускорению реакции и снижению финансовых потерь.

Кроме того, модели оценки рисков будут использовать векторные вложения в реальном времени для получения актуальных оценок состояния рынка, что позволит оптимизировать инвестиционные решения. Например, в инвестиционном банкинге используется показатель VWAP (volume-weighted average price), который служит инструментом технического анализа, выявляющим взаимосвязь между ценой актива и общим объемом торгов. Он дает трейдерам и инвесторам возможность оценить среднюю цену, по которой торговалась акция в течение определенного периода времени.

Давайте рассмотрим VWAP как потенциальное векторное вложение, которое существует для каждой акции, для каждого торгового стола, для нескольких временных окон — таким образом каждый день создаются тысячи векторных вложений. Теперь представьте себе, что VWAP — это лишь один из десятков финансовых показателей, используемых для принятия решения о покупке или продаже в режиме реального времени, что говорит о необходимости большего количества векторных вложений. Если бы каждая акция поддерживала множество регулярно обновляемых векторных вложений, отражающих рыночные условия, это позволило бы выявлять беспрецедентные закономерности и возможности в финансовом ландшафте. Например, определять «три лучшие акции, способные вырваться вверх в ближайшие пять дней».

Логистика — еще одна область, в которой назревают перемены благодаря соединению генеративного ИИ с огромным количеством показаний датчиков транспортных средств, контейнеров, складов, конвейерных систем, упаковки и многого другого. Благодаря постоянному анализу в динамических условиях предприятия смогут оптимизировать планирование маршрутов, сократить время доставки, минимизировать порчу и снизить затраты на хранение запасов. Это не только упростит логистику, но и придаст организациям гибкость, необходимую для оперативного реагирования на непредвиденные сбои.

Векторный поиск в реальном времени обладает огромным потенциалом в оборонных приложениях, в частности для поиска угроз и анализа разведывательных данных. В этом контексте векторные вложения могут представлять такие характеристики, как сигнатуры радаров, спутниковые снимки или перехваченные схемы связи. Системы векторного поиска в реальном времени будут оперативно сравнивать поступающие данные с обширной базой данных известных угроз и аномалий. Это позволит военным и сотрудникам служб безопасности быстро выявлять потенциальные угрозы, такие как новые воздушные аппараты-шпионы или подозрительные передвижения войск, и принимать соответствующие обоснованные решения.

Любая отрасль, которая уже пользуется преимуществами аналитики реального времени, обнаружит, что этот прорыв в области сопоставления шаблонов выведет существующие сценарии использования на новый уровень. В розничной торговле это позволит сделать системы рекомендаций более точными, сопоставляя предпочтения покупателей с имеющимися товарами. В автомобильном секторе это позволит усовершенствовать передовые системы помощи водителю благодаря распознаванию объектов и дорожных условий в режиме реального времени; в обрабатывающей промышленности — оптимизировать контроль качества за счет быстрого выявления дефектов на производственных линиях; в энергетическом секторе — оптимизировать управление сетями и предиктивное обслуживание для повышения эффективности; в коммунальном хозяйстве — усилить мониторинг инфраструктуры, сократить время простоя и обеспечить надежное предоставление услуг.

Для поддержки этих сценариев использования ключевым технологическим сдвигом является переход от векторных баз данных, ориентированных на пакетную обработку, к векторным базам данных реального времени. И видим, как такие инновации, как фреймворк Nvidia для векторного поиска на GPU, прокладывают путь к инсайтам реальном времени на основе векторных вложений.