Предприятиям необходимо обеспечить согласование производительности сети с требованиями различных функций искусственного интеллекта, пишет на портале InformationWeek Брайан Уошберн, главный аналитик Omdia по B2B-решениям для телекома.
Нравится это или нет, но внедрение ИИ уже идет полным ходом. Однако в корпоративном секторе это не сводится к громким прорывам. Речь идет о добавлении возможностей ИИ к системам, которые компании уже используют.
Большинство предприятий не создают инструменты ИИ с нуля. Вместо этого они обращаются к существующим поставщикам, которые интегрируют ИИ в устоявшиеся платформы. Примеры:
- Поставщики решений в области безопасности добавляют ИИ для улучшения анализа угроз в реальном времени.
- Корпоративные приложения добавляют оптимизацию планирования или транскрипцию естественного языка.
- Управление запасами и предотвращение потерь становятся более предсказуемыми и автоматизированными.
Короче говоря, ИИ проникает в предприятия через обновления привычных ПО и сервисов, а не через совершенно новые системы.
Однако по мере распространения этих возможностей они предъявляют новые требования к корпоративной инфраструктуре. Хотя подключение отдельных возможностей ИИ может быть простым, масштабное внедрение в масштабах всего предприятия быстро становится сложным. Некоторые функции ИИ требуют низкой задержки для быстрого отклика. Другие должны отдавать приоритет надежности, чтобы гарантировать отсутствие потери данных. Предприятиям необходимо согласовывать производительность сети со специфическими требованиями каждой функции ИИ.
Корпоративный ИИ уже распространен повсеместно
Прежде чем рассматривать требования к сети, полезно определить, как и где предприятия инвестируют в технологии ИИ. С этой целью компания Omdia провела опросы, как самостоятельно, так и в партнерстве с HPE Juniper Networking, среди 733 руководителей крупных предприятий по всему миру, а также провела более десятка интервью с руководителями предприятий и поставщиками услуг, чтобы понять, как внедрение корпоративного ИИ меняет потребности в сети.
Как отмечалось, большинство предприятий не разрабатывают базовые модели ИИ самостоятельно. Они полагаются на поставщиков ПО для интеграции ИИ в платформы, которые управляют их бизнесом.
Руководители ИТ-подразделений предприятий знают, что им необходимо доказать ценность ИИ, чтобы получить одобрение от CEO. В результате их первоначальные проекты носят прагматичный характер. ИТ-отделы внимательно следят за показателями эффективности: процентное повышение эффективности, сокращение рабочего времени, затрачиваемого на выполнение задач, финансовая экономия или увеличение доходов. Исследование Omdia показывает, что ИТ и операции, финансы и обслуживание клиентов являются тремя первоочередными направлениями для предприятий, инвестирующих в ИИ.
Как показано на диаграмме, почти 80% крупных предприятий сегодня активно внедряют ИИ, то есть они приобрели или подписались на платформы и сервисы ИИ, а также часто обучают и настраивают их. Даже предприятия, которые не считают себя активными пользователями ИИ, используют инструменты ИИ в той или иной степени. Фактически невозможно избежать внедрения функциональности ИИ в SaaS-сайты, среды для совместной работы, розничную торговлю и поисковые запросы.
Сети должны идти в ногу со временем — со скоростью машин и людей
Бóльшая часть трафика ИИ генерируется обновлениями обычных приложений, а не революционно новыми способами его использования, и большая часть влияния сетевого трафика ИИ на предприятия остается скрытой. Предприятия, активно внедряющие ИИ, в среднем фиксируют небольшие изменения объемов сетевого трафика в пределах единиц процентов. Но они ожидают, что в течение следующих трех лет трафик ИИ резко возрастет, опережая в среднем в
Производительность сети имеет решающее значение, когда ИИ становится частью задач реального времени или критически важных задач. AIOps часто чувствительна ко времени: безопасность, сеть и контроль ИТ требуют анализа и реагирования в реальном времени. AIOps использует небольшие, узконаправленные модели для быстрого принятия решений. Аналитика ИИ и агентный ИИ нуждаются в гарантиях доступности и доставки, чтобы информация и инструкции не терялись.
Однако, когда ИИ взаимодействует с людьми, он должен действовать в темпе, соответствующем человеческому. Например, в условиях совместной работы подготовка стенограммы и резюме совещаний не имеет временных ограничений. Но во время сеанса живого общения интеллектуальные фильтры, субтитры или перевод должны работать практически в реальном времени.
При взаимодействии человека с ИИ ожидаемая задержка голосового/видеообщения составляет
Задержка сети часто составляет лишь небольшую часть временнóго бюджета по сравнению с задержкой обработки данных ИИ. Но доступность сети, скорость доставки и задержка должны быть управляемы. Это никогда не должно быть причиной сбоя транзакции или низкой производительности пользователя.
Сети должны адаптироваться к широкому обучению и настройке
Помимо использования настроек для технологий ИИ, основанных на требованиях к производительности сети, предприятиям необходима настройка ИИ, специфичная для их отрасли. Например, производители аэрокосмических компонентов, автомобильных деталей и коллекционных игрушек используют совершенно разные станки, производственные процессы и цепочки поставок. Для каждого из них будет своя терминология, касающаяся требований и целей. Каждый может начать с одной и той же модели генеративного ИИ, но ей потребуется небольшой уровень доработки.
Проще строить на основе уже существующих моделей ИИ — часто предоставляемых известными поставщиками — чем начинать с нуля. Поставщики ИИ предлагают различные уровни защиты конфиденциальной информации клиентов. Для создания моделей ИИ с индивидуальной настройкой необходимо загружать и обрабатывать дополнительные обучающие данные. Предприятия, обучающие ИИ, подсчитали, что в среднем требуется несколько сотен гигабайт загружаемых данных.
Настройка моделей ИИ становится более сложной для предприятий, работающих по всему миру, в нескольких сетях. Мультинациональные предприятия не могут охватить весь мир одним экземпляром ИИ — даже без учета вопросов управления и соответствия нормативным требованиям — переброска сетевого трафика по всему миру резко снижает производительность. Предприятия загружают экземпляры своих специально обученных моделей ИИ в разные страны и регионы. Затем им необходимо поддерживать синхронизацию этих моделей. Они могут делать это с помощью распределенного инференса-обучения экземпляров ИИ на общих наборах данных. Предприятия, использующие распределенный инференс, подсчитали, что ежегодно загружается на сотни гигабайт данных больше.
И это еще не все: предприятиям необходимы гарантии того, что их модели ИИ остаются работоспособными. Для этого требуются регулярные обновления обучения. В среднем предприятия переобучают свои модели дважды в год. Это может приводить к увеличению объема загружаемых данных в среднем на сотни гигабайт в год.
Общий сетевой трафик, генерируемый обучением и инференсом ИИ на предприятиях, пока остается небольшим. Но он готов к взрывному росту, прогнозируется, что в обозримом будущем он будет более чем удваиваться каждый год (среднегодовой темп роста140%). Предприятия внедряют все больше специализированных моделей ИИ, увеличивают объем функциональности и сложности каждой модели, а также увеличивают количество запускаемых экземпляров. Эти факторы в совокупности многократно увеличивают нагрузку на трафик, и предприятия наращивают пропускную способность межсоединений для более быстрого и надежного обучения, переобучения и распределенного инференса ИИ. По прогнозам Omdia, к 2030 г. трафик, связанный с операциями и управлением ИИ, вырастет более чем в 50 раз, а за следующие пять лет до 2035 г. — еще в 20 раз, стремительно превращаясь из крошечного базового уровня в измеримый объем общего глобального трафика по мере того, как ИИ будет становиться более взаимосвязанным.
И снова видео меняет все
Наш современный прагматичный ИИ работает в виртуальном пространстве. Однако у иммерсивных технологий и физического ИИ есть захватывающее долгосрочное будущее, и сети должны будут развиваться, чтобы поддерживать эту трансформацию ИИ. На данный момент камеры соединяют виртуальное пространство и физический ИИ. Сегодня, согласно опросу Omdia
Обработка изображений с помощью ИИ упрощает распознавание объектов. Добавьте базовую сервисную логику и контроллер, и перед вами откроются безграничные возможности для обучения машинного зрения выполнению интеллектуальных задач: охрана входов в здания, отслеживание полок в магазинах, инвентаризация складских запасов оборудования, контроль сборочных линий и производственных цехов, мониторинг безопасности на дорогах, а также обеспечение безопасности конференц-центров и транспортных узлов.
Компьютерное зрение старой школы работало локально. Предварительная обработка на устройстве и локально по-прежнему имеет смысл, но есть причины, по которым обработка ИИ в облаке лучше:
- Обширная библиотека объектов и условий. Обучение ИИ в облаке происходит быстро и дешево по сравнению с традиционной разработкой приложений.
- Гибкость в добавлении и настройке назначенных задач. ИИ можно сначала обучить подсчету виджетов, затем распознаванию поврежденных виджетов, затем обнаружению опасностей окружающей среды, а позже — сопоставлению нескольких видеопотоков для более сложного анализа.
- Агрегированная аналитика. Визуальные данные могут собираться и храниться для анализа тенденций по различным ракурсам и местоположениям, что позволяет получать ценные инсайты и извлекать пользу.
- Совместное обучение моделей. Инференс на большой аудитории повышает точность, эффективность и информативность результатов с течением времени.
ИИ для камер оказывает огромное влияние на сетевой трафик. Размер одного изображения среднего разрешения (500 Кб) эквивалентен размеру файла с более чем 75 тыс. слов. Это больше, чем 750 средних запросов в чате. Если одна высокопроизводительная промышленная камера делает один снимок в секунду в течение года, это эквивалентно почти 16 Тб сгенерированных данных изображений в год.
Как и в случае с другими функциями ИИ, некоторые функции, управляемые камерами, нечувствительны ко времени (например, складской учет); некоторые должны работать в темпе, соответствующем удовлетворительному человеческому опыту (например, физическое наблюдение, биометрия); а некоторые должны реагировать в режиме реального времени (например, оповещения на производственном участке).
Для новых XR-приложений погружение требует незаметной (менее 50 мс) задержки для обеспечения удовлетворительного опыта. Также локальная предварительная обработка на устройстве/сервере должна здесь сочетаться с обработкой в облаке. Omdia прогнозирует, что в течение следующих двух лет внедрение ИИ для камер и использование XR-гарнитур увеличится примерно вдвое.
Вывод: что всё это значит для предприятий?
Масштабирование использования ИИ — как в виртуальном, так и в физическом пространстве — внутри организаций быстро станет сложным. В среднем крупное предприятие, использующее ИИ, уже имеет более семи активных функций ИИ, и их число растёт.
Управление трафиком на стороне клиента (от сайтов к ИИ) и трафиком межсетевого взаимодействия (между экземплярами ИИ) требует тщательного планирования, чтобы обеспечить критически важные ответы в режиме реального времени, удовлетворительный пользовательский опыт и надёжное завершение транзакций.
Яркие, но неэффективные решения в области ИИ отвлекают внимание. Ожидайте, что незаметное, но элегантное использование ИИ будет расширяться, а ввод видео станет частью уравнения. В течение следующих нескольких лет всё больше ИИ-медиаконтента, функциональности и агентных ИИ-взаимодействий сделают управление производительностью сети и инфраструктуры более сложным. Но, с другой стороны, ИИ также будет использоваться именно для удовлетворения этих будущих потребностей.
