Взаимоотношения между периферийными и облачными вычислениями безнадежно сложны, при этом эти две области растут экспоненциальными темпами — и сливаются по мере роста, пишет на портале eWeek Роджер Кей, президент исследовательской компании Endpoint Technologies Associates, до 2005 г. работавший вице-президентом IDC.

В последнее время диджерати все чаще задаются вопросом: поглотят ли в конечном итоге периферийные вычисления, которые так быстро развиваются, облако, ставшее основополагающим?

Я отвечаю на этот вопрос однозначным «нет». Можно запустить игру в семантический разбор, пытаясь определить, что именно подразумевается под edge и cloud. Но я думаю, что на данный момент мы можем разделить элементы взаимосвязанных узлов на конечные точки, периферийные устройства и облачные компоненты — с размытыми границами между ними.

С учетом сказанного, из чего будет состоять растущая периферия? Лучший недавний пример, который мне приходит на ум, — это периферийный видеопроцессор для домашней и коммерческой безопасности, обнаружения домашних животных, распознавания лиц, розничной аналитики, фитнеса и интеллектуальных конференций. Это устройство — дискретный, автономный ускоритель для приложений конференц-связи — не является конечной точкой. Он размещается на конечных точках, в частности, камерах.

В случае с обработкой видео интеллектуальные устройства необходимы для определения того, что находится на изображении. Так, камеры видеонаблюдения захватывают не все подряд, а только те типы изображений, которые их интересуют, например, людей. Камеры могут выполнять эту работу самостоятельно, но передача изображений на соседний узел с бóльшим объемом памяти, большей вычислительной мощностью и бóльшими моделями искусственного интеллекта позволяет одному периферийному узлу управлять вводом 24 камер высокой четкости.

Затем, когда редкое изображение, требующее более пристального внимания, будет отобрано периферийным процессором изображений, оно может быть передано централизованному облачному компоненту, который располагает входными данными с нескольких сайтов, еще более мощными моделями и возможностью передавать интеллектуальные данные обратно на периферийные узлы.

Эволюция на периферии

Таким образом, роль периферийного узла только начинает развиваться. За место на этом рынке активно борются основные игроки полупроводниковой промышленности. Qualcomm, Nvidia и Intel хотят получить свой кусок этого рынка.

И они не единственные, но хорошие стартовые позиции этих компаний определяются природой этого соревнования. Qualcomm сильна в конечных точках благодаря своему бизнесу по производству процессоров для мобильных телефонов. Intel, которая в основном владеет рынком ПК (которые традиционно являются конечными устройствами, но могут служить в качестве периферийных устройств), добилась положения короля облачных серверов. Nvidia, традиционно занимавшаяся графикой, добавила себе новый значительный облачный бизнес, предоставив облачным клиентам графические процессоры для специализированных рабочих нагрузок.

Если задать вопрос, где должен находиться интеллект, то ответить на него легко: везде. Мы можем предположить, что все узлы станут «умнее». Это касается и самих камер, и устройств сбора данных, и облачных компонентов. Все они станут «умнее».

Уже в течение многих лет облачные провайдеры, такие как Amazon, Microsoft, Google и Netflix, перемещают информацию на периферию своих облаков, чтобы сделать популярный контент более доступным. Когда «Касабланка», классический фильм с Хамфри Богартом и Ингрид Бергман в главных ролях, внезапно снова становится популярным, потому что какая-то знаменитость написала о нем в Твиттере, Amazon может переместить больше копий из своего основного облака на периферийные серверы, расположенные вблизи географических рынков, где возникла эта внезапная популярность.

Где происходит обработка?

Существует принцип, который определяет, где следует выполнять аналитическую модель. По сути, обработка должна происходить как можно ближе к источнику данных по трем веским причинам: конфиденциальность, задержка и эффективное использование сетевых ресурсов.

Камеры, определяющие, что является человеком, а что домашним животным, генерируют изображения. Если эти изображения, которые могут быть слишком большими для обработки на камере, анализируются на домашнем периферийном устройстве, то потенциально конфиденциальные изображения никогда не покидают пределов дома.

Такой анализ может быть очень важно делать максимально быстро. Если кто-то удаленно следит за домом с помощью приложения безопасности и ему нужно узнать, кто звонит в дверь — курьер или грабитель, может не хватить времени отправить изображение в облако для анализа. К тому же, это еще и затраты на перемещение больших файлов данных по всему миру. Лучше, если этот путь будет как можно короче.

В мире ИИ есть две большие задачи — обучение и выводы. Модель обучается тому, что такое человек и что такое домашнее животное, путем массированного поглощения правильно помеченных изображений. После определенного количества тренировок она может отличать одно от другого, то есть обученная модель может делать правильные выводы. Обучение требует огромного количества ресурсов, и его целесообразнее проводить в облаке, которое гораздо менее ограничено в ресурсах, чем конечные точки и даже большинство периферийных устройств.

Однако выводы должны делаться либо на конечных точках, либо на периферийных устройствах. Эти выводы могут использоваться для таких задач, как голосовая активация, распознавание текста, определение лиц, распознавание голоса, вычислительная фотография и классификация объектов.

Но поскольку модели ИИ должны постоянно развиваться и совершенствоваться, чтобы исключить как ложноположительные, так и ложноотрицательные результаты, корректирующий цикл обязательно должен охватывать все уровни вычислений. В федеративной модели обучения облачная агрегированная модель получает данные от всех последующих устройств, улучшает свою способность правильно идентифицировать рассматриваемый объект и обновляет все последующие модели вывода. Таким образом, модель улучшается в глобальном масштабе на основе более разнообразных данных.

А периферийные устройства и конечные точки могут выполнять локальное улучшение на основе конкретного местного набора данных, который может отличаться от глобального набора, использованного для первоначального обучения.

Итог: периферия и облако должны сотрудничать

ИИ — это лишь одна область, которая иллюстрирует, как все уровни вычислений — конечные точки, периферия и облако — должны сотрудничать для достижения наилучшего результата. Существует множество других областей, где разделение труда между вычислительными элементами имеет большой смысл: интенсивные и масштабные вычисления в облаке, разгрузка локальных задач или размещение облачных копий на периферии, а также быстрые и эффективные вычисления на конечной точке.