Роман Орус, соучредитель и научный директор Multiverse Computing, рассказывает на портале Information Age о том, почему сжатые модели искусственного интеллекта могут открыть новые возможности для вашей организации и почему они более устойчивы в долгосрочной перспективе.

ИИ быстро превратился в важную стратегическую опору. Это уже не просто модная тенденция, а реальность, которая проникла во многие секторы бизнеса. Однако наряду с этим энтузиазмом существует техническая и экономическая реальность: модели ИИ, особенно самые мощные большие языковые модели (LLM), становятся все более крупными, чрезвычайно энергоемкими и дорогими для эффективного масштабирования.

Растущий размер этих LLM приводит к постоянно растущему спросу на вычислительные ресурсы, высокопроизводительные графические процессоры и обширную облачную инфраструктуру. Для многих компаний общие эксплуатационные расходы являются непомерно высокими.

Квантовые тензорные сети предлагают более экономичные подходы

В ответ на это появляется новый подход, который делает ИИ более доступным, эффективным и адаптируемым к локальным условиям: квантовые тензорные сети. Эти сети предлагают ряд преимуществ по сравнению с традиционными методами сжатия. Вместо создания все более крупных моделей, внимание переключается на сжатие существующих моделей путем тензоризации. Это процесс выявления слоев в нейронной сети, которые подходят для сокращения, и разбиения больших матриц в этих слоях на более мелкие, взаимосвязанные матрицы, а также квантование, то есть снижение численной точности. Это позволяет сократить размер моделей на величину до 95% при сохранении производительности и значительном повышении эффективности.

По сути, эта технология реструктурирует представление нейронных сетей, устраняя ненужные параметры и сохраняя при этом их полную функциональность. Метод основан на идентификации и сохранении только наиболее релевантных корреляций между точками данных.

В результате получается модель ИИ, достаточно компактная для запуска на устройствах, которые ранее были исключены из внедрения ИИ. Благодаря упрощению внутренней архитектуры сжатые модели также быстрее обрабатывают запросы (скорость измеряется в токенах в секунду), что приводит к более быстрым взаимодействию с пользователем, откликам системы и результатам. Также улучшается энергоэффективность: поскольку для каждого вывода требуется меньше операций, потребность в энергии может снизиться на величину до 50%, что сокращает эксплуатационные расходы. Наконец, есть решающее преимущество в виде независимости от аппаратного обеспечения. Эти сверхсжатые модели могут быть развернуты на широком спектре платформ, от крупных серверов до периферийных устройств, что позволяет избежать зависимости от редких или дорогих кластеров графических процессоров и подключения к Интернету.

Хотя теоретические основы тензорных сетей происходят из квантовой механики, их применение в ИИ полностью совместимо с традиционной цифровой инфраструктурой. Таким образом, идеи квантовой науки приносят прямую пользу традиционным вычислительным средам.

Результатом является гораздо более компактная модель ИИ, которая работает так же хорошо, а в некоторых случаях даже лучше, чем исходная LLM.

От облака к периферии: локализованные модели ИИ

До сих пор в секторе ИИ доминировала архитектура, ориентированная на облако. Но сверхсжатые модели ИИ кардинально меняют эту парадигму. Будучи гораздо меньшими, более эффективными и более подходящими для процессоров устройств, они позволяют перейти к локальным моделям развертывания на так называемой периферии. Такой подход не только более практичен, но и открывает множество новых возможностей для применения.

Примеры можно найти во многих отраслях. Например, в автомобилях системы ИИ для навигации и безопасности могут работать непосредственно на борту, независимо от облачных сервисов, которые могут быть неработоспособны в туннелях или отдаленных районах. Бытовая электроника и устройства для «умного дома» могут предлагать функции ИИ в автономном режиме, что значительно повышает конфиденциальность и юзабилити. В промышленной автоматизации периферийный ИИ может контролировать машины и оптимизировать рабочие процессы без отправки конфиденциальных данных за пределы организации, что является особым преимуществом для регулируемых секторов, таких как биологические науки, или для мест без стабильного подключения к Интернету.

В здравоохранении конфиденциальность является основным этическим требованием, поскольку записи о пациентах относятся к наиболее конфиденциальным наборам данных. Сжатые модели ИИ позволяют запускать сложные модели на локальных устройствах или в безопасных частных облаках, сохраняя данные пациентов под защитой брандмауэра организации.

Оборонная отрасль также извлекает выгоду из сжатых моделей ИИ. Современные военные операции все в большей степени полагаются на анализ данных реального времени, поступающих от дронов, систем наблюдения и средств поддержки принятия тактических решений. Поскольку эти системы часто развертываются в удаленных районах без стабильного подключения к облаку или Интернету, локальные решения на базе ИИ имеют решающее значение.

Сжатые модели ИИ для более устойчивых промышленных процессов

Одно из наиболее убедительных подтверждений эффективности сжатых моделей ИИ было получено на промышленном предприятии в Европе. Цель состояла в том, чтобы уменьшить размер существующей модели ИИ, используемой в производстве автомобильных компонентов, без ущерба для производительности.

С помощью передовых методов сжатия на основе тензорных сетей размер модели был значительно уменьшен. В результате было обеспечено примерно двукратное увеличение скорости отклика и улучшена интеграция модели в существующие системы завода, а энергопотребление модели было сокращено примерно на 50%. Сжатая модель ИИ позволила принимать локальные решения в режиме реального времени — в областях робототехники, контроля качества и технического обслуживания — без отправки данных на удаленные серверы или использования нестабильного доступа в Интернет.

Для производственных компаний, приверженных принципам бережливого производства и экологической ответственности, эти достижения означают не только ощутимое снижение затрат, но и более быстрый путь к более интеллектуальному и эффективному производству.

Сжатый ИИ открывает новые возможности для промышленности

От производства до операций — сжатые модели позволяют организациям быстрее получать инсайты, повышать энергоэффективность и обеспечивать бóльшую конфиденциальность данных без ущерба для точности.

ИИ теперь определяется не размером, а изобретательностью. Сжатый ИИ представляет собой важную эволюцию в способах разработки, внедрения и использования моделей машинного обучения. Это означает не снижение производительности, а скорее готовность отрасли к настоящему и будущему.