Модели с открытыми весами, такие как GLM 5.2, отстают от передового ИИ на месяцы, а не на годы, и стоят намного меньше. Опрошенные порталом The New Stack эксперты обсуждают такие аспекты, как привязка к поставщику, безопасность и реальные результаты для разработчиков.

В сфере моделей ИИ назревает тихая революция.

С одной стороны, доминирование проприетарных закрытых моделей укрепилось благодаря глобальному общественному интересу, который распространился на правительства и регулирующие органы от США до Европы и Китая.

Однако, несмотря на это доминирование, Open Source-сообщество, которое редко уклоняется от борьбы, утверждает, что проприетарная модель — это всего лишь корпоративная оболочка вокруг модели, которая включает в себя память, средства наблюдаемости, интеллектуальную маршрутизацию и коннекторы. И называет закрытые модели дорогой оберточной бумагой, поскольку открытые модели примерно в 10 раз дешевле в расчете на токен.

Фактор запугивания со стороны крупных игроков

По словам Бориса Ренски, основателя и генерального директора стартапа Apelogic, занимающегося интеграцией ИИ-агентов, передовые лаборатории «усердно работают над тем, чтобы посеять страх» по поводу уникально «умных», опасных моделей и скорого появления общего ИИ (AGI).

«Этот фактор страха призван отвлечь внимание от результатов тестов, показывающих, что открытые модели отстают всего на четыре месяца и при этом обходятся значительно дешевле, — говорит он. — Это означает, что в большинстве случаев компании платят OpenAI или Anthropic не за интеллект, а за „стандартные корпоративные функции“, связанные с моделью, такие как интеграция IDP, коннекторы MCP и наблюдаемость».

Обеспокоенность Ренски во многом обусловлена ​​его двадцатилетним опытом создания компаний, занимающихся Open Source-инфраструктурой, когда он наблюдал, как «Open Source всегда догоняет и часто превосходит» вертикально интегрированные, проприетарные стеки по возможностям и распространенности. Это повторяющаяся закономерность, которая, по его словам, проявляется в сравнении Windows и Linux, Oracle и MySQL, Docker Enterprise и Kubernetes и т. д.

Неужели снова лицензионная привязка?

«Через несколько лет предприятия будут рассматривать свои многолетние контракты с передовыми лабораториями на большие языковые модели так же, как сегодня рассматривают свои лицензии Oracle, но будет уже слишком поздно. Это потому, что сама структура их бизнеса будет настолько глубоко переплетена с поставщиками проприетарных LLM, что миграция станет невозможной», — поясняет Ренски.

Джонатан Брайс, исполнительный директор Cloud Native Computing Foundation (CNCF), согласен с этим мнением и заявляет, что платить в десять раз больше за четырехмесячное преимущество в развитии возможностей «не является корпоративной стратегией ИИ».

«Это явно неразумный подход или стратегия, — говорит он. — В действительности это очень дорогостоящая форма привязки. Передовые технологии постоянно развиваются, поэтому разработчикам следует использовать открытую инфраструктуру, которая позволяет им менять модели и оборудование, не перестраивая приложение каждый раз, когда меняется рейтинг лидеров».

Прямолинейное мнение Ренски и согласие Брайса по этому вопросу совпадают со смелыми заявлениями компании Featherless, занимающейся разработкой бессерверных платформ для инференса. Организация утверждает, что может «резко сократить затраты на передовые разработки в области ИИ» за счет нативной оптимизации китайской ИИ-модели Z.ai GLM 5.2 с открытыми весами.

Во что обходятся 100 миллиардов токенов в месяц?

Featherless утверждает, что ее нативная оптимизация модели GLM 5.2 на частной облачной инфраструктуре AMD существенно снижает затраты на ИИ-инференс передового уровня — примерно на 94%. По данным компании, для команды разработчиков, работающей при максимальной загрузке и использующей около 100 млрд. токенов в месяц, годовая стоимость GPT-5.5 составляет 1 557 600 долл.; при использовании Claude Opus 4.8 идентичная ежемесячная нагрузка обходится в 1 506 000 долл. в год.

Если 100 млрд. токенов кажутся огромной цифрой, то, согласно отчетам этого года, ссылающимся на исследование Deloitte, одна медицинская компания потратила 1 трлн. токенов за шесть месяцев.

В отличие от проприетарных моделей с подобными оценками затрат, вариант с частным облаком Featherless учитывает переменные факторы и предполагает фиксированную годовую плату в размере 90 000 долл., что позволяет экономить более 1,46 млн. долларов в год при полной загрузке команды разработчиков.

Особенности реализации

Неужели мы действительно дойдем до того, что крупные организации ощутят жизнеспособность моделей с открытым исходным кодом и открытым весом, и в конечном счете разработчик (и пользователь) даже не будет задумываться о том, на каком оборудовании выполняется их инференс?

По словам Исаака Джемала, руководителя отдела Featherless по связям с разработчиками, модели с открытыми весами часто считались неполноценными или неспособными к реальной работе, но теперь «GLM 5.2 перевернула это представление с ног на голову».

Насколько легко было запустить GLM 5.2 нативно на оборудовании AMD вместо Nvidia, и на какие подводные камни следует обратить внимание разработчикам? «Это было непросто; спрос на GLM 5.2 оказался даже выше, чем мы прогнозировали, что стало для нас неожиданностью, поэтому эффективное распределение ресурсов GPU на начальном этапе представляло собой сложную задачу, — рассказывает Джемал. — Наша команда инженеров непосредственно работает с Tensorwave, чтобы обеспечить успешное развертывание этой большой модели».

Существуют операционные ограничения и подводные камни, на которые следует обратить внимание. Джемал советует разработчикам следить за условиями, скрытыми в политиках обеспечения конфиденциальности.

«Крупные лаборатории часто говорят что-то вроде: „Мы не будем регистрировать ваши запросы, кроме случаев, когда это необходимо“, и всё, что их собственные системы сочтут „небезопасным“, всё равно сохраняется, иногда годами, полностью по их собственному усмотрению. Их критерии часто расплывчаты и очень широки. Мы считаем такой подход неправильным, поскольку очень серьёзно относимся к вопросам конфиденциальности», — говорит Джемал.

Что думают разработчики из реального мира?

Очевидно, что решающим фактором здесь является мнение об открытых альтернативах разработчиков и специалистов в области науки о данных.

Кацпер Михалик, инженер-программист польской компании Screen Studio, на практике сравнил модель с открытыми весами (фактически, GLM 5.2) с закрытыми моделями, такими как Opus 4.8, занимаясь исследованием технологического стека для инжиниринга данных, алгоритмических задач и генерации компонентов.

«В исследовательских задачах GLM 5.2 показала результаты, аналогичные или даже лучшие, чем Opus 4.8, — говорит он. — Она имеет широкий охват, активно расширяется на смежные темы и даже создает полезные визуальные графики. Я сравнил GPT, Claude и GLM на задаче, предлагаемой на собеседовании по программированию. GPT хорошо объяснила этапы мышления, но не предоставила код; ответ Claude была кратким и понятным, но без особых подробностей; GLM же заняла промежуточную позицию, то есть изложила чёткие моменты, дала подробное пошаговое объяснение и предложила работающее решение на Python».

По мнению Михалика, при наличии четкого запроса результаты GLM превосходны. Модель также разработала компонент формы React с использованием Zod и TypeScript, который работает корректно, имеет правильную типизацию, корректно обрабатывает поля и отображает четкие ошибки валидации. По умолчанию для стилизации используется Tailwind, что сейчас является стандартной практикой.

«Конечно, GLM не безупречна, — уточняет Михалик. — Когда я попросил ее создать 3D-сцену с помощью React и TypeGPU в одном файле, она не смогла корректно отобразить результат — я ожидал чего-то ближе к версии v0 или Lovable для полной генерации проекта. Кроме того, ближе к вечеру я столкнулся с предупреждениями об ограничении использования».

Безопасность и другие аспекты

Учитывая, что многие из ИИ-моделей с открытым исходным кодом разрабатываются в Китае, нельзя обойти вниманием вопрос безопасности.

Фил Уиттакер, инженер-разработчик опенсорсной CMS-системы Umbraco согласен с тем, что модели ИИ с открытыми весами (не с открытым исходным кодом) отстают от передовых моделей на четыре-пять месяцев, но это не вся история.

«Я не вполне согласен с тем, что эти модели в 10 раз дешевле, поскольку все зависит от масштаба и цели, — говорит он. — И да, большинство моделей с открытыми весами — китайские. Прямое подключение к конечным точкам ИИ поставщика имеет последствия для безопасности и конфиденциальности. Использование стороннего поставщика, такого как Ollama, лучше, но затраты основаны на токенах, а различия в токенизаторах между моделями могут означать снижение стоимости всего на 50%».

Наконец, как уточняет Уиттакер, самостоятельный хостинг — это вариант, но он требует первоначальных капитальных затрат (серверы) и постоянного обслуживания. Он отмечает, что бенчмарки и опыт показывают, что GLM 5.2 «приближается к уровню интеллекта» Opus 4.8 от Anthropic. Однако следует учитывать, что, поскольку эта модель не такая быстрая, она лучше подходит для длительных и независимых задач, чем для инструментов агентного кодирования, где скорость инференса имеет значение.

«Результаты также зависят от качества среды, которая управляет моделью, — добавляет Уиттакер. — По мере того, как модели становятся все более стандартизированными, а потребности обычных пользователей могут удовлетворяться моделями более низкого уровня, среда и ее конфигурация будут приобретать все большее значение».