Клиентам K2 Cloud (подразделение К2Тех) стали доступны в аренду новые типы графических ускорителей (GPU): NVIDIA Tesla H100 80 ГБ и L40s 48 ГБ. Также под заказ клиентам могут быть предоставлены передовые NVIDIA H200 Tensor Core GPU 141 ГБ. На сегодняшний день данные типы видеокарт существуют у ограниченного количества компаний на рынке.

GPU as a Service (GPUaaS) доступен как в формате почасовой аренды (pay as you go), так и по коммитированным контрактам на 3, 6 или 12 месяцев со скидкой до 25%. На сегодняшний день срок актуальности GPU составляет всего 1-2 года, что зачастую делает нецелесообразным закупку оборудования для собственной on premise инфраструктуры, так как оно быстро устаревает. Использование GPUaaS позволяет компаниям снижать затраты на 75% на инфраструктуру для ML-моделей и высокопроизводительных вычислений и ускорять запуск новых проектов.

Модель GPUaaS применима не только для экспериментов с ML и обучения моделей, но и для продуктивной работы ИИ-приложений, высокопроизводительных вычислений, работы с графикой и анимацией, 3D-моделирования. При этом под каждую из задач необходимы видеокарты разной мощности. Например, для обучения ИИ-моделей может потребоваться мощная видеокарта NVIDIA Tesla H100, но на короткий срок — от 1 дня до нескольких месяцев. После того как этот этап завершен, заказчики могут перейти на менее мощные карты для повседневного инференса. Таким образом, GPUaaS позволяет гибко управлять вычислительными ресурсами и оптимизировать расходы на инфраструктуру.

Заказчики K2 Cloud могут развернуть GPU на выделенных серверах с большим объемом CPU и RAM или в виртуальных машинах с параметрами, подобранными под конкретные запросы. Поддерживается использование до 4 видеокарт внутри одной виртуальной машины с технологией NVLink, что позволяет решать ресурсоемкие задачи: от обучения моделей генеративного ИИ и анализа больших данных до сложного моделирования.

«GPUaaS открывает бизнесу доступ к мощностям, которыми еще недавно пользовался лишь ограниченный круг крупнейших организаций. Теперь более широкий пул компаний может реализовывать задачи разработки и внедрения решений на базе искусственного интеллекта и машинного обучения с минимальными капиталовложениями и без рисков, связанных с быстрым устареванием оборудования», — прокомментировал Сергей Зинкевич, CEO K2 Cloud.