В качестве руководителя Центра машинного обучения и корпоративных МО-платформ Capital One, одного из 10 крупнейших банков США, Абхиджит Бозе руководит командой, которой поручено внедрять основанные на МО и ИИ интеллектуальные решения и практики реального времени как для сотрудников, так и для клиентов. Он поделился с порталом ZDNet опытом такой работы.

В последний год команда Боуза уделяла большое внимание созданию основ для масштабируемого МО.

«Многие компании испытывают трудности с развертыванием МО и масштабированием МО или ИИ в масштабах всей компании, — сказал он. — У вас всегда могут быть группы людей, которые создают что-то на Amazon или экспериментируют с моделями МО на собственных данных, а затем все просто проваливается. Самое сложное начинается, когда приходит время перейти к продакшн, а затем поддерживать эту модель в рабочем состоянии 24 часа в сутки 7 дней в критически важных приложениях, таких как мошенничество в транзакциях».

Чтобы решить эту проблему, Capital One использует три подхода, объяснил Боуз: создание фундаментальных платформ, обеспечение ответственного и хорошо управляемого ИИ и наем нужных специалистов.

Создание базовой адаптируемой платформы

«Во-первых, нам нужно строить первоклассные платформы МО, которые могут масштабироваться и адаптироваться к последним тенденциям — это направление развивается очень быстро. Поэтому фундамент нашей платформы должен быть устроен таким образом, чтобы мы могли очень быстро адаптироваться к различным библиотекам, появляющимся каждые шесть месяцев, и различным технологиям», — отметил Боуз, приведя в качестве примера переход от использования базовых контейнеров на AWS к использованию полноценных конвейеров Kubeflow на AWS. «Это очень сложный способ машинного обучения, которым занимаются лишь немногие технологические компании. Поэтому платформа должна быть фундаментальной, а также очень хорошо выстроенной. Сейчас компания уделяет этому большое внимание», — пояснил он.

Сделать ИИ ответственным и хорошо управляемым

«Мы также хотим строить машинное обучение ответственным и хорошо управляемым способом. У нас есть множество средств контроля, которые мы применяем к нашему текущему поколению моделей МО, но некоторые из них ручные, а некоторые немного более автоматизированные, — продолжил он. — Мы хотим построить многие элементы управления таким образом, чтобы это могло ускорить некоторые из наших развертываний, но в то же время мы подходим к этому очень вдумчиво. Когда нам нужно замедлиться, мы замедляемся. Мы не собираемся жертвовать ответственным ИИ ради скорости или ценности для бизнеса. Поэтому необходимо провести множество исследований в области объяснимого ИИ, чем мы сейчас и занимаемся. Мы проводим большую работу в инженерной сфере, чтобы начать внедрять эти исследования в платформы».

Боуз отметил, что операции Capital One полностью выполняются на инфраструктуре AWS. По его словам, работа целиком в облаке облегчает ответственное управление ИИ.

«Мы хотим мыслить гораздо шире, чем другие компании, — сказал он. — Если задуматься, то во многих компаниях, где ваши данные могут находиться в 10 различных системах, вы не можете применять контроль единообразно. Вы даже не можете определить общие стандарты и при этом масштабироваться. Каждый проект в каждой из этих изолированных систем будет очень болезненным. Поэтому мы стремимся к цельному пониманию того, что значит для нас ответственный ИИ».

Воспитание талантов

«Третье, на чем мы сосредоточились, — это наши специалисты. Мы понимаем, что и удержание, и набор персонала очень важны для нас, особенно с учетом того, что происходит на рынке, — рассказал Боуз. — Для того чтобы наши внутренние сотрудники имели возможность карьерного роста, мы разработали новую программу для МО-инженеров, которую могут пройти наши нынешние инженеры». По его словам, это комбинация онлайн-курсов и некоторых курсов под руководством инструктора, а затем обучение на рабочем месте. Обучающимся приходится выполнять реальные задачи, строить модели, работать с инфраструктурой для конвейеров данных и конвейеров МО, так что они действительно проходят обучение, чтобы стать сертифицированным инженером МО. И по окончании обучения они могут стать МО-инженерами в каких-то из команд компании.

«Кроме того, мы также нанимаем МО-инженеров извне в этот новый трудовой коллектив, который мы создали... Как только вы создаете трудовой коллектив, вы должны думать о карьере, управлении эффективностью — каковы ваши ожидания от этого таланта? Вы должны быть уверены, что у него есть четкий путь развития в компании, — считает Боуз. — Подбирать персонал извне несколько проще. Если вы посмотрите на технологические компании, такие как Facebook или Google, то у них есть четкое разделение ролей: есть data scientist, есть инженер машинного обучения. Но многие компании по факту смешивают эти навыки».