Компании наращивают инвестиции в искусственный интеллект. О том, как ИТ-службы могут подготовиться к его реализации, на портале InformationWeek рассказывает президент консалтинговой компании Transworld Data Мэри Шеклет.

В ближайшие несколько лет на предприятиях будет появляться все больше приложений и интеграций ИИ. Они потребуют от ИТ-служб разработки новых рабочих процессов и приобретения навыков для их поддержки. К ним относятся методология итеративного тестирования и развертывания приложений, внимание к целостности и очистке данных, определение правил для ИИ, учет этических и юридических аспектов, совместная работа с конечными пользователями и стратегия сопровождения ИИ.

Компании только начинают осваивать эту тему. Как им лучше всего позиционировать ИТ-службу для поддержки разработки и внедрения ИИ?

Где сегодня находится ИИ

Компания AMD опросила 2500 мировых ИТ-руководителей, спросив их в частности об ИИ. Половина респондентов ответила, что готова к внедрению ИИ, но также половина заявила, что их ИТ-служба еще не готова. Другие руководители высшего звена также сообщили, что не уверены в готовности к ИИ.

CNN сообщила, что 42% руководителей компаний, участвовавших в Йельском саммите CEO, не только выразили трепетное отношение к ИИ, но и считают, что ИИ способен «уничтожить человечество» через пять-десять лет. «Это довольно мрачно и тревожно», — прокомментировал профессор Йельского университета Джеффри Зонненфельд.

Выходит, каждая компания чувствует, что ей необходим ИИ для того, чтобы конкурировать, но никто пока не понимает многих неизвестных аспектов ИИ и того, что он привнесет в работу или в мир.

ИТ-отдел оказывается в центре этих страхов и замешательства, поскольку именно он в конечном итоге будет внедрять и поддерживать технологии ИИ.

Что ИТ-отдел должен делать сейчас

Некоторые из первых внедрений ИИ были связаны с такими областями ИТ-операций, как управление безопасностью, управление рабочими процессами и автоматизированное распределение ресурсов. Все эти области являются зрелыми техническими ИТ-дисциплинами, поэтому здесь не было большой опасности от неизвестных переменных, обстоятельств или решений, которые принимает ИИ. И риски, связанные с ИИ, оставались низкими как для ИТ-отдела, так и для предприятия.

Использование ИИ в ИТ-операциях также дает ИТ-службе ранний опыт работы с новой технологией, который может быть использован компаниями при внедрении ИИ в областях, не связанных с ИТ. Однако на этом ранние преимущества, связанные с ИИ, которые получены ИТ-отделом в результате собственного применения, могут и закончиться.

Например, что произойдет, если приложение ИИ для бизнеса начнет выдавать ошибочные результаты или откажет в работе? Кто несет ответственность? Откуда вы знаете, что приложение ИИ и то, чему оно само себя учит с помощью машинного обучения, будет продолжать придерживаться правовых, этических и управленческих стандартов, которые устанавливает для себя компания? Наконец, кто принимает решение о том, что система ИИ уже достаточно зрелая, чтобы начать работу?

В недавних беседах с CIO большинство из них утверждало, что эти вопросы в их компаниях не рассматриваются.

Четыре краеугольных камня ответственности ИТ-отдела за ИИ

Это разработка, развертывание, управление и поддержка ИИ.

Разработка ИИ. Как и Agile, методология разработки ИИ будет итеративной, но в отличие от Agile, ИИ-проекты никогда не закончатся. Это связано с тем, что условия, приоритеты и информация в бизнесе постоянно меняются, как и то, как мы — и ИИ — думаем о них.

После того как бизнес определил сценарий использования, модель ИИ проектируется, строится и тестируется на большом и разнообразном массиве данных из различных источников. Золотым стандартом ее точности является 95%-ное совпадение ее выводов с выводами, сделанными на основе тех же данных предметными экспертами-людьми. В некоторых случаях, например при прогнозировании долгосрочных общих тенденций, пользователей может устраивать точность в 70%. В любом случае необходимо определить метрику точности ИИ.

В процессе разработки ИТ-специалисты, специалисты по анализу данных и конечные пользователи внедряют алгоритмы МО, которые позволяют совершенствовать модели ИИ и его мышление по мере выявления программным обеспечением ИИ новых закономерностей в данных и их последствий.

Чтобы достичь 95%-ной точности решений и результатов, ИИ должен работать с высококачественными и чистыми данными. Подготовкой этих данных и проверкой данных, импортируемых от других поставщиков, должны будут заниматься ИТ-специалисты.

Необходимо также проверять поставщиков на чистоту данных, безопасность и управление. Эти задачи, скорее всего, будут возложены на ИТ-службу.

Развертывание ИИ. Система ИИ может быть развернута после того, как она достигнет целевого показателя точности. Развертывание может быть достаточно простым, если ИИ будет использоваться как отдельная система. Однако если ИИ должен быть интегрирован в другие приложения, необходимо учитывать влияние на существующие системы и бизнес-процессы.

Например, если система ИИ будет использоваться в качестве инструмента оценки, позволяющего определить, на какие кредиты может претендовать заявитель, необходимо интегрировать ее в процесс андеррайтинга кредитов. Это повлечет за собой изменения в рабочем процессе подготовки кредитов, в работе андеррайтеров и в других системах.

На первый взгляд, пользователи, ИТ-бизнес-аналитики и разработчики выполняют множество интеграций систем/процессов, поэтому изменение процесса принятия решения о выдаче кредита не должно представлять особой сложности. Однако с интеграцией ИИ все обстоит иначе. Наборы правил ИИ постоянно пересматриваются, и это может в любой момент внести сбои в окружающие процессы и системы. Изменения также могут превратить обучение (и переобучение) сотрудников в непрерывный процесс. ИТ-инсталляция и текущая поддержка должны быть готовы к этому.

Управление ИИ. Стандарты безопасности и управления, которые разрабатывают компании, приходят от регуляторов или аудиторов. Риск, связанный с ИИ, заключается в том, что он может выйти за рамки этих стандартов, поскольку самостоятельно обучается работе с новыми данными.

«Важно, чтобы все понимали, что ИИ будет быстро меняться, — сказал Эрик Шмидт, бывший генеральный директор и председатель совета директоров компании Google. — Негативные факторы довольно глубоки». Среди опасений — то, что у компаний, занимающихся разработкой ИИ, до сих пор «нет решений для вопросов, связанных с алгоритмической предвзятостью или атрибуцией, а также для споров об авторских правах, которые сейчас ведутся в связи с использованием текстов, книг, изображений, фильмов и произведений искусства при обучении моделей ИИ. Ожидается, что возникнет множество других, пока еще не предвиденных юридических, этических и культурных вопросов во всех видах военного, медицинского, образовательного и производственного применения».

Проблема для компаний и для ИТ-служб заключается в том, что закон всегда отстает от технологий. В условиях неустанного развития ИИ жестких и быстрых правил будет немного. Поэтому ИИ рискует нарушить этические и юридические границы. Тогда могут возникнуть судебные дела, которые определят прецедентное право и порядок решения вопросов, связанных с ИИ. Опасность для ИТ-служб и компаний заключается в том, что они могут стать объектами таких прецедентов, получив судебный иск.

CIO могут принять меры, повысив осведомленность советов директоров и генеральных директоров об ИИ как о проблеме управления корпоративными рисками. В повседневной работе, если возникает вопрос об этичности или законности ИИ, следует немедленно обращаться к экспертам по правовым и нормативным вопросам.

Поддержка ИИ. Поддержка ИИ со стороны ИТ-отдела будет осуществляться в нескольких формах:

  • Поддержка в вопросах интеграции ИИ с системами и бизнес-процессами.
  • Поддержка и исправление/перетестирование моделей ИИ, когда эти модели начинают терять точность.
  • Кроме того, разработка стратегии восстановления ИИ после сбоев, если его потребуется временно отстранить от производственной эксплуатации из-за снижения точности.

Удаление любого ИИ-приложения из производства потребует от систем и сотрудников переключения на другие бизнес-процессы на время перенастройки ИИ. Поскольку у ИТ-отдела мало опыта поддержки ИИ в производстве или необходимости перехода на другие бизнес-процессы, ему затруднительно рассчитать среднее время восстановления для ИИ.

Резюме

ИИ потребует от ИТ-отдела новых стратегий разработки и поддержки, а также новых навыков.

Управление поставщиками (и их данными) будет иметь первостепенное значение. С административной стороны ИТ-отдел должен будет активно взаимодействовать с поставщиками данных, чтобы обеспечить соблюдение стандартов качества, управления и безопасности данных. Средства подготовки данных, такие как ETL (extract-transform-load), станут стандартными инструментами в проектах по разработке ИИ. Бизнес-аналитики ИТ-отдела, взаимодействующие с пользователями и специалистами по анализу данных, должны будут продуктивно общаться с обеими группами в процессе разработки, развертывания и поддержки ИИ. Кроме того, постоянное сопровождение систем ИИ будет больше похоже на усилия по обеспечению устойчивости истинности данных, чем на простое смазывание колес систем. В совокупности эти реалии заставят изменить методы разработки, развертывания и поддержки приложений, а также взаимодействия ИТ-службы с пользователями, юристами, регулирующими органами и поставщиками.

Для CIO сейчас самое время наметить направления развития, развертывания и поддержки, пока ИИ еще только зарождается.