Искусственный интеллект — свидание с дьяволом или естественная эволюция? Редко возникало столько споров о современном эффекте и будущих последствиях технологии, как сегодня по поводу искусственного интеллекта (ИИ), пишет старший вице-президент Edelman AI Center of Expertise Гари Гроссман на портале InformationWeek.

Возможно, такие дебаты велись на коллегии кардиналов в XV веке, когда Гуттенберг изобрел печатный пресс. В последнее время дискуссии об ИИ совершили необычный поворот, поставив под вопрос сами основы данной технологии. Это привело к появлению недавно статей в Science и The Guardian, в которых об ИИ говорится как об алхимии или опытах с магией.

Сегодня машинное обучение и некоторые его варианты, включая глубокое обучение и нейронные сети, являются главными формами реализации ИИ, и теперь они ставятся под вопрос. По одну сторону баррикад находятся те, кто считает, что машинное обучение немногим отличается от алхимии. Али Рахими, специалист по ИИ из Google, указывает, что исследователи не знают, почему одни алгоритмы работают, а другие нет, и считает, что для создания научных основ машинного обучения необходимо больше строгости. В статье в MIT Technology Review также утверждается, что «по своей природе машинное обучение представляет особенно темный черный ящик» и что функции его алгоритмов непрозрачны даже для тех, кто их создает.

В статье в Guardian Джон Нотон утверждает, что «в обоих направлениях были достигнуты определенные результаты. Алхимики открыли металлургию и изготовление стекла, исследователи машинного обучения создали машины, способные победить чемпионов среди людей в игре в Го и идентифицировать объекты на картинках». Он идет дальше и обвиняет машинное обучение в том, что оно является магией, поскольку нельзя объяснить, как оно работает.

На фоне растиражированных слов Элона Маска, что ИИ «вызывает демона» и предвещает наступление конца света, всемирно известный физик Стивен Хокинг придерживался более умеренных взглядов. Тем не менее, его слова, произнесенные незадолго до смерти, звучат зловеще: «Успех в создании эффективного ИИ мог бы стать величайшим событием в истории нашей цивилизации. Или самым страшным. Мы просто не знаем. Так что мы не можем знать, станет ИИ неограниченным подспорьем или он будет нас игнорировать и отодвинет в сторону или уничтожит нас в принципе».

Другую сторону представляет генеральный директор Google Сундар Пичай, который сказал на Всемирном экономическом форуме 2018 в Давосе: «ИИ — возможно, самая важная вещь, над которой человечество когда-либо работало. Я считаю, что он имеет более фундаментальное значение, чем электричество или огонь». Философ Джейсон Силва говорит, что мы только начинаем понимать, как ИИ изменит наши возможности, и что ИИ приведет к слиянию человека и машины. Генеральный директор Microsoft Сатья Наделла недавно заявил, что ИИ является «определяющей технологией нашего времени».

Силва и соучредитель Wired Кевин Келли считают, что технология, которая в широком смысле включает ИИ, является проекцией человеческого ума. Их довод состоит в том, что технология возникает органично, достоверно и с соблюдением тех же шаблонов, что человек и природа не только на Земле, но, вероятно, и во всей вселенной. Это средство, с помощью которого человек получает контроль над своей средой обитания в целях безопасности и получения преимущества. Приводятся аргументы, согласно которым создаваемая нами технология меняет также наш образ мышления. Но она вполне может быть просто природным биологическим механизмом эволюции человека.

Верно, что специалисты по данным часто не могут объяснить, как и в широком смысле почему работают их алгоритмы ИИ. Например, в статье в Science приводится такой пример из составленной Рахими записки. Когда исследователи удалили большинство сложных компонентов из самого современного алгоритма перевода, он стал лучше и эффективнее переводить с английского на немецкий или французский. Это показывает, что его создатели не знали, что делают те или иные компоненты. Статья в Quartz содержит рекомендации специалистов по данным из компании Alphabet. Они включают несколько шагов к улучшению понимания поведения алгоритмов. Это важно для повышения достоверности машинного обучения и поэтапного прогресса науки.

ИИ пока остается экспериментальной наукой. Но он имеет ту же основу, что и любая другая наука, — мышление человека. Ученые продолжают изучать мозг по многим причинам, в т. ч. для лучшего понимания процесса мышления. Сбор данных, тщательное проведение экспериментов, приобретение знаний, получение воспроизводимых результатов, на которые в дальнейшем можно опираться, — это часть науки. Специалисты по данным продвигаются вперед с целью лучшего объяснения работы своих алгоритмов машинного обучения.

Несмотря на озабоченность по поводу алхимии, результаты работы этих алгоритмов уже весьма впечатляющи и находят широкое применение — от более точных медицинских диагностических инструментов и персонализированного лечения с помощью лекарств до увеличения объема информации, передаваемой по оптоволоконным телекоммуникационным сетям, выявления мошенничества в отчетах о расходах, эмпирического подтверждения, что фибромиалгия представляет реальное заболевание, совершенствования обучения и даже методов идентификации потенциальных школьных стрелков.

Разница между ИИ и алхимией заключается в том, ИИ в отличие от алхимии немедленно дает множество разнообразных преимуществ. То, что мы не можем полностью понять, как работает многоуровневая нейронная сеть, вероятно, не должно удивлять, поскольку люди не всегда могут по-настоящему объяснить собственные мыслительные процессы. Если мы не можем объяснить неожиданные повороты логики и интуиции, которые иногда приводят к прорывам, разве это делает их похожими на алхимию или магию? Нет, мы называем такие внезапные проявления озарениями, прозрениями, проникновениями в суть вещей и гениальностью.

Машинное обучение представляет собой расширение человеческого мышления. Мы не всегда полностью понимаем, как оно работает, но его результаты часто поразительны. Некоторые, как, например, астроном Мишель Таллер, заместитель директора НАСА по научным коммуникациям, считают, что наш биологический род близок к новому шагу в эволюции, когда мы начнем сливаться с ИИ. Будет такая эволюция или нет, ИИ открывает путь в лучшее будущее. Хотя некоторым ИИ может казаться алхимией, он все больше начинает походить на философский камень, превращая данные в золото.

Версия для печати (без изображений)