Ученые: ИИ должен расширять возможности, а не просто автоматизировать

Исследователи Стэнфордского университета пришли к выводу, что успех развития искусственного интеллекта кроется в улучшенном сочетании человеческих и машинных навыков, сообщает портал ZDNet.

ИИ — это всего лишь инструмент, но зато какой мощный. Он может или вознести наш мир в эпоху просвещения и продуктивности, или погрузить нас в эпоху тьмы. Чтобы достичь первого, с ним нужно обращаться очень осторожно и продуманно. Именно здесь технологические лидеры и практики должны сделать шаг вперед и проложить путь, поощряя использование ИИ для расширения и усиления человеческих возможностей. Таковы выводы недавно опубликованных промежуточных итогов исследования Стэнфордского университета «One-Hundred-Year Study on Artificial Intelligence» по отслеживанию и мониторингу развития ИИ, которое запланировано на очень отдаленную перспективу, по крайней мере, до конца столетия.

Впервые его промежуточные итоги были представлены в 2016 г. За их подготовку отвечает постоянный комитет, включающий группу из 17 экспертов, которые призывают использовать ИИ в качестве инструмента для дополнения и усиления человеческих навыков. «В разработку ИИ-помощников должны быть вовлечены все заинтересованные стороны, чтобы создать команду „человек-ИИ“, которая превосходит любого из них по отдельности. Люди должны понимать систему ИИ и ее ограничения, чтобы доверять и использовать ее должным образом, а разработчики систем ИИ должны понимать контекст, в котором будет использоваться система», — полагают исследователи.

ИИ обладает наибольшим потенциалом, когда он расширяет возможности человека, и именно здесь он может быть наиболее продуктивным. «Будь то поиск закономерностей в химических взаимодействиях, ведущих к открытию нового лекарства, или помощь общественным защитникам в определении наиболее подходящих стратегий, существует множество способов, с помощью которых ИИ может расширить возможности людей. Система ИИ лучше справляется с синтезом имеющихся данных и принятием решений в хорошо охарактеризованных частях проблемы, в то время как человек может быть лучше в понимании последствий работы с данными. Скажем, отсутствующие поля данных на самом деле являются сигналом, что какая-то подгруппа испытывает нехватку информации, то есть человек лучше справляется с трудно поддающимися полной количественной оценке целями и творческими действиями, выходящими за рамки того, на что ИИ может быть запрограммирован», — утверждают они.

Полная автономия «не является конечной целью для систем ИИ. Должны быть четкие линии связи между людьми и автоматическими лицами, принимающими решения. В конце концов, успех этой области будет измеряться тем, насколько она расширила возможности всех людей, а не тем, насколько эффективно машины обесценивают тех самых людей, которым мы пытаемся помочь».

В отчете рассматриваются ключевые области, в которых ИИ развивается и вносит изменения в работу и жизнь людей:

• обнаружение. «Новые разработки в области интерпретируемого ИИ и его визуализации значительно облегчают людям более глубокую проверку программ ИИ и их использование для четкой организации информации, чтобы облегчить человеку-эксперту сбор информации воедино и извлечение инсайтов», — отмечается в докладе;
• принятие решений. ИИ помогает обобщать данные, слишком сложные для человека. «Обобщение сейчас используется или активно рассматривается в областях, где необходимо читать и анализировать большие объемы текста — будь то слежение за новостными СМИ, финансовые исследования, поисковая оптимизация или анализ контрактов, патентов или юридических документов. Зарождающийся прогресс в создании высокореалистичных (но в настоящее время не надежных и не точных) текстов, таких как GPT-3, также может сделать эти взаимодействия более естественными»;
• ИИ как помощник. «Мы уже начинаем видеть программы ИИ, которые могут обрабатывать и переводить текст с фотографии, позволяя путешественникам читать вывески и меню. Улучшенные инструменты перевода облегчат взаимодействие людей разных культур. Проекты, которые раньше требовали от человека узкоспециализированных знаний или огромного количества времени, могут стать доступными для большего числа людей, поскольку позволят им искать специалистов для конкретных задач и контекста»;
• обработка языка. Развитие технологий обработки языка поддерживается нейросетевыми языковыми моделями, включая ELMo, GPT, mT5 и BERT, которые «узнают о том, как слова используются в контексте — включая элементы грамматики, значения и основные факты о мире — путем просеивания паттернов в часто встречающихся текстах. Способность этих моделей работать с языком уже используется в таких приложениях, как машинный перевод, классификация текстов, распознавание речи, помощь в написании текстов и чат-боты. Будущие приложения могут включать улучшение взаимодействия человека и ИИ в различных языках и ситуациях»;
• компьютерное зрение и обработка изображений. «Многие подходы к обработке изображений используют глубокое обучение для распознавания, классификации, преобразования и других задач. Время обучения для обработки изображений значительно сократилось. Программы, работающие на ImageNet, массивной стандартизированной коллекции из более чем 14 млн. фотографий, используемой для обучения и тестирования программ визуальной идентификации, выполняют свою работу в 100 раз быстрее, чем всего три года назад». Однако авторы доклада предупреждают, что такие технологии могут стать предметом злоупотреблений;
• робототехника. «В последние пять лет наблюдается последовательный прогресс в интеллектуальной робототехнике, обусловленный машинным обучением, мощными вычислительными и коммуникационными возможностями, а также увеличением доступности сложных сенсорных систем. Хотя эти системы не могут в полной мере использовать все достижения ИИ, в основном из-за физических ограничений среды, в настоящее время доступны скоростные и динамичные робототехнические системы для домашнего и промышленного использования»;
• мобильность. «Оптимистичные прогнозы пятилетней давности о быстром прогрессе в области полностью автономного вождения не оправдались. Причины могут быть разные, но необходимость обеспечения исключительного уровня безопасности в сложных физических условиях делает решение этой проблемы более сложным и дорогостоящим, чем предполагалось ранее. Разработка самоуправляемых автомобилей требует интеграции целого ряда технологий, включая объединение датчиков, планирование и принятие решений с помощью ИИ, прогнозирование динамики автомобиля, перестроение маршрута на лету, связь между транспортными средствами и многое другое»;
• рекомендательные системы. Технологии ИИ, используемые в рекомендательных системах, значительно изменились за последние пять лет, говорится в отчете. «Одним из изменений является практически повсеместное включение глубоких нейронных сетей для лучшего прогнозирования реакции пользователей на рекомендации. Также все чаще используются сложные методы машинного обучения для анализа содержания рекомендованных товаров, а не только метаданных и поведения пользователя в Интернете или при осуществлении покупок».

Авторы отчета предупреждают, что «использование все более сложных моделей машинного обучения для рекомендации продуктов, услуг и контента вызвало серьезную озабоченность по поводу вопросов справедливости, разнообразия, полярности мнений и возникновения пузырей фильтров, на которые намекает система рекомендаций. Эти проблемы выходят за рамки технических решений, которые могут хотя бы частично решить такие вопросы».