Глава Microsoft Сатья Наделла опубликовал свои мысли по поводу технологии искусственного интеллекта (ИИ) в американском онлайновом журнале Slate. Эксперты по ИИ в целом с ним согласны, но считают, что сформулированные им правила порождают ряд вопросов.

Наделла призывает пересмотреть отношение к ИИ и вместо того, чтобы фокусироваться на перспективах и опасностях, которые сулит эта технология, сосредоточиться на вопросах организации взаимодействия между машинами и людьми для расширения возможностей интеллекта: «Преимущества такой совместной работы часто теряются в ходе обсуждения того, чем хорош или плох искусственный интеллект».

Он сформулировал десять принципов и целей, которые следует учитывать при разработке ИИ, чтобы успокоить общественность относительно потенциального вреда этой технологии. Шесть правил касаются технологии искусственного интеллекта.

1. ИИ должен быть направлен на помощь человеку и уважение его независимости. Например, способные к сотрудничеству роботы должны выполнять опасные работы, такие как добыча ископаемых, которые могут поставить жизнь человека под угрозу.

2. Необходима прозрачность ИИ. Мы должны знать, как работает эта технология и по каким правилам. Информация о том, как ИИ выполняет анализ и воспринимает окружающий мир, должна быть публично доступной.

3. Нужно, чтобы ИИ повышал эффективность, но не задевал достоинство людей, учитывая культурные традиции и их разнообразие. Для этого требуется более глубокое, широкое и разнообразное участие населения в разработке ИИ-систем.

4. При проектировании ИИ очень важно предусмотреть защиту личной информации. Применение самых современных и изощренных средств защиты позволит предохранить персональную и групповую информацию и тем самым завоевать доверие людей.

5. Необходимо обеспечить контролируемость ИИ с точки зрения алгоритмов, чтобы человек смог предотвратить неумышленный вред. Другими словами, нужно учитывать ожидаемые и неожиданные действия.

6. ИИ должен предохранять от предвзятости. Задача состоит в том, чтобы эвристические правила не использовались для дискриминации.

Еще четыре правила касаются людей, точнее тех качеств, на которых должны фокусироваться будущие поколения.

7. Эмпатия. Понимание мыслей и чувств других людей, способность к взаимодействию и построению отношений будет критически важной в мире «человек-ИИ».

8. Образование. Чтобы создавать инновации, которые мы сейчас даже не можем вообразить, и управлять ими, необходимо повышать инвестиции в образование. Но развитие знаний и навыков, необходимых для реализации этой новой технологии в широком масштабе, является сложной социальной проблемой, для решения которой потребуется немало времени.

9. Креативность. Машины будут обогащать и повышать наши творческие способности.

10. Рассудительность и контролируемость. Мы, возможно, могли бы принять компьютерную диагностику или судебное решение, но нужно чтобы человек был готов нести ответственность за результаты.

Эксперты считают, что данные правила являются хорошим началом для продвижения идей ИИ в массы, но некоторые из них легче сформулировать, чем выполнить. Например, если один ИИ-алгоритм является прозрачным, а другой более производительным, как часто бывает в машинном обучении, вряд ли компания, работающая на конкурентном рынке, предпочтет прозрачный.

Сформулировать правила и цели недостаточно, утверждают эксперты. Следующим шагом должно стать создание стимулов для достижения поставленных целей, а это очень сложная задача.

Версия для печати