НовостиСобытияКонференцииФорумыIT@Work
Идеи и практики автоматизации:

Блог

Полмиллиарда долларов на экзистенциальный риск

Сергей Бобровский
26.02.2014 12:19:42

Зачем Гугль играет с цифровым ядерным оружием?

Относительно незамеченной мировыми СМИ проскочила январская покупка Гуглем английского стартапа DeepMind, разрабатывающего некие технологии искусственного интеллекта, за фантастическую на этом рынке сумму 400-500 млн. долл. Вдобавок вообще никакой конкретики об этих технологиях не раскрывается (см. "Загадочная покупка Google"), известно лишь, что стартап специализируется на мощных технологиях машинного обучения. Мировой журналистский мэйнстрим выразил свое "фе" закрытости сделки унылыми сетованиями и шаблонными подозрениями, что дескать "Корпорация добра" пытается все полнее и глубже автоматизировать изучение поведения своих пользователей (конечно, не без этого).

В данном контексте можно припомнить и покупку Гуглем Boston Dynamics, прославившуюся отличным роботом-мулом для американской армии, и даже бесплатную аугментированную игру Google Ingress -- установив клиент на андроид-телефон, надо посещать "порталы", привязанные к физическим точкам (например, различным памятникам), виртуально обороняя их от соперника, связывая "линками", захватывая пространства итп (организованные группы игроков уже покрывали виртуальными полями реальные Европу, США, Австралию...). Когда у Гугля пытались выяснить, с какой целью развивается этот бесплатный проект, ответ прозвучал удивительный: "мы хотим набрать миллиард пользователей". Пока же миллионы игроков по всему миру ежедневно транслируют в Google информацию о своих передвижениях и маршрутах, причем между сторонниками двух противоположных фракций нередко вспыхивают разборки, напоминающие межрелигиозные конфликты...

Покупка DeepMind хорошо укладывается в стратегический тренд движения к технологической сингулярности (компьютер с интеллектом миллионов человечеств -- Artificial General Intelligence -- мгновенно решит все проблемы существования, создаст технологии бесплатного существования, очень длинной жизни -- а может быть, решит уничтожить всю планету http://www.pcweek.ru/idea/blog/idea/5795.php ), где Гугль явно намерен играть первую скрипку. Рэй Курцвейл, главный гуру сингуляристов, в прошлом году пришел на работу в Google, и поварившись на ее технологической кухне, в этом году уже сдвинул свой прогноз наступления сингулярности -- с 2045-го на 2029-й! Google вместе с DeepMind даже сформировали специальный совет по этике, который с привлечением общественности smile:) будет контролировать развитие соответствующих технологий.
Единичные попытки разобраться этическими аспектами данной сделки все же были: вот довольно поверхностная статья от Forbes: "Inside Google's Mysterious Ethics Board".
http://www.forbes.com/sites/privacynotice/2014/02/03/inside-googles-mysterious-ethics-board/

Свежее обсуждение темы мировой айтишной тусовкой:
http://tech.slashdot.org/story/14/02/24/157227/ray-kurzweil-talks-googles-big-plans-for-artificial-intelligence

Интересно, в BMW тоже создана внутренняя группа по этике в связи с приближением эпохи самоходных автомобилей. Знаете, в чем там проблема? Если автомобиль под программным управлением невольно оказывается в аварийной ситуации, и ему предстоит либо врезаться в автобус с детьми, либо свернуть в сторону, упасть с обрыва и убить своего пассажира, какое решение программе принять? А если распознан пассажирский автобус, но очень похоже, что он пуст -- но есть крохотная вероятность, что программа распознавания ошибается и нету времени на более детальный анализ ситуации, как поступить?

Да и само понятие этики в разных культурах различается крайне сильно.
Например, DeepMind сделает очень-очень умного виртуального помощника -- но если с ним станут советоваться преступники? Или, в более мягких вариантах, любовница с помощью AI будет продумывать, как увести из семьи женатого мужчину? smile:)

Далее посмотрим, какие оценки подобным "экзистенциальным" рискам, имеющими очень малую вероятность осуществления, однако сулящим крайне серьезные последствия, дают ведущие AI-специалисты, и куда сегодня движется мировой AI-рынок.

Комментариев: 0

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии