Блог

Полмиллиарда долларов на экзистенциальный риск

Сергей Бобровский
26.02.2014 12:19:42

Зачем Гугль играет с цифровым ядерным оружием?

Относительно незамеченной мировыми СМИ проскочила январская покупка Гуглем английского стартапа DeepMind, разрабатывающего некие технологии искусственного интеллекта, за фантастическую на этом рынке сумму 400-500 млн. долл. Вдобавок вообще никакой конкретики об этих технологиях не раскрывается (см. "Загадочная покупка Google"), известно лишь, что стартап специализируется на мощных технологиях машинного обучения. Мировой журналистский мэйнстрим выразил свое "фе" закрытости сделки унылыми сетованиями и шаблонными подозрениями, что дескать "Корпорация добра" пытается все полнее и глубже автоматизировать изучение поведения своих пользователей (конечно, не без этого).

В данном контексте можно припомнить и покупку Гуглем Boston Dynamics, прославившуюся отличным роботом-мулом для американской армии, и даже бесплатную аугментированную игру Google Ingress -- установив клиент на андроид-телефон, надо посещать "порталы", привязанные к физическим точкам (например, различным памятникам), виртуально обороняя их от соперника, связывая "линками", захватывая пространства итп (организованные группы игроков уже покрывали виртуальными полями реальные Европу, США, Австралию...). Когда у Гугля пытались выяснить, с какой целью развивается этот бесплатный проект, ответ прозвучал удивительный: "мы хотим набрать миллиард пользователей". Пока же миллионы игроков по всему миру ежедневно транслируют в Google информацию о своих передвижениях и маршрутах, причем между сторонниками двух противоположных фракций нередко вспыхивают разборки, напоминающие межрелигиозные конфликты...

Покупка DeepMind хорошо укладывается в стратегический тренд движения к технологической сингулярности (компьютер с интеллектом миллионов человечеств -- Artificial General Intelligence -- мгновенно решит все проблемы существования, создаст технологии бесплатного существования, очень длинной жизни -- а может быть, решит уничтожить всю планету http://www.pcweek.ru/idea/blog/idea/5795.php ), где Гугль явно намерен играть первую скрипку. Рэй Курцвейл, главный гуру сингуляристов, в прошлом году пришел на работу в Google, и поварившись на ее технологической кухне, в этом году уже сдвинул свой прогноз наступления сингулярности -- с 2045-го на 2029-й! Google вместе с DeepMind даже сформировали специальный совет по этике, который с привлечением общественности smile:) будет контролировать развитие соответствующих технологий.
Единичные попытки разобраться этическими аспектами данной сделки все же были: вот довольно поверхностная статья от Forbes: "Inside Google's Mysterious Ethics Board".
http://www.forbes.com/sites/privacynotice/2014/02/03/inside-googles-mysterious-ethics-board/

Свежее обсуждение темы мировой айтишной тусовкой:
http://tech.slashdot.org/story/14/02/24/157227/ray-kurzweil-talks-googles-big-plans-for-artificial-intelligence

Интересно, в BMW тоже создана внутренняя группа по этике в связи с приближением эпохи самоходных автомобилей. Знаете, в чем там проблема? Если автомобиль под программным управлением невольно оказывается в аварийной ситуации, и ему предстоит либо врезаться в автобус с детьми, либо свернуть в сторону, упасть с обрыва и убить своего пассажира, какое решение программе принять? А если распознан пассажирский автобус, но очень похоже, что он пуст -- но есть крохотная вероятность, что программа распознавания ошибается и нету времени на более детальный анализ ситуации, как поступить?

Да и само понятие этики в разных культурах различается крайне сильно.
Например, DeepMind сделает очень-очень умного виртуального помощника -- но если с ним станут советоваться преступники? Или, в более мягких вариантах, любовница с помощью AI будет продумывать, как увести из семьи женатого мужчину? smile:)

Далее посмотрим, какие оценки подобным "экзистенциальным" рискам, имеющими очень малую вероятность осуществления, однако сулящим крайне серьезные последствия, дают ведущие AI-специалисты, и куда сегодня движется мировой AI-рынок.

Комментариев: 0

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии

Интересно

Статьи

Большие данные предоставляют компаниям большие возможности
Большинство руководителей компаний знают, как важно иметь стратегию в области больших данных …

Гибкость ритейла требует опоры на собственные ИТ-разработки
Розничная торговля была и остается важным отраслевым направлением использования ИТ. Острая конкуренция …

Цифровая трансформация “Почты России” на базе отечественных ИТ
«Мой отец полагал, что роль правительства должна ограничиваться двумя вещами: не давать людям убивать друг друга …

Пять способов заставить анализ данных работать на вашу компанию
От «запусков на Луну» до инноваций на переднем крае. Ниже один из ведущих директоров …

На пути к голосовому управлению в офисе будущего
По фильму «Космическая Одиссея», который вышел на экран в 1968 г., голосовое управление должно было …

Мы в социальных сетях

PC Week/RE в Facebook PC Week/RE в Контакте PC Week/RE в Google+ PC Week/RE в Одноклассниках PC Week/RE в Twitter

Решения

Сборник статей «Как определить ценность Интернета вещей для бизнеса»
Internet of Things — тренд, который уже сейчас кардинально меняет бизнес во всем мире. И хотя некоторые до сих пор с …

Сервис — это наше «все» в прошлом, настоящем и будущем!
Сервисные центры ГК «Паладин» осуществляют различные виды обслуживания вычислительной техники Hewlett-Packard …

HP SM соединяет лучшие практики с жизнью
Множественный опыт российских и зарубежных компаний показали, что ПО для управления ИТ-услугами помогает упростить …

Администрация Стрежевого подключает к корпоративному документальному серверу eDocLib муниципальные учреждения
Единая информационная система Администрации городского округа Стрежевой (Томская область), базой для которой стали …

Распределительная теплосетевая компания «ОмскРТС» внедрила СЭД «ДЕЛО» в первый месяц своей хозяйственной деятельности
«Территориальная генерирующая компания № 11» (ОАО «ТГК-11»), одна из крупнейших теплоэнергетических бизнес-структур в …

Блог

Продолжение разговора о российских ОС по следам OSDAY'2017
На конференции ОSDAY, которая прошла в конце мая в Москве, я общался с ее участниками, встретился с ...

Обфускация: настало время запутывать программный код
Сколько занимался программирование, занимался изучением соответствующих наук и пытался внести посиль ...

IBM делает еще один важный шаг к квантовым вычислениям
16-ти кубитовый квантовый компьютер теперь доступен в качестве сервиса облачной платоформы IBM Cloud ...

Что мешает использованию в бизнес-аналитике внешних данных?
Издавна для бизнес-анализа компании использовали, в основном, данные, накопленные ими самими в ходе ...

Китай строит собственный квантовый компьютер
Китай, являясь суперкомпьютерным лидером мира (именно в этой стране действует самых быстрый в мире н ...

 

Лидеры читательского рейтинга

Статьи

Записи в блогах

Панорама

Виртуализация и автоматизации ресурсов сети помогут ИТ-отделам соответствовать современным требованиям бизнеса
Рост цифровой экономики ведет к быстрым и серьезным переменам в организациях. ИТ-отделы сталкиваются с требованиями все быстрее предоставлять приложения и службы пользователям.
Гиперконвергированная инфраструктура, отвечающая современным требованиям ведения бизнеса
Цифровая экономика изменила все аспекты ведения бизнеса. Пользователи становятся более требовательными, технологии постоянно развиваются, и от ИТ-отделов ожидают большей адаптивности и быстроты реагирования, чем прежде.
Цифровые рабочие области придут на смену модели клиент-сервер
В наступившей эпохе мобильности и облаков речь идет не только о своевременном предоставлении приложений, но также об упрощении процессов, ускоряющих выполнение рабочих задач.
ASUS Transformer 3 Pro: непревзойдённый универсал
В ходе масштабной пресс-коференции, которая предваряла открытие прошлогодней выставки Computex 2016, глава ASUS Джонни Ши продемонстрировал немало выдающихся новинок, от смартфонов серии ZenFone 3 до домашнего робота-помощника Zenbo.
Компания “Терн” расширяет горизонты бизнес-анализа
Прошедшая в Москве Ежегодная конференция одного из лидеров отечественного рынка BI — компании «Терн» …

Интересно

 

Создание сайта - студия iMake
© 2017 АО «СК ПРЕСС».
Информация об авторских правах и порядке использования материалов сайта.
Правила поведения на сайте.

На главную PC Week/RE  |  Об издании  |  Архив номеров  |  Подписка на бумажную версию
Другие проекты «СК ПРЕСС»ITRNБестселлеры IT-рынкаByte/РоссияCRN/REIntelligent Enterprise/REPC Magazine/RE.