Блог

Сколь велик сегодня искусственный интеллект?

Сергей Бобровский
27.02.2014 11:40:50

Оцениваем потенциальные тематические риски.

В продолжение разбора покупки Гуглем AI-стартапа DeepMind
http://www.pcweek.ru/idea/blog/idea/6343.php

Стоит отметить, что лидеры DeepMind отлично осведомлены о потенциале технологической сингулярности. Вот научный труд одного из основателей этого стартапа, математика Shane Legg, на тему о машинном суперинтеллекте, избравшего в качестве эпиграфа цитату из книги Ричарда Докинза "Бог как иллюзия".
http://www.vetta.org/documents/Machine_Super_Intelligence.pdf

Несложно найти заброшенный блог Shane http://www.vetta.org/ где он проявляется однозначным "активистом" движения сингуляристов, регулярно участвовал в тусовке рационалистов Юдковского LessWrong (переводы на lesswrong.ru). Еще в конце 2011-го Shane, в частности, полагал, что AGI появится в промежуток 2025-2028 (не после контактов ли с ним в Гугле Курцвейл так изменил свои взгляды?), и спрогнозировал, что уже в текущем десятилетии появится прототип AGI -- система с базовыми функциями зрения, обработки звука-речи, самостоятельно передвигающаяся, способная общаться на естественном языке -- а самое главное, что всем этим вещам она будет учиться самостоятельно, а не реализовывать запрограммированные функции.

Его оценки потенциальных рисков AI:
http://lesswrong.com/lw/691/qa_with_shane_legg_on_risks_from_ai/
Вероятность создания AGI: 10%, 50%, 90% - 2018, 2028, 2050.
AI он назвал риском текущего столетия номер один.

Подозрение, что полмилллирада долларов Гугль заплатил не столько за технологии DeepMind, сколько за мозг Shane, который утешает нас так: "если суперинтеллект вздумает в конечном итоге избавиться от человечества, то он сделает это очень быстро и эффективно".
http://www.huffingtonpost.com/2014/01/29/google-ai_n_4683343.html

А что сегодня происходит в мире классического искусственного интеллекта AI, который, впрочем, на глазах сдвигается в сторону AGI после немеряных коммерческих инвестиций Google и др.?
IEEE Computational Intelligence Society насчитывает 7 тыс. членов -- это 8% от общей численности IEEE Computer Society. По оценкам Bureau of Labor Statistics, в США работает 27 тыс. специалистов по ИИ. В ACM Special Interest Group on Artificial Intelligence -- тысяча членов, в International Neural Network Society в два раза больше. Из 1360 компьютерных изданий, учтенных Microsoft Academic Search, 8-13% относятся к AI. Процент публикаций на тему (около-)AI также стабилен уже много лет: 10-20%. Но в абсолютных цифрах в период 1995-2010 он увеличивается на 50% каждые пять лет. Доля AI-конференций -- 16% от всех айтишных. 13% призов ACM Turing Award приходится на AI-тематику. В 2011-м National Science Foundation с годовым бюджетом 636 млн. долл. выделил $169 млн. на Information and Intelligent Systems, где направление Robust Intelligence получило примерно 10% бюджета NSF (ежегодно подрастая на 5%).

Вот несколько свежих примеров деятельности AI-ученых этого года.

Andre Platzer, профессор из Карнеги-Меллона, специализируется на инструметах формальной верификации кибер-физических систем. Его система KeYmaera используется для исключения коллизий в Европейской системе управления транспортом.
http://symbolaris.com/info/ETCS.html
В ней используется некая differential dynamic logic. Профессор полагает, что любая конкретная теория для универсальных роботов будет ограниченной, так как всегда подразумевает использование моделей -- он же сторонник системы систем, объединяющей самые разные походы -- детерминированные, недетерминированные, вероятностные, конкурентные -- для достижения заданной цели. При этом задачи планирования поведения в реальном мире остаются NP-трудными, и классическими ИТ-подходами нужной эффективности не добиться.
Методы верификации тут не слишком помогут, потому что они отвечают на вопрос "строю ли я систему правильно?", однако не дают ответа на метасистемную валидацию "правильную ли систему я построил?"...

Gerwin Klein, профессор из Australia’s National Centre of Excellence for ICT Research,
http://www.nicta.com.au/pub?id=7371
о формальной верификации кода (важно для задач автоматической кодогенерации):
- если код исходно не пишется под верификацию, автоматически верифицировать его крайне сложно;
- соответственно, программистам (прежде всего Open Source) желательно это учитывать, активнее использовать абстракции, модульность и поддерживать ясную архитектуру;
- в дополнение к типовым методам полной верификации кода появляются более практичные схемы вероятностного анализа, исходящие из того, что практическая работа программы сама по себе вероятностна;
- если мы проектируем систему с исходно непредсказуемым поведением (это, в частности, все системы, использующие алгоритмы машинного обучения), теоретически невозможно сделать их абсолютно безопасными...

Комментариев: 0

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии

Интересно

Статьи

Большие данные предоставляют компаниям большие возможности
Большинство руководителей компаний знают, как важно иметь стратегию в области больших данных …

Гибкость ритейла требует опоры на собственные ИТ-разработки
Розничная торговля была и остается важным отраслевым направлением использования ИТ. Острая конкуренция …

Цифровая трансформация “Почты России” на базе отечественных ИТ
«Мой отец полагал, что роль правительства должна ограничиваться двумя вещами: не давать людям убивать друг друга …

Пять способов заставить анализ данных работать на вашу компанию
От «запусков на Луну» до инноваций на переднем крае. Ниже один из ведущих директоров …

На пути к голосовому управлению в офисе будущего
По фильму «Космическая Одиссея», который вышел на экран в 1968 г., голосовое управление должно было …

Мы в социальных сетях

PC Week/RE в Facebook PC Week/RE в Контакте PC Week/RE в Google+ PC Week/RE в Одноклассниках PC Week/RE в Twitter

Решения

Сборник статей «Как определить ценность Интернета вещей для бизнеса»
Internet of Things — тренд, который уже сейчас кардинально меняет бизнес во всем мире. И хотя некоторые до сих пор с …

Сервис — это наше «все» в прошлом, настоящем и будущем!
Сервисные центры ГК «Паладин» осуществляют различные виды обслуживания вычислительной техники Hewlett-Packard …

HP SM соединяет лучшие практики с жизнью
Множественный опыт российских и зарубежных компаний показали, что ПО для управления ИТ-услугами помогает упростить …

Администрация Стрежевого подключает к корпоративному документальному серверу eDocLib муниципальные учреждения
Единая информационная система Администрации городского округа Стрежевой (Томская область), базой для которой стали …

Распределительная теплосетевая компания «ОмскРТС» внедрила СЭД «ДЕЛО» в первый месяц своей хозяйственной деятельности
«Территориальная генерирующая компания № 11» (ОАО «ТГК-11»), одна из крупнейших теплоэнергетических бизнес-структур в …

Блог

Продолжение разговора о российских ОС по следам OSDAY'2017
На конференции ОSDAY, которая прошла в конце мая в Москве, я общался с ее участниками, встретился с ...

Обфускация: настало время запутывать программный код
Сколько занимался программирование, занимался изучением соответствующих наук и пытался внести посиль ...

IBM делает еще один важный шаг к квантовым вычислениям
16-ти кубитовый квантовый компьютер теперь доступен в качестве сервиса облачной платоформы IBM Cloud ...

Что мешает использованию в бизнес-аналитике внешних данных?
Издавна для бизнес-анализа компании использовали, в основном, данные, накопленные ими самими в ходе ...

Китай строит собственный квантовый компьютер
Китай, являясь суперкомпьютерным лидером мира (именно в этой стране действует самых быстрый в мире н ...

 

Лидеры читательского рейтинга

Статьи

Записи в блогах

Панорама

Виртуализация и автоматизации ресурсов сети помогут ИТ-отделам соответствовать современным требованиям бизнеса
Рост цифровой экономики ведет к быстрым и серьезным переменам в организациях. ИТ-отделы сталкиваются с требованиями все быстрее предоставлять приложения и службы пользователям.
Гиперконвергированная инфраструктура, отвечающая современным требованиям ведения бизнеса
Цифровая экономика изменила все аспекты ведения бизнеса. Пользователи становятся более требовательными, технологии постоянно развиваются, и от ИТ-отделов ожидают большей адаптивности и быстроты реагирования, чем прежде.
Цифровые рабочие области придут на смену модели клиент-сервер
В наступившей эпохе мобильности и облаков речь идет не только о своевременном предоставлении приложений, но также об упрощении процессов, ускоряющих выполнение рабочих задач.
ASUS Transformer 3 Pro: непревзойдённый универсал
В ходе масштабной пресс-коференции, которая предваряла открытие прошлогодней выставки Computex 2016, глава ASUS Джонни Ши продемонстрировал немало выдающихся новинок, от смартфонов серии ZenFone 3 до домашнего робота-помощника Zenbo.
Компания “Терн” расширяет горизонты бизнес-анализа
Прошедшая в Москве Ежегодная конференция одного из лидеров отечественного рынка BI — компании «Терн» …

Интересно

 

Создание сайта - студия iMake
© 2017 АО «СК ПРЕСС».
Информация об авторских правах и порядке использования материалов сайта.
Правила поведения на сайте.

На главную PC Week/RE  |  Об издании  |  Архив номеров  |  Подписка на бумажную версию
Другие проекты «СК ПРЕСС»ITRNБестселлеры IT-рынкаByte/РоссияCRN/REIntelligent Enterprise/REPC Magazine/RE.