НовостиСобытияКонференцииФорумыIT@Work
Идеи и практики автоматизации:

Блог

Как закручивать гайки на злом искусственном интеллекте?

Сергей Бобровский
21.03.2014 16:04:19

Эссе на тему "потусторонних" ИТ-инноваций, которые могут революционизировать мировой ландшафт уже в ближайшие месяцы.

Если некая страна или крупная корпорация захочет совершить рывок в направлении технологической сингулярности и Artificial General Intelligence (см. "Сколь велик сегодня искусственный интеллект?" http://www.pcweek.ru/idea/blog/idea/6351.php ), как быстро и сколь много она сможет задействовать дополнительные вычислительные ресурсы? Если правительство считает, что разработка AGI представляет реальную угрозу, как быстро оно сможет ограничить массово доступные вычислительные мощности? Сколько дополнительных мощностей можно получить мгновенно-втихомолку, просто задействовав простаивающие компьютеры?

Ответам на эти вопросы посвящен вот этот обзор:
http://intelligence.org/wp-content/uploads/2014/02/Naik-Distribution-of-Computation.docx

Сегодня экспериментаторам с экзистенциальными ИТ-рисками ("Полмиллиарда долларов на экзистенциальный риск" http://www.pcweek.ru/idea/blog/idea/6343.php ) становится доступной все большая распределенная вычислительная мощь. Стимулируют эти процессы отнюдь не мэйнстрим (облака, бигдата иже с ними), а точечные и малоизвестные технологии, напрямую связанные с закрытыми интересами крупнейших финансово-политических конгломератов. К таковым надо отнести:
- высокочастотный трейдинг (high-frequency trading): в конце 2013-го уже 60% торгов в США выполняли HFT-боты. HFT отличается изощренной алгоритмистикой, часто в силу патентованности недоступной масс-рынку, и неразрывно связанной с Big Data;
- отсюда следующий тренд: инвестиционная позиция удерживается подчас лишь миллисекунды, поэтому крайне критичны как так называемые нано/пикосекундные вычисления при поддержке суперЦОДов -- инвестиции в них растут на дрожжах: Гугль тут в первых рядах, конечно, а рядышком Facebook, Netflix и др: http://www.theregister.co.uk/Print/2014/02/11/google_research_three_things_that_must_b­e_done_to_save_the_data_center_of_the_future/
- ...а также скорость передачи данных между мировыми финансовыми центрами (активно обновляются цифровые каналы Чикаго - Нью-Йорк и Нью-Йорк - Лондон);
- сегодня существенная часть специализированной аналитики и AI ведется не на универсальных ПК -- их составляющая упала в этой сфере с 40% в 1986-м до 3% в 2007-м, а львиная доля приходится на ASIC (интегральные схемы специального назначения) -- этот компьютинг в мире суммарно удваивается каждые 14 месяцев.
Полупроводниковая промышленность реагирует на изменение спроса примерно за полгода, и это время сокращается. Пока не выяснено, устойчив ли крафт биткоинов к ASIC-вычислениям, однако есть подозрения, что неустойчив: в таком случае спрос на ASIC-чипы может подскочить уже в ближайшие месяцы, но главное, что внезапные колебания уже весьма влиятельного биткоина как независимой мировой э-валюты могут повлиять и на мировую экономику.

Человечество управляет планетой не потому, что люди сильнее или быстрее других живых существ, нет -- только потому, что человек, пока, самый умный. Однако уже зарождается в душном мёртвом гуле закрытых наносекундных суперкомпьютерных дата-центров, Artificial General Intelligence - нечто разумное, но принципиально Иное; цифровые создания, которые будут на порядки умнее, чем мы...

Отмечу в тему беспомощность сильных мира сего перед подобным полутеневым хайтеком, который превращается в неукротимую магию нового поколения, развиваясь и влияя на мир неведомыми путями. Вот например мнение американского военного эксперта Colonel Randall Larsen ( http://intelligence.org/2014/03/09/randall-larsen-and-lynne-kidder/ ), много лет возглавлявшего центры по борьбе с терроризмом, гражданской безопасности, работавшим исполнительным директором в комиссии по противодействию распространению оружию массового поражения, итп.

Востребована (и пока отсутствует практически во всех странах) правительственная активность в сфере медицинских контрмер в ответ на биоугрозы нового поколения (как естественные, так и техногенные) -- пока даже сам факт необходимости этих контрмер государства отказываются признавать. Самый оптимальный способ мгновенной доставки оповещений гражданам в чрезвычайных ситуациях -- это интернет-каналы, но пока они доступны далеко не всем. Более того, ни Конгресс США, ни администрация Белого дома, пока не могут (или не хотят) оценить угрозы хайтековского биотерроризма 21-го века. Полвека назад сверхдержавы совместными усилиями ограничили потенциал биологического оружия, способного быстро уничтожать сотни тысяч человек, однако сегодня эти технологии, своей поражающей способностью потенциально эквивалентные ядерным, могут быть реализованы с помощью оборудования, купленного через Интернет, и с помощью патогенов, взятых в естественной природе... Но пока в правительственных верхах нет понимания степени подобных рисков, произрастающих из инновационных информационных технологий, ожидать от них разработки профильных оборонительных средств не приходится.

Комментариев: 3

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии

23.03.2014 06:42:56

Сверхдержавы лучше бы средства в развитие медицины вкладывали , а не в биологическое оружие - что за тяга у человечества к самоуничтожению, никак мне этого не понять.smile:( По поводу трейдинга. На форексе уже хватает торговых роботов, многие вкладываются в ведомые ими счета, но многие нет, потому что опасаются громадного количества ордеров, открываемых роботами. Тем не менее, два самых успешных робота ("Galaxy") (по крайней мере, на той площадке, где я вкладываюсь) успешно справляются даже во время рыночной волатильности и показывают стабильный (это очень важно для крупных инвесторов smile:) ) торг уже как минимум год. Как-то интересовался на тематическом форуме, чем вызвана такая стабильность. Люди пишут, что всё дело в настройках, точнее даже, вся тонкость в этой самой алгоритмике. Не исключено, что спустя несколько лет боты, которые в отличие от трейдеров - даже самых успешных - не поддаются панике, "хладнокровны" и принимают исключительно взвешенные и быстрые решения, начнут замещать этих самых трейдеров. А что уж говорить о фондовом рынке, где крутятся деньги на порядки большие нежели на форексе, неудивительно, что там заключают сделки уже одни машины...

24.03.2014 11:17:06

Насчёт форекса, мне всегда было непонятно, откуда там деньги) Ведь если кто-то выигрывает, значит, кто-то проигрывает. Игровые сервисы ведь предоставляют посредники, какие-нибудь ООО.

24.03.2014 15:46:32

Бытует мнение, что форекс - чисто спекулятивный рынок, где кто-то выигрывает на котировках валютных пар, золота или др. цветметаллов, а кто-то проигрывает, не угадав (не просчитав) тренда.

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии