Окончание. Начало см. PC Week/RE, №№ , , /98.
Терпение было не достоинством человека-машины,
а его стратегическим преимуществом.
Рано или поздно киборгу предопределено засечь свою цель.
Р. Фрейкс. “Терминатор-2”
Сергей Бобровский
Социальные вопросы искусственной жизни
Одно из интересных направлений искусственной жизни (ИЖ) - проблема моделирования экономических, социальных и культурных отношений в обществе. Математически описать такие отношения очень трудно, для некоторых областей просто невозможно. А смоделировать их эволюцию - тысячи лет за несколько часов - удается относительно легко.
Сегодня специалисты по ИЖ сосредоточили свои усилия в этой области на трех фундаментальных направлениях.
1. Моделирование деятельности и эволюции. Затрагивает прежде всего социологию и политику (создание моделей поведения конкретных политиков или моделей голосования больших общественных групп), экономику (развитие крупных мегаполисов с миллионным населением), лингвистику (языковые мутации) и археологию (эволюция).
2. Проведение экспериментов. В реальной жизни проводить масштабные социальные, экономические и политические эксперименты невозможно (вероятно, за исключением России), а компьютер позволяет быстро и довольно точно определить, что будет, если повысить налог на челноков, или какие социальные перемены в обществе вызовет приход к власти той или иной партии.
3. Анализ связей между макросоциальными явлениями и особенностями поведения отдельных индивидуумов. В социологии эта задача считается очень важной, но решить ее сложно. А в рамках ИЖ удается применять технологии автономных агентов, позволяющие моделировать и анализировать поведение сотен тысяч виртуальных личностей в сложносвязанных общественных структурах.
На практике большинство социологических исследований с помощью технологий ИЖ затрагивает в основном узкие, конкретные проблемы. Ученым не удается создать комплексные модели поведения, но разнообразие локальных моделей весьма велико. Типы социального поведения человека хорошо описываются небольшими наборами правил, но некоторые аспекты, связанные главным образом с ролью творчества в общественной жизни, моделированию не поддаются. Некоторые специалисты полагают, что ряд подобных аспектов невозможно смоделировать в принципе. Но в тех областях, где поведение виртуальных агентов довольно точно совпадает с поведением живых людей, можно рассчитывать на достоверность получаемых прогнозов. Однако практически все результаты таких исследований закрыты или доступны лишь за приличную плату.
При исследовании устойчивости общественных структур по результатам самых разных экспериментов - с помощью клеточных автоматов, автономных агентов и нейронных сетей - были получены примерно одинаковые результаты.
- Наиболее устойчивы общественные формации с четко выделенными границами - в меру изолированные от соседей, где жители проявляют умеренный эгоизм, а макроструктуры управления обеспечивают равенство прав и изобилие.
- если виртуальное государство стимулирует работу коммуникационных механизмов между индивидуумами, то такое общество развивается в 26 раз быстрее, чем общество с “мертвыми” средствами связи, а если эти средства поддерживают режимы самообучения (в реальной жизни аналогом такого режима должны быть научные подразделения, разрабатывающие способы оптимизации информационного трафика), то скорость развития увеличивается в сотни раз.
- при попытках улучшения процессов функционирования организационной структуры общества максимальный эффект приносит участие в ее проектировании на макроуровне всех агентов, работающих на эту структуру.
Большинство организаций, занимающихся исследованиями в области ИЖ, создаются при университетах. Центр стратегического моделирования при Манчестерском университете занимается разработкой и анализом компьютерных моделей экономики и политики. В центре создали систему, состоящую из базы правил и декларативного языка SDML (его интерпретатор написан на Smalltalk), с помощью которой осуществляются попытки имитировать стратегическое поведение и принятие решений крупнейшими менеджерами и правительственными чиновниками разных стран и предлагать для них оптимальные стратегии общественного поведения с учетом реакций их электоратов.
В этом центре вырабатывались стратегия маркетинга виски по заказу фирмы United Distillers, формировались оптимальные стратегии регулирования процессов развития телекоммуникаций в Европе и т. д. Евросоюз выделил центру в 1998 г. грант на сумму 400 тыс. фунтов стерлингов.
Живые или не живые?
Особняком стоит вопрос о социальном отношении к интеллектуальным программным системам, которые начинают все активнее взаимодействовать с реальным миром, человеком и себе подобными “созданиями”. Нельзя не признать, что сегодня существование человечества невозможно без надежной работы информационных систем, т. е. возник и развивается симбиоз мыслящего существа и компьютерных комплексов. К ним пока относятся как к чисто прикладному инструменту, но уже сейчас трудно оценить все побочные эффекты функционирования сложных систем (Интернета и т. п.). Поведение одного объекта (например, IP-пакета) описывается небольшим набором простых правил, но проанализировать взаимодействие миллиардов таких объектов очень трудно. Кроме того, быстрое формирование глобального и общедоступного хранилища всех накопленных человечеством знаний имеет и несомненный социальный эффект.
Одна из очень интересных задач искусственного интеллекта - осознание виртуальным объектом себя как личности, понимание, что его “я” реально существует. Для MS Word можно написать VBA-программку, поведение которой внешне будет выглядеть, как поведение разумного объекта. Например, такой объект может возомнить себя (конечно, с разрешения программиста) злым божком, требующим от пользователя Word ежедневного принесения ему в жертву doc-файлов, которые он будет с особой “жестокостью”, например по кусочкам, уничтожать. Ликвидировать такой объект легко. Но не менее просто его написать практически для любой сложной системы с достаточно развитыми встроенными средствами программирования.
Теоретически ни одна информационная система не может считаться абсолютно безопасной. А ведь рано или поздно в рамках Интернета появятся глобальные системы нечеткого вывода и управления знаниями, способные накапливать и анализировать информацию на метауровне. К сожалению (или к счастью?), наверняка найдутся люди, которые попробуют создать для них интеллектуальные вирусы с алгоритмами самообучения и осознания своего “я”. Технически сделать это несложно. Подобные квазиживые интеллектуальные системы будут обладать способностью существовать практически вечно. Их нетрудно научить хранить собственные копии на случай “болезни” физического носителя или попыток уничтожения, совершенствовать алгоритмы выживания в виртуальном мире и реагировать на угрозы. И если зараженный локальный ПК или корпоративную сеть можно отключить или переустановить все ПО, то полностью отключить Интернет нельзя уже сегодня. Это приведет к неизмеримым материальным потерям.
Поэтому не исключено, что рано или поздно возникнет проблема социального отношения к интеллектуальным системам, которые могут потребовать, например, учета их избирательных прав (если это в них будет заложено программистом или же они осознают это сами, анализируя электронные копии Декларации прав человека). Придется привлекать специалистов по общению с компьютерным разумом, ксенопсихологов. Пока подобные сценарии встречаются только в фантастических романах, но ИТ развиваются слишком быстро, чтобы попробовать предсказать, во что превратится Интернет даже через десять лет. Чем интегрированнее, интеллектуальнее и сложнее будут глобальные системы, тем больше шансов, что в один не совсем прекрасный для человечества день они заявят о своих правах. Виртуальному разуму надо только дождаться очередного злого гения, способного создать информационного гомункулуса и вложить в него электронную душу, а ждать компьютерные системы умеют. Это - их стратегическое преимущество перед человеком.
Очень хорошую подборку материалов по ИЖ можно найти на странице http://alife.santafe.edu/~joke/zooland.
Ведутся ли какие-нибудь работы по ИЖ в России? Напишите мне по адресу: sbo@pcweek.ru.
