ТОЧКИ СХОДИМОСТИ
Мы вступили в 2001 год, который когда-то был темой для фантастов, и одним из существенных различий между их вымыслами и нынешней реальностью является отсутствие компьютеров, заботящихся о том, чтобы говорить правду.
Питер Коффи
Компьютер HAL 9000 из фильма “2001 год: космическая Одиссея” впадал в состояние психоза, когда получал инструкции о том, чтобы скрывать факты от пользователей. Роботы из повестей Айзека Азимова неспособны к неповиновению, и одна экспериментальная модель, наученная сочувствовать, приходит в безумие после приказа рассказать людям вещи, которые, как ей известно, им больно будет услышать. На протяжении десятилетий писатели предполагали, что грядущее поколение компьютеров будет иметь принципы.
В противоположность этому все используемые сегодня системы слишком расположены ко лжи в форме ошибок (скажем, неправильного считывания перфокарты избирательного бюллетеня) или повторения любой неправды (как это бывает при краже идентификаторов) и часто оказываются беспомощнее ребенка, не умея распознать бессмыслицу и противоречия (что подтверждают бесчисленные примеры ошибочного ввода данных, когда пользователь получает не просьбу исправить ошибку, а результаты, вводящие в полное заблуждение).
Вероятно, я грешу против технического прогресса, упрекая его в этой слабости. Мы же делаем аппаратуру, которая понимает разницу между “да”, “нет” и “не знаю”. Мы умеем создавать ПО, которое использует это понимание, как, например, многие статистические пакеты.
Просчет, возможно, заключается в том способе, каким пишется большинство приложений, а если искать корни - то в характере обучения большинства программистов. Им не втолковывают, как надо обращаться с противоречиями, предоставляя самим думать и исправлять несоответствия. Их не учат, как молодых полицейских, давать людям (или компьютерам) возможность ошибиться, чтобы потом поймать их на лжи.
Раз наши системы все более непосредственно взаимодействуют с окружающим миром, им надо научиться распознавать правду и беречь ее.
Поделитесь своими мучительными поисками правды. Мой адрес: peter_coffee@ziffdavis.com.
