Лето... Жара... А тут еще карантин. Боб уже не раз думал, что худшего не может быть... Оказалось, очень даже может. Носить маску в такую жару — это не просто ужасно. Через час потеет все лицо и потом покрывается сама маска. Как люди ходят в них на улице — непонятно совсем.
— Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?
— Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.
— Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?
— Конечно!
— Представь, насколько работать станет легче!
— Не думаю!
— Почему?
— Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!
— Согласен, но удобно же.
— Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.
— А еще какие-то улики есть?
— Нет! Но его ведь опознали?
— Боб, кажется, это то, о чем мы только что говорили. Его арестовали?
— Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.
— Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?
— Боб, я не понимаю, ты что, адвокат?
— Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.
Прошло четыре часа.
— Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.
— Нужно выпускать и извиниться.
— Да.
Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.
Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».
Этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.
