В государственном и частном секторах неизбежно появление все большего числа приложений, использующих распознавание лиц, и этот тренд будет генерировать множество новых законов, инструкций и нормативов. Своими прогнозами в этой области с порталом InformationWeek поделился аналитик Wikibon Джеймс Кобилус, ранее занимавший пост Data Science-евангелиста IBM.
Распознавание лиц людей — одно из очень известных и распространенных приложений искусственного интеллекта (ИИ). Но вместе с тем оно вызывает, пожалуй, наибольшее число дискуссий.
Технология распознавания лиц, использующая «умные» камеры и алгоритмы компьютерного зрения, которыми начинает оснащаться все больше устройств, вызывает немало разноречивых оценок. Она пугает поборников охраны личных тайн, но является ключом для более простой, быстрой и естественной аутентификации на аппаратном уровне, а также для точной персонализации всевозможных потребительских сервисов. Она может служить орудием слежки за людьми в странах с авторитарными режимами, но в то же время является невероятно эффективным средством для идентификации и поимки преступников.
Поскольку ИИ заинтересовывает все больше организаций многих стран, в обществе наверняка будут слышны призывы к более строгому регулированию использования технологии для распознавания лиц. Некоторые из новых правовых норм возможно будут иметь общий характер и относиться ко всем приложениям данного сорта. Другие будут дополнять уже существующие законы в областях охраны правопорядка, здравоохранения, интернет-торговли, использования социальных сетей, автономных транспортных средств и других сферах.
При фокусе на защите личной жизни людей многие нормы в сфере распознавания лиц будут ориентированы на предоставлении пользователям прав отказываться от применения к ним этой технологии; узнавать, как она используется для таргетирования предложений; получать полный отчет о том, как организации управляют данными о внешности людей; и требовать, чтобы они навечно стирались из корпоративных баз данных. Подобные меры регулирования в принципе уже начинают вводиться во многих странах, примером чего являются нормы GDPR (General Data Protection Regulation), действующие в Европейском Союзе.
Однако в силу сложности вопросов, поднимаемых технологией распознавания внешности на базе ИИ, почти наверняка потребуются более специфические положения, сфокусированные именно на данной технологии. Разберем ряд важных аспектов, которые станут объектами пристального внимания в ближайшие несколько лет.
Общественный контроль. На уровне отдельных стран очевидно будут создаваться общественные организации с целью наблюдения за использованием распознавания лиц в государственных ведомствах и частном секторе. Их будут учреждать по образцу аналогичных комиссий или советов, следящих за соблюдением законов в области расового и национального равенства, гражданских прав, ограничения произвола полиции, борьбы с коррупцией в госведомствах и в других зонах повышенного внимания гражданского общества. Центральной функцией общественного контроля в сфере распознавания внешности будет сигнализировать о нарушениях или неправильном применении действующих законов и, возможно, предлагать новые правовые нормы, устраняющие пробелы в существующем законодательстве. Он также будет катализировать в обществе дискуссии о том, как лучше использовать распознавание лиц для пользы всех людей и как смягчить его негативные аспекты.
Предварительное согласие. В областях, ориентированных на взаимные отношения, таких как интернет-торговля, мобильные приложения и социальные сети, должны появиться конкретные законы, обязывающие компании получать предварительное согласие людей при включении их изображений в базы данных для распознавания лиц. Эти нормы будут регулировать места и обстоятельства, требующие получать такое предварительное согласие, а также соответствующие процедуры, форматы и каналы, по которым люди как будут подтверждать свое согласие, так и смогут выразить свой отказ, либо изменить или отозвать прежнее согласие.
Наглядные оповещения. Дополнительные нормы, касающиеся и государственного, и частного сектора, будут обязывать владельцев объектов или ресурсов представлять четко видимые уведомления об использовании распознавания лиц и, может быть, даже пересылать такие уведомления (при помощи технологий ближней связи) на мобильные устройства людей. Вместо громоздких процедур получения предварительного согласия через онлайновые формы или что-нибудь в том же роде людям будет удобнее выражать свое согласие (или отказ) просто проходом по специальной территории, снабженной необходимым указателем. Распознавание лиц также все чаще будет действовать в фоновом режиме при использовании интернет-сервисов, например, через средства машинного обучения на базе браузера. В этом случае пользователей нужно будет четко уведомлять об использовании этой функции через соответствующие экранные оповещения.
Ситуативная блокировка. Для определенных обстоятельств, когда требуется защитить анонимность, ряд стран может узаконить возможность использовать средства блокировки распознавания внешности. Например, некоторым людям может понадобиться носить специально закрывающие лицо аксессуары, темные очки, использовать пигментацию и другие методы маскировки, препятствующие работе алгоритмов по надежной идентификации внешности в реальном времени. Не исключено, что некоторые законодательные органы решат, что люди имеют право требовать накладывать маски на их уже оцифрованные изображения при хранении в незасекреченных коммерческих и публичных базах данных. Все это станет трудной темой для многих стран, где законодательно запрещено носить лицевые маски и другие средства сокрытия внешности из-за того, что их могут использовать террористы и другие преступные элементы.
Суверенность субъекта. В духе требований GDPR и аналогичных регламентов во многих странах будут устанавливаться нормы, официально дающие людям право знать, какие их фотографии собираются в базах данных, как они хранятся и обрабатываются и как их можно деидентифицировать, а также как ограничить или запретить использование и самих фото, и любых выводов, сделанных на основе распознавания внешности. Многие страны также усилят нормы законов, дающие гражданам право апелляции, когда они считают, что были ошибочно идентифицированы системой распознавания лиц или что факт правильной идентификации был использован в незаконных или недопустимых целях. Почти наверняка появятся и законы, регулирующие обстоятельства, при которых распознавание внешности может и не может быть использовано в уголовном и гражданском судопроизводстве.
Недопущение системных ошибок. Учитывая тревоги, связанные с использованием распознавания лиц для определения расы, пола и других внешних признаков человека, многие законодательные органы будут обязывать организации регулярно демонстрировать, что их алгоритмы не ошибаются при определении пола, расы, этнического типа, сексуальной ориентации и других существенных атрибутов людей. Это потребует регулярного переобучения и ресертификации алгоритмов распознавания внешности, чтобы доля ложных результатов в определении этих атрибутов оставалась в рамках допустимого минимума. Столь же важно обеспечить гарантии того, чтобы эти атрибуты не использовались — злонамеренно или по небрежности — для корреляции имеющихся изображений с преступниками, животными и других сомнительных или ложных заключений.
Встроенные технологические средства защиты. Хотя тут есть элемент спекулятивности, но вероятно в будущем станет возможным встраивать в чипсеты с ускорителями ИИ-вычислений логику, которая обеспечит (автоматически или под программным контролем) деактивацию алгоритмов распознавания лиц в обстоятельствах, связанных со временем, местонахождением или другими внешними условиями. Или, скажем, будет реальным встраивать чиповые защитные механизмы в системы захвата изображений. Такие технологические возможности будут идти навстречу пожеланиям регуляторов, которые могут потребовать, чтобы подобные функции встраивались в системы компьютерного зрения, смартфоны и другую массово выпускаемую аппаратуру, поддерживающую распознавание лиц.
К счастью, вендоры, как недавно написал в корпоративном блоге президент Microsoft Брэд Смит, уже об этом думают, так что регуляторы не встретятся с их инерцией или сопротивлением в решении проблем, связанных с общественными тревогами по поводу неадекватного использования технологии.
Так или иначе, но распознавание лиц людей проникает во все сферы нашей жизни. Будем надеяться, что потребительский, коммерческий, государственный и юридический истеблишменты придут к консенсусу в реализации перспектив технологии при снижении рисков и удержании регулятивного режима от излишне драконовских мер.
