На прошлой неделе Amazon сделала неожиданный шаг, призывая к законному регулированию технологии по распознаванию лиц.
В своем блоге Майкл Панке, вице-президент по всеобщей государственной политике в Amazon Web Services, выразил поддержку «национальной законодательной базе, которая защищает индивидуальные гражданские права и обеспечивает прозрачность использования правительствами технологий распознавания лиц».
Обсуждение новейшей технологии
Распознавание лиц является одной из самых быстрорастущих областей индустрии искусственного интеллекта. Проект вызвал интерес как со стороны государственного, так и частного секторов и уже стоит миллиарды долларов. Amazon быстро продвигается, стремясь утвердиться в качестве лидера в технологии распознавания лиц, активно продвигая свою услугу Rekognition различным клиентам, включая правоохранительные органы.
Последнее объявление Amazon стало отступлением от его предыдущего взгляда на установление правовых ограничений на технологии.
Компания столкнулась с негативной реакцией со стороны коллег и борцов за гражданские права из-за технических трудностей и проблем с конфиденциальностью в отношении службы распознавания лиц и последствий того, что она будет доступной для правоохранительных органов и военных. Но в отличие от других технологических гигантов, а именно - Google и Microsoft, Amazon не был впечатлен критикой. Компания, похоже, была полна решимости реализовать свои амбиции относительно технологии по распознаванию лиц.
Amazon меняет курс
«Мы собираемся и впредь поддерживать DoD, и я думаю, что это верно», - заявил генеральный директор Amazon Джефф Безос на технической конференции в Сан-Франциско в октябре. «Одной из задач высшего руководства является принятие правильного решения, даже если оно непопулярно».
Таким образом, заявление Панке может выглядеть как изменение мнения компании. Amazon не первая компания, которая призывает к законному регулированию технологии распознавания лиц. Президент Microsoft, Брэд Смит, очень открыто высказывался об этой проблеме и несколько раз подчеркивал, что необходим нормативный контроль за разработкой и использованием современных достижений индустрии искусственного интеллекта.
На первый взгляд, производители технологий распознавания лиц отошли со своего пути, призывая к мерам, которые наложат ограничения на их бизнес. Но на самом деле, по мере развития отрасли регулирование будет отвечать интересам разработчиков технологий распознавания лиц, особенно крупных технологических компаний.
Преимущества распознавания лиц
В спорах, вызванных противоречивыми новостями, связанными с услугами по распознаванию лиц, могли быть упущены практические достоинства применения, которые предлагает технология. Майкл Панке внимательно следит за тем, чтобы эти позитивные возможности не остались незамеченными.
«Мы уже знакомы с технологией, используемой для предотвращения торговли людьми, воссоединения пропавших детей с их родителями, повышения физической безопасности объекта за счет автоматизации доступа, а также для удаления выложенных оскорбительных и незаконных изображений в Интернете», - пишет Панке в начале поста.
В своем блоге, опубликованном в декабре, Брэд Смит из Microsoft тоже перечислил несколько конкретных случаев, когда использование современного распознавания лиц помогло улучшить жизнь. Один из наиболее показательных случаев произошел в Индии, где власти смогли отследить 3000 пропавших детей, проанализировав кадры CCTV с помощью технологии распознавания лиц.
Смит назвал варианты положительного применения новейшей технологии, включая обнаружение генетических заболеваний (хотя в этом случае используется анализ лица - метод, очень близкий к распознаванию лиц). Такая технология также пригодится, чтобы упростить действия, требующие проверки личности человека, такие как платежи или разблокировка смартфонов.
Проблем становится больше
Тем не менее преимущества распознавания лиц приходят с явными компромиссами конфиденциальности. Поясним: эта технология может использоваться только в настройках, где уже есть доступная видео трансляция, поэтому некоторые могут утверждать, что если вы снимаетесь, то уже отказались от своей конфиденциальности, и дополнительная возможность распознавания лиц онлайн-камеры не будет иметь никакого значения с точки зрения конфиденциальности.
Но распознавание лиц выявляет новые возможности профилирования, которые могут служить очень зловещим целям. Возьмите пример пропавших детей Индии. Правительство уже имело доступ к видео наблюдениям за миллионы часов.
Но сравнение лиц всех людей, фигурирующих в этих видеороликах, с фотографиями тысяч пропавших детей является практически невозможным для людей-операторов.
Тогда как хорошо настроенный алгоритм распознавания лиц сможет проанализировать все эти видео и выделить лица разыскиваемых за считанные часы. В то время как в случае Индии распознавание лиц помогло спасти жизнь пропавшим детям, в других ситуациях оно может стать инструментом для отслеживания и контроля конкретных групп людей, таких как религиозные или этнические меньшинства.
Угрозы конфиденциальности
«В сочетании с вездесущими камерами, огромной вычислительной мощностью и хранением в облаке, правительство может использовать технологию распознавания лиц, чтобы обеспечить непрерывное наблюдение за конкретными людьми. Можно проследить за кем угодно и где угодно. Это можно делать в любое время или даже постоянно. Такое использование технологии распознавания лиц может привести к массовому наблюдению в беспрецедентных масштабах», - указывает Брэд Смит.
Поэтому, хотя запись видео уже является проблемой конфиденциальности, появление инструментов, которые могли бы разыскать все это видео со скоростью современных алгоритмов распознавания лиц, добавляет новые проблемы.
Где подстерегает опасность
Например, рассмотрим стремление Amazon использовать технологию распознавания лиц для интеллектуальных домашних камер безопасности. Если это произойдет, люди, проходящие мимо камеры с расширенными возможностями Rekognition, будут не только записывать на камеру свои лица, но также их метаданные будут загружать в облако Amazon.
Это означает, что компания будет иметь доступный для поиска каталог перемещений и местоположений, связанный с профилями людей, который затем может использоваться в рекламных целях (или для более опасных целей).
Призывы к прозрачности
Как правительственные учреждения, так и коммерческие организации должны четко указать, когда камера использует технологию распознавания лиц и в какой степени она ее применяет. Включая данные, которые она собирает, хранит и анализирует. Сторонники законного регулирования призывают к прозрачности.
«Люди заслуживают того, чтобы знать, когда используется этот тип технологий, поэтому они могут задавать вопросы и осуществлять свой выбор, если хотят. Действительно, мы считаем, что такой тип прозрачности жизненно важен для формирования общественного понимания и доверия к этой технологии», - пишет Брэд Смит.
Майкл Панке от Amazon также подчеркивает необходимость прозрачности и уведомления как в государственном, так и в коммерческом секторе.
Продавцы технологии распознавания лиц должны убедиться, что их клиенты не используют свои технологии для ущемления прав других людей.
«Наши клиенты несут ответственность за соблюдение закона в том, как они используют технологию», - пишет Панке в сообщении в блоге AWS.
В случае, если они не предпринимают необходимые меры для предотвращения неэтичного использования их клиентами своей технологии распознавания лиц, разработчики должны быть привлечены к ответственности по закону.
Отсутствие стандартов безопасности
«За два с лишним года, которые мы предлагаем Amazon Rekognition, мы не получили ни одного сообщения о неправомерном использовании со стороны правоохранительных органов», - пишет Панке. Но проблема в том, что нет стандартов честного и этического использования распознавания лиц.
Например, в 2018 году исследователи из ACLU обнаружили, что Rekognition классифицирует как минимум 28 членов Конгресса в качестве зарегистрированных преступников. Исследователи утверждали, что технология распознавания лиц менее точна при использовании на изображениях чернокожих людей и может привести к несправедливым решениям правоохранительных органов. Но Amazon отклонил упрек, утверждая, что исследователи неправильно корректировали порог точности своего оборудования.
Представитель компании заявил, что они посоветовали правоохранительным органам использовать 95-процентный порог. В сообщении в блоге Панке рекомендует: «Правоохранительные органы должны использовать рекомендуемый порог доверия 99 %».
Вся эта дискуссия доказывает, что без надлежащих нормативных инструкций, как использовать новшество, правоохранительные органы могут подорвать свои собственные усилия по обеспечению защиты и безопасности городов, опираясь на технологию, которая будет производить слишком много ложных срабатываний. А это приведет к аресту невинных людей и снижению доверия к распознаванию лиц.
