Журналисты издания Wired вместе с привлечёнными инженерами обнаружили, что Meta* незаметно добавила код распознавания лиц в приложения для умных очков на миллионах смартфонов. Проанализированный код выявил неопубликованную систему распознавания, которая предназначена для идентификации людей с помощью биометрии, хранимой на телефонах.
В этом году в приложении Meta AI через несколько обновлений без специальных объявлений появилась функция под названием NameTag. Она может распознавать людей, попавших в объектив камеры умных очков, и оповещать пользователя, когда кто-то идентифицирован.
Пока компоненты системы становились частью приложения у ничего не подозревающих людей, в апреле Meta заявила о необходимости очень осторожных шагов перед внедрением распознавания лиц. Компания не активировала функцию «именной метки», но приложение с ней загружено более 50 миллионов раз, поскольку без него невозможно полноценно пользоваться умными очками Meta и EssilorLuxottica.
При активации эта функция преобразует лица, запечатлённые очками, в уникальные биометрические сигнатуры и сравнивает их с данными распознавания лиц, доступными на телефоне. Успешное распознавание запускает уведомление, а другие лица обрезаются, индексируются и сохраняются в папку с названием «Ожидающие обработки».
По информации журналистов, для поддержки NameTag были развернуты три модели искусственного интеллекта: одна распознаёт лица, другая нарезает изображения, а третья кодирует их в виде биометрических данных.
В настоящее время неизвестно, чьи лица войдут в базу данных для идентификации, как будут создаваться профили и сколько людей в итоге можно идентифицировать с помощью этой технологии.
Редакция Wired поделилась выводами с двумя сторонними исследователями в области кибербезопасности, которые изучили приложение и воспроизвели ключевые аспекты анализа. Исследователь Купер Квентин из Лаборатории угроз некоммерческого Фонда электронных границ отметил, что функция недоступна потребителям, но, похоже, почти готова. По его словам, «несмотря на миллиарды причин не использовать её, Meta, похоже, создала возможность превратить клиентов в распределённые системы мониторинга».
Представитель Meta Райан Дэниелс заявил:
Независимо от каких-либо сенсационных сообщений, факты просты: мы уже говорили, что исследуем эти типы функций, и то, что вы видите, является всего лишь свидетельством этого исследования. Ничто не было отправлено потребителям, и не было принято окончательного решения о том, что здесь делать, если вообще что-то делать. Если мы решим что-то реализовать, мы проявим продуманный подход и сделаем это с полной прозрачностью. Одно решение мы можем чётко прояснить: мы не создаём централизованную базу лиц.
Однако анализ кода показал, что NameTag уже настроена на получение отпечатков пальцев с серверов Meta и их хранение на устройстве пользователя, то есть может проверять лица по централизованной базе.
Кроме того, компания не ответила на следующие вопросы: Какие пользователи могут быть идентифицированы? Планирует ли компания отправлять фотографии, черты лица или другие данные, сгенерированные системой, обратно на свои серверы? Или компания планирует предоставить пользователям возможность выбора (а не отказа)?
Профессор права в области конфиденциальности Бостонского университета Вудро Харцог утверждает, что даже если Meta предложит защиту на основе добровольного согласия, такая защита будет слабой. Согласие, отмечает Харцог, часто связано с трудоустройством, льготами или доступом к услуге. Представление согласия как вопроса личного выбора выгодно бизнесу, поскольку не накладывает существенных ограничений на сбор данных, позволяя при этом компаниям претендовать на контроль над пользователями:
Мы знаем, что чем больше внедряются эти системы, тем больше людей начинают воспринимать их как нечто обыденное. И чем больше мы начинаем воспринимать их как нечто обыденное и рутинное, тем больше люди начинают руководствоваться моральными принципами относительно того, желательно ли или хорошо ли, когда их лицо отсканировано. Это просто человеческая психология.
*В России признана экстремистской
Не пропускайте важнейшие новости о дополненной и виртуальной реальности — подписывайтесь на Голографику в Telegram, ВК и Twitter! Поддержите проект на Boosty.
Далее: Исключительный случай: Meta* разрешила прежним разработчикам возродить Supernatural
