Использование умных очков Meta с искусственным интеллектом и LLM для доксинга незнакомцев

Новейшие очки дополненной реальности (AR) от Meta под названием Orion, возможно, привлекли значительное внимание на прошлой неделе, но проект, инициированный двумя студентами Гарварда, вновь разжигает дискуссии вокруг умных очков Ray-Ban от Meta.

Очки Ray-Ban Meta Smart Glasses оснащены камерой высокой четкости (HD) и встроенным динамиком, что позволяет пользователям наслаждаться цифровым опытом без помощи рук. С помощью этих очков пользователи могут совершать звонки, слушать музыку, а также снимать или транслировать фотографии и видео без проблем.

Демонстрация, созданная студентами Аньфу Нгуеном и Кейном Ардайфио, показывает, как видеоматериалы с очков в сочетании с технологией распознавания лиц могут потенциально раскрыть личную информацию незнакомцев в общественных местах. Несмотря на то, что базовая технология доступна уже много лет, эта демонстрация вызывает чувство дискомфорта, особенно потому, что многие люди не знали, насколько легкодоступна такая технология для обычного гражданского лица. Это привело к тому, что многочисленные пользователи назвали технологию антиутопической, отражающей то, как многие ее представляли. Тем не менее, в настоящее время это реальность.

Нгуен опубликовал видео на X (ранее Twitter), демонстрирующее технологию, получившую название I-XRAY, в действии.

Готовы ли мы к миру, где наши данные будут раскрыты с первого взгляда? @CaineArdayfio и я предлагаем ответ, как защитить себя здесь: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

– Аньфу Нгуен (@AnhPhuNguyen1) 30 сентября 2024 г.

Эта технология использует камеру на очках для прямой трансляции видео в их аккаунт Instagram. Они запрограммировали компьютерное приложение для мониторинга потока и используют ИИ для идентификации лиц.

После распознавания лица оно обрабатывается службами распознавания лиц, такими как PimEyes, которые соответствующим образом сопоставляют изображение с общедоступными фотографиями человека в сети. Затем эти изображения анализируются с помощью больших языковых моделей (LLM) для извлечения информации, такой как имя человека, род занятий и т. д. Затем эти данные можно сопоставлять с общедоступными базами данных для выявления телефонных номеров и даже частичных номеров социального страхования.

Как упоминалось ранее, почти все технологии, используемые в I-XRAY, доступны уже много лет, включая камеры, инструменты распознавания лиц, такие как PimEyes, и базы данных, такие как FastPeopleSearch и Cloaked.com.

Что усиливает тревожную природу этой демонстрации, так это незаметный и мгновенный способ ее работы. Очки Ray-Ban Meta Glasses 2, показанные в видео, напоминают стандартные очки, и хотя они оснащены индикатором конфиденциальности, указывающим на активацию видеозаписи, его может быть сложно заметить в ярко освещенных местах на открытом воздухе. Следовательно, человек в этих очках может записывать вас без вашего ведома.

Более того, автономный характер сбора информации усугубляет беспокойство. Задействованные LLM могут автоматически, без участия человека, раскрывать такие детали, как имена и личную информацию из различных онлайн-источников. Видео иллюстрирует, как эти студенты доксингуют человека на улице, небрежно используя собранную информацию, чтобы симулировать знакомство, как будто они встретились на общественном мероприятии.

Основная цель этого проекта — подчеркнуть, насколько легко незнакомцы могут получить доступ к личной информации в современном цифровом пространстве. Студенческий дуэт решил не публиковать код публично, но поделился методами, с помощью которых отдельные лица могут защитить свою конфиденциальность. Многие из этих баз данных предлагают бесплатные услуги по удалению личной информации. Однако полностью устранить свое присутствие в сети по-прежнему остается сложной задачей. С помощью этих мер вы можете попытаться сделать свою информацию немного менее доступной.

Источник