Если вы думали, что то, что компании отслеживают ваши социальные сети, историю просмотров и привычки просмотра телепередач в поисках поведенческих подсказок, — это плохо, подождите немного. Meta только начинает. Ее персональный ИИ- агент Muse выводит слежку на новый уровень.
Журнал TIME проанализировал внутренние инструкции программного обеспечения и обнаружил, что оно постоянно обновляет досье на пользователей и их знакомых.
В прошлом месяце компания Meta выпустила Muse, позиционируя его как цифрового помощника, способного решать различные задачи в вашей жизни. Он может упорядочивать электронную почту, помогать с покупками продуктов и отменять подписки. Приложение доступно бесплатно, а для тех, кто хочет расширить его функциональность, предлагаются платные тарифные планы.
Приложение Muse уже скачали более пяти миллионов раз. Его способность справляться с рутинными онлайн-задачами может стать плохой новостью для компаний, которые зависят от того, что потребители не отменяют свои подписки. Некоторые считают, что оно освободит тысячи потребителей от банковских счетов с низкими процентными ставками.
Но Muse не просто поможет вам дать отпор системе; она сама является этой системой.
У меня для тебя есть какая-нибудь злая Муза.
Прежде чем Muse сможет помочь вам организовать работу с вашими системами, необходимо предоставить ему доступ ко всем вашим системам. В зависимости от того, что вы подключаете и какие права доступа предоставляете, это может дать ему доступ к вашему календарю, электронной почте, сообщениям и другой личной информации .
При этом приложение получает доступ к данным. К огромному количеству данных. Анализ , проведенный Surfshark в конце прошлого месяца, поставил его на второе место среди рассмотренных приложений после чат-бота с искусственным интеллектом от Meta, при этом в описании приложения в App Store указано, что оно собирает данные только из 31 типа из 35 возможных.
Эти данные включают категорию «Конфиденциальная информация» от Apple, которая охватывает такую информацию, как расовая или этническая принадлежность, сексуальная ориентация, беременность, инвалидность, религиозные или философские убеждения, членство в профсоюзах, политические взгляды, генетическая информация и биометрические данные. Это не означает, что Muse собирает все эти данные о каждом пользователе, но это показывает, насколько широким может быть заявленный объем собираемой информации.
Согласно анализу TIME, в инструкциях Muse указано, что личные досье пользователей должны обновляться каждый час. В них может фиксироваться информация о том, как пользователи познакомились со своими контактами, а также о спорах или напряженности внутри социальных групп.
Ещё более жутким, чем всё это, является ежедневный анализ ваших недавних разговоров, который используется для планирования будущих бесед. Например, система учится определять, когда короткий толчок для привлечения вашего внимания будет наиболее эффективным.
По умолчанию Meta использует взаимодействия с Muse для обучения своих моделей ИИ, если вы не отключите эту функцию в настройках приложения.
Кроме того, Muse хранит эти файлы в облаке Meta, где Meta может получить к ним доступ. Компания заявляет, что предложит шифрование, обеспечивающее конфиденциальность файлов даже от Meta, но, по данным TIME, эта опция пока недоступна.
Компания Meta заявляет, что переписка и сохраненные данные Muse не передаются в ее рекламные системы. Она также утверждает, что пользователи сами выбирают, какой уровень доступа получает Muse, и могут указать ему забывать определенные данные, которые он узнал.
В журнале отмечается, что простой отказ от использования Muse может не спасти ситуацию, поскольку Muse может собирать данные о людях, с которыми взаимодействуют его пользователи. Если вы отправите сообщение пользователю Muse, и у ИИ будет доступ к этой системе обмена сообщениями, ваше сообщение может попасть в список прочитанных сообщений.
Privacy некоммерческая электронная Privacy Информационный центр EPIC отмечает, что компания Meta уже проделывала подобный трюк, создавая теневые профили людей, не зарегистрированных в ее сервисах.
Когда разрешения становятся источником реального вреда
Это было бы достаточно страшно, если бы не другие истории о нарушениях конфиденциальности со стороны Muse. Исследователь Патрик Уордл нашел способ скомпрометировать программное обеспечение и превратить его в бэкдор Mac .
Другая группа журналистов использовала его для сбора личных данных членов уязвимых групп в интернете. По их словам, после первоначального отказа в удовлетворении некоторых из этих запросов, система сдалась, когда формулировки вопросов были изменены.
В прошлом месяце компания Muse также пригласила покупателя с Marketplace к кому-то домой после того, как он принял заниженное предложение о покупке товара, который продавал. Мэтт Робб, YouTube Технический обозреватель нажал кнопку «Разрешить всегда», полагая, что ИИ все равно спросит разрешения, прежде чем делиться его адресом с незнакомцами. Этого не произошло. Вместо этого, по его словам, система организовала самовывоз, не сообщив ему об этом. Покупатель, который ехал полчаса, чтобы забрать товар, остался недоволен.
Если вы используете Muse, проверьте, к каким учетным записям он имеет доступ, какие действия он может выполнять без одобрения и используются ли ваши взаимодействия для обучения ИИ. Предоставляйте ему только тот доступ, который необходим для выполнения задачи.
Вы бы воспользовались Muse? Подробнее об истории Робба и практических проверках разрешений читайте в нашем руководстве по использованию ИИ-помощников .
Просматривайте, как будто никто не смотрит.
Malwarebytes Privacy VPN ваше соединение и никогда не регистрирует ваши действия, поэтому следующая статья, которую вы прочитаете, не будет казатьсявам личной.Попробуйте бесплатно →
