Пользователям браслетов для сна Muse не сообщили, что данные об их мозге используются для обучения искусственного интеллекта.

Технологические компании годами пытались проникнуть в ваши головы ради прибыли. Теперь они делают это в буквальном смысле. Расследование показало, что производитель Muse, повязки на голову, измеряющей мозговую активность во время сна и медитации, использовал данные мозговых волн пользователей для обучения искусственного интеллекта, не сообщая им об этом напрямую.

Компании продают эти потребительские браслеты для сна, чтобы помочь вам лучше понять, что происходит с вашим мозгом во время сна и медитации. Однако, согласно расследованию , опубликованному в журнале Science, они также получают некоторое собственное представление об этом процессе.

В ходе годичного расследования выяснилось, что канадская компания Interaxon, производитель повязки для сна и медитации Muse, использовала данные, собранные с мозга пользователей, для обучения искусственного интеллекта. Компания использовала около 50 000 часов электроэнцефалографических (ЭЭГ) записей, измеряющих электрическую активность мозга, для обучения «модели основы работы мозга».

Модели искусственного интеллекта, обученные на больших объемах данных мозговой активности разных людей, могут выявлять закономерности в мозговой активности. Например, модель может научиться распознавать закономерности, связанные с эпилептическими припадками.

Исследование подобных результатов заслуживает похвалы, но только если сначала сообщить об этом тем, чьи данные ЭЭГ используются для обучения. Компания Interaxon этого не сделала.

Это ваш мозг работает на основе неадекватной политики конфиденциальности.

Когда журнал Science обратился к компании Interaxon с вопросом по этому поводу, директор по маркетингу Надя Кументас признала, что пользователей следует четко информировать об обучении ИИ. Компания обновила свою политику конфиденциальности, в которой теперь говорится, что для обучения моделей машинного обучения используются обезличенные данные.

Сбор данных с помощью подобных устройств привлекателен для компаний, поскольку данные о мозговых волнах получить иным способом сложно, а значит, они невероятно ценны.

Неудивительно, что это не единственная нейротехнологическая компания, сталкивающаяся с вопросами о своей практике работы с данными. Издание проанализировало 57 компаний, собирающих данные о мозге, и обнаружило, что только шесть из них прямо заявили, что не будут продавать данные о мозге пользователей. Более двух третей разрешают передачу данных о мозге новому владельцу в случае их приобретения. Одиннадцать из них имели политику конфиденциальности только для посетителей веб-сайта, а у четырех политики не было вообще.

Следует отдать должное компании Interaxon, которая удалила имена и адреса электронной почты из данных ЭЭГ пользователей перед их использованием для обучения. Однако данные этих пользователей уже помогли сформировать модель, обученную без их явного согласия. Устранить это влияние постфактум крайне сложно.

Но достаточно ли такой «деидентификации»? Академическое исследование, проведенное в этом году Университетом Юго-Восточной Норвегии, показало, что записи ЭЭГ и производные от них характеристики могут содержать конфиденциальную информацию о конкретном пациенте. В нем говорится, что это может создавать риски для конфиденциальности при обмене этими данными между клиническими и исследовательскими учреждениями. В исследовании также отмечается:

«Традиционные методы анонимизации часто оказываются недостаточными для многомерных биомедицинских сигналов, поскольку удаление прямых идентификаторов не обязательно предотвращает повторную идентификацию, установление связей или риски, связанные с выводами».

Другое исследование, проведенное учеными из Университета Бен-Гуриона в Израиле, показало, что анализ записей ЭЭГ в состоянии покоя может пролить свет на черты личности и когнитивные способности. Согласно исследованию , проведенному в 2018 году учеными из Корейского университета, ЭЭГ в состоянии покоя позволяла идентифицировать пользователей в 88,4% случаев. А исследование Университета Южной Калифорнии показало, что данные ЭЭГ могут выявить состояние психического здоровья, неврологические заболевания и даже историю употребления психоактивных веществ.

Эти результаты не позволяют сделать какие-либо выводы непосредственно из записей, полученных с помощью системы Muse. В потребительских оголовьях обычно меньше электродов, чем в клинических системах ЭЭГ.

Это не первый обзор индустрии потребительских нейротехнологий, выявивший тревожные тенденции. В отчете Neurorights Foundation за 2024 год было установлено, что 29 из 30 опрошенных компаний, по-видимому, имели доступ к нейронным данным потребителей и не установили «никаких существенных ограничений на этот доступ».

Законодательство все еще пытается адаптироваться ко всему этому. Биометрическая информация штата Иллинойс. Privacy Закон BIPA (Закон о биометрической идентификации) учитывает отпечатки пальцев, голосовые отпечатки или геометрию лица, а также другие параметры в качестве биометрических идентификаторов, но данные ЭЭГ в этот список не входят. Однако в Колорадо и Калифорнии нейронные данные теперь рассматриваются как конфиденциальные.

Эти опасения выходят за рамки данных мозговой активности. В опросе читателей новостных рассылок, проведенном Malwarebytes , 90% выразили обеспокоенность по поводу использования их данных искусственным интеллектом без согласия, а 92% — по поводу неправомерного использования их личных данных корпорациями.

Что могут сделать владельцы Muse

Вы используете браслет для сна или другое нейротехнологическое устройство? Учтите, что данные о вашем мозге могут быть использованы гораздо шире, чем вы предполагали. А если компания обанкротится и/или будет приобретена, она может перейти к другому владельцу. Именно это и произошло с компанией генетического тестирования 23andMe.

Учитывая это, ознакомьтесь с политикой конфиденциальности производителя, а если не найдете ее, обратитесь к нему напрямую. Узнайте, используются ли ваши данные ЭЭГ для обучения ИИ, можете ли вы отказаться от этого и можете ли удалить уже собранные записи.

Если эти варианты недоступны, подумайте, насколько вам комфортно продолжать использовать устройство.

От сообщения об угрозах до их устранения.

Риски кибербезопасности никогда не должны выходить за рамки заголовков новостей. Защитите свои устройства от угроз, скачав Malwarebytes уже сегодня .