Группа крупных технологических компаний борется за то, чтобы остановить рассмотрение примерно 3000 исков, касающихся безопасности молодежи, и только что проиграла в суде важнейшую процессуальную битву.
В исках, поданных генеральными прокурорами и семьями пострадавших, утверждается, что Meta, Google, TikTok (принадлежащий ByteDance) и Snap знали, что их продукты вызывают привыкание у детей и подростков и вредят их психическому здоровью, но продолжали продавать их молодым пользователям ради прибыли.
Технологические компании попытались обжаловать решение федерального суда, разрешившее участникам процесса подавать иски в суд. В 9-м окружном апелляционном суде США они утверждали, что ключевой закон США не позволяет подавать на них в суд.
Этот закон — статья 230 Закона о пристойности коммуникаций, принятого 30 лет назад. В ней говорится, что платформы не несут ответственности за то, что их пользователи публикуют в интернете. Долгие годы компании, владеющие социальными сетями, относились к ним как к бронежилету. Когда пользователи публиковали что-то плохое, компания, управляющая платформой, могла заявить, что она была распространителем информации, а не автором.
Похоже, эта защита здесь не работает. 10 августа суд постановил, что статья 230 «предоставляет защиту от ответственности, а не иммунитет от судебных исков, поэтому апелляция была преждевременной». Это дело касается не столько того, что люди публиковали в интернете, сколько того, как, по утверждению технологических компаний, они разработали свои платформы для предоставления этого контента пользователям.
В издании Nebraska Law Review подробно описываются некоторые методы, которые, по мнению авторов исков, делают эти платформы более привлекательными и потенциально вызывающими большее привыкание.
В статье объясняется, как определенные взаимодействия на этих платформах могут вызывать выброс дофамина. Эти взаимодействия могут быть такими простыми, как ответ на ваше сообщение или лайк вашей фотографии. Дофамин играет важную роль в системе вознаграждения мозга.
В статье NLR описываются такие методы, как создание непредсказуемой системы вознаграждений, что побуждает людей постоянно проверять свои учетные записи. Функции интерфейса, такие как бесконечная прокрутка, также призваны поддерживать выброс дофамина. В статье цитируется изобретатель этой идеи, который описывает её следующим образом:
«Принимать [поведенческий] кокаин и просто разбрызгивать его по всему интерфейсу».
Поймут все, кто слишком долго лежал в постели, просматривая негативные ленты в социальных сетях.
Отказ 9-го окружного суда в удовлетворении апелляции является процессуально узким, но стратегически огромным. Статья 230 — это защита, которую вы можете использовать в суде, а не стена, которая не позволяет истцам предстать перед судом. Третий окружной суд пошел дальше, постановив, что статья 230 «не предоставляет платформам иммунитет, если они сталкиваются с исками о причинении вреда в результате разработанных ими алгоритмов».
Иными словами, алгоритм — это продукт. Продукт может быть дефектным.
За этими делами стоит растущая гора материалов, полученных в ходе предварительного расследования, которые, по утверждению истцов, проливают свет на подход платформ к взаимодействию с пользователями, а также решение суда штата Нью-Мексико против Meta, вынесенное ранее в этом месяце в рамках дела, рассматривающего аналогичные жалобы. Сумма этого решения теперь составляет 942 миллиона долларов, поскольку судья добавил к первоначальной сумме 567 миллионов долларов, установив, что Meta:
«Создали общественное неудобство своим дизайном платформы».
Какое открытие так затягивается?
Процесс раскрытия информации в этих случаях уже оказался неблагоприятным для Meta. В электронном письме 2016 года, приписываемом Марку Цукербергу, говорилось, что оповещение родителей о прямых трансляциях подростков «вероятно, испортит продукт с самого начала». В недавнем судебном иске утверждалось, что сотрудники гигантов социальных сетей сравнивали свои платформы с наркотиками, при этом один из сотрудников Meta написал следующее:
«Мы, по сути, наркоторговцы».
Компания Snap выглядит не лучше. По данным материалов дела в Нью-Мексико, к концу 2022 года сотрудники Snap получали около 10 000 сообщений о шантаже с использованием интимных фотографий в месяц. Внутреннее расследование показало, что 70% жертв никогда не сообщали о насилии, потому что «знали, что Snap не предпримет никаких действий; более того, из 30%, которые сообщили, ни одно не было рассмотрено».
Эта цифра всплыла благодаря неотредактированной жалобе штата Нью-Мексико, а не в результате каких-либо сообщений от компании Snap.
Неработающие функции безопасности
Если бы руководители знали об этом, исправления должны были быть внесены. Но в большинстве случаев этого не произошло. Исследователи из Нью-Йоркского университета и Северо-восточного университета протестировали 86 функций безопасности для молодежи и обнаружили, что 51 из них не прошли проверку. В Snapchat этот показатель составил 73%. Instagram 66%, YouTube У одной компании этот показатель составил 55%, а у TikTok — 50%. Девять функций даже не удалось активировать, когда исследователи попытались это сделать. Исследователи сообщили, что все протестированные ими средства защиты от кибербуллинга оказались неэффективными.
Обходные пути были найдены быстро. Введите в поисковую строку «расстройство пищевого поведения». Instagram Функция поиска и автозаполнения вежливо предлагает намеренные орфографические ошибки, которые используют сообщества, поддерживающие расстройства пищевого поведения, чтобы обойти собственный черный список платформы. В данном случае безопасность действовала в ущерб безопасности.
Что могут сделать родители сейчас?
Не стоит предполагать, что встроенные функции безопасности в приложениях работают точно так, как заявлено. Если ваш ребенок пользуется социальными сетями, проверьте настройки самостоятельно и убедитесь, что они работают так, как вы ожидаете.
Создайте тестовый аккаунт и проверьте, блокирует ли каждая настройка то, что заявлено. И подумайте о том, сколько времени вы хотите позволить своим детям проводить в социальных сетях, или хотите ли вы вообще разрешать им ими пользоваться. В любом случае, все начинается с честного семейного разговора .
Если вашего ребенка преследуют в интернете знакомые, попросите его немедленно сообщить вам об этом. Сохраните доказательства, заблокируйте и сообщите о таких аккаунтах, если это необходимо, и не стесняйтесь обращаться в школу или правоохранительные органы, если преследование включает угрозы, шантаж или сексуальную эксплуатацию.
Вы также можете сообщить о сексуальном вымогательстве напрямую в Центр по розыску пропавших и подвергшихся эксплуатации детей (National Center for Missing and Exploited Children's CyberTipline) , вместо того чтобы полагаться на собственную очередь сообщений какой-либо платформы.
Следите за обновлениями, чтобы узнать больше подробностей о федеральном деле. Следующие несколько месяцев решат, будут ли самые масштабные судебные процессы в истории пересмотрены присяжными, или же они достигнут соглашения, выплачивая конфиденциальные чеки один за другим.
От сообщения об угрозах до их устранения.
Риски кибербезопасности не должны выходить за рамки заголовка. Загрузите Malwarebytes сегодня, чтобы предотвратить угрозы на своих устройствах.
