Grupa dużych firm technologicznych walczy o zablokowanie około 3000 pozwów dotyczących bezpieczeństwa młodzieży i właśnie przegrała kluczową batalię proceduralną w sądzie.
Pozwy, wniesione przez prokuratorów generalnych i rodziny, twierdzą, że Meta, Google, TikTok należący do ByteDance i Snap wiedziały, że ich produkty uzależniają dzieci i nastolatków oraz szkodzą ich zdrowiu psychicznemu, ale mimo to nadal reklamowały je młodym użytkownikom w celach zarobkowych.
Firmy technologiczne próbowały odwołać się od orzeczenia sądu federalnego, który zezwolił osobom zaangażowanym w sprawę na wniesienie pozwu do sądu. Argumentowały w Sądzie Apelacyjnym 9. Okręgu Stanów Zjednoczonych, że kluczowe prawo USA uniemożliwia im pozew.
To prawo to artykuł 230 Ustawy o przyzwoitości w komunikacji (Communications Decency Act), uchwalonej 30 lat temu. Stanowi on, że platformy nie mogą ponosić odpowiedzialności za treści publikowane w internecie przez ich użytkowników. Przez lata firmy mediów społecznościowych traktowały je jak kamizelkę kuloodporną. Gdy użytkownicy publikowali coś niestosownego, firma zarządzająca mogła twierdzić, że to nadawca, a nie autor.
Ta linia obrony najwyraźniej nie działa w tym przypadku. 10 sierpnia sąd orzekł, że artykuł 230 „stanowi obronę przed odpowiedzialnością, a nie immunitet przed pozwami, więc apelacja była przedwczesna”. Sprawa ta koncentruje się nie tyle na tym, co ludzie publikowali w internecie, co na tym, jak firmy technologiczne rzekomo projektowały swoje platformy, aby prezentować te treści użytkownikom.
Nebraska Law Review opisuje kilka technik, które według pozwanych sprawiają, że platformy te są bardziej angażujące i potencjalnie bardziej uzależniające.
W artykule wyjaśniono, jak pewne interakcje na tych platformach mogą powodować uwalnianie dopaminy. Interakcje te mogą być tak proste, jak odpowiedź na Twoją wiadomość lub polubienie jednego z Twoich zdjęć. Dopamina odgrywa ważną rolę w układzie nagrody w mózgu.
Artykuł NLR opisuje techniki takie jak uczynienie tych nagród nieprzewidywalnymi, co zachęca ludzi do regularnego sprawdzania swoich kont. Funkcje interfejsu, takie jak nieskończone przewijanie, również mają na celu utrzymanie poziomu dopaminy. Artykuł cytuje twórcę tego konkretnego pomysłu, który opisuje go następująco:
„przyjmować [behawioralną] kokainę i po prostu posypywać nią cały swój interfejs”.
Każdy, kto spędził zbyt dużo czasu w łóżku, przeglądając pesymistyczne historie, zrozumie to.
Odrzucenie apelacji przez Sąd Apelacyjny Dziewiątego Okręgu jest proceduralnie ograniczone, ale strategicznie ogromne. Artykuł 230 to linia obrony, którą przedstawia się na rozprawie, a nie mur, który uniemożliwia powodom wejście na schody sądu. Sąd Apelacyjny Trzeciego Okręgu poszedł dalej, orzekając, że artykuł 230 „nie zapewnia platformom immunitetu w przypadku pozwów o czyn niedozwolony z tytułu szkód wyrządzonych przez zaprojektowane przez nie algorytmy”.
Innymi słowy, algorytm jest produktem. Produkt może być wadliwy.
Za tymi sprawami kryje się rosnący zbiór materiałów dowodowych, które, jak twierdzą powodowie, rzucają światło na sposób, w jaki platformy podchodziły do angażowania użytkowników, oraz wyrok Sądu Najwyższego Nowego Meksyku przeciwko Meta z początku tego miesiąca, dotyczący podobnych skarg. Wyrok ten opiewa obecnie na 942 miliony dolarów, ponieważ sędzia dodał 567 milionów dolarów do pierwotnej kwoty, stwierdzając, że Meta:
„stworzyła uciążliwość publiczną poprzez swój projekt platformy”.
Jakie odkrycie ciągle się przeciąga
Ujawnienie tych spraw było już niesprawiedliwe dla Meta. W e-mailu z 2016 roku, przypisywanym Markowi Zuckerbergowi, stwierdzono, że informowanie rodziców o transmisjach nastolatków na żywo „prawdopodobnie zrujnowałoby produkt od samego początku”. W niedawnym pozwie sądowym zarzucono pracownikom gigantów mediów społecznościowych porównywanie ich platform do narkotyków, a jeden z pracowników Meta napisał:
„jesteśmy w zasadzie dilerami”.
Snap nie wygląda lepiej. Pod koniec 2022 roku pracownicy Snap otrzymywali około 10 000 zgłoszeń dotyczących szantażów seksualnych miesięcznie, jak wynika z akt sprawy w Nowym Meksyku. Wewnętrzne dochodzenie wykazało, że 70% ofiar nigdy nie zgłosiło nadużyć, ponieważ „wiedziały, że Snap nie podejmie żadnych działań; w rzeczywistości, z 30%, które zgłosiły, żadne z nich nie zostało rozpatrzone”.
Liczba ta ujawniona została w nieocenzurowanej skardze Nowego Meksyku, a nie w jakimkolwiek ujawnieniu Snap.
Funkcje bezpieczeństwa, które nie działają
Gdyby kierownictwo wiedziało, poprawki powinny były zostać wprowadzone. W większości przypadków tego nie zrobiło. Naukowcy z Uniwersytetu Nowojorskiego i Uniwersytetu Northeastern przetestowali 86 funkcji bezpieczeństwa dla młodzieży i stwierdzili, że 51 z nich nie przeszło testów. Wskaźnik awaryjności Snapchata wyniósł 73%. Instagram 66%, YouTube 55% i 50% TikToka. Dziewięć funkcji nie dało się nawet uruchomić, gdy badacze próbowali. Badacze zgłosili, że wszystkie testowane przez nich zabezpieczenia przed cyberprzemocą zawiodły.
Obwodnice znaleziono szybko. Wpisz „zaburzenia odżywiania” w Instagram Wyszukiwanie i autouzupełnianie uprzejmie oferują celowe błędy ortograficzne, których używają społeczności promujące zaburzenia odżywiania, aby uniknąć zablokowania platformy. W tym przypadku funkcja bezpieczeństwa działała odwrotnie.
Co rodzice mogą teraz zrobić
Nie zakładaj, że funkcje bezpieczeństwa w aplikacji działają dokładnie tak, jak obiecują. Jeśli Twoje dziecko korzysta z mediów społecznościowych, przetestuj ustawienia samodzielnie i upewnij się, że robi to, czego oczekujesz.
Załóż konto testowe i sprawdź, czy każde ustawienie blokuje to, co ma blokować. Zastanów się też, ile czasu chcesz dać swoim dzieciom na korzystanie z mediów społecznościowych, a może w ogóle chcesz im na to pozwolić. Tak czy inaczej, zacznij od szczerej rozmowy z rodziną .
Jeśli Twoje dziecko jest nękane w internecie przez osoby, które zna, zachęć je do natychmiastowego poinformowania Cię o tym. Gromadź dowody, blokuj i zgłaszaj konta w razie potrzeby i nie wahaj się powiadomić szkoły lub organów ścigania, jeśli nękanie obejmuje groźby, szantaż lub wykorzystywanie seksualne.
Możesz również zgłosić przypadek seksualnego wymuszenia bezpośrednio na Krajowym Centrum ds. Zaginionych i Wykorzystywanych Dzieci, korzystając z CyberTipline , zamiast korzystać z kolejki zgłoszeń platformy.
Zajrzyj tutaj, aby uzyskać więcej szczegółów na temat sprawy federalnej. Kolejne miesiące zadecydują, czy największe platformy w historii zostaną przepisane przez ławy przysięgłych, czy też zostaną rozwiązane po kolei, po jednym poufnym sprawdzeniu.
Od zgłaszania zagrożeń po ich usuwanie.
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
