W sklepach App Store firmy Apple i Play Store firmy Google można znaleźć najróżniejsze aplikacje – od tych służących do sprawdzania pogody, przez aplikacje do automatyki domowej, aż po gry. Tym, czego jednak można by się nie spodziewać, są aplikacje umożliwiające tworzenie zdjęć nagości bez zgody osób na nich widocznych na podstawie zwykłych zdjęć. A jednak takie aplikacje istnieją, a władze miasta San Francisco mają już tego dość.
17 lipca 2026 r. prokurator miejski San Francisco David Chiu wysłał do firm Apple i Google pisma z żądaniem zaprzestania naruszeń, w których wymienił 13 aplikacji służących do zamiany twarzy oraz do „nudyfikacji” (osiem w App Store i pięć w Google Play) i dał firmom 28 dni na ich usunięcie oraz zerwanie współpracy z twórcami tych aplikacji.
Te listy nie pojawiają się znikąd.
Chodzi o systemy płatności, a nie o moderację treści
Chiu nie twierdzi, że samo udostępnianie aplikacji automatycznie nakłada na platformę odpowiedzialność za jej działanie. Operatorzy platform wygrali już tę batalię dzięki sekcji 230 ustawy o przyzwoitości w komunikacji (Communications Decency Act). Ta obowiązująca od 30 lat ustawa stanowi, że serwisy internetowe zasadniczo nie ponoszą odpowiedzialności za treści publikowane przez użytkowników, co pozwala platformom na udostępnianie treści tworzonych przez użytkowników bez narażania się na pozwy za każdym razem, gdy ktoś zniesławi inną osobę w wątku komentarzy.
Sądy często rozszerzały te zabezpieczenia również na sklepy z aplikacjami. Firmy Apple i Google są traktowane jako dystrybutorzy wszelkich treści udostępnianych przez zewnętrznych programistów, a nie jako wydawcy.
Chiu próbuje obejść ten argument, skupiając się na systemach płatności tych firm i zwracając uwagę, że Apple i Google pobierają prowizję od każdego zakupu dokonywanego w aplikacji. Według organizacji Tech Transparency Project (TTP) oznacza to, że czerpią zyski z aplikacji, które generują przychody poprzez tworzenie intymnych treści bez zgody osób na nich widocznych.
Nie brakuje mu dowodów. W styczniu organizacja TTP zidentyfikowała 55 aplikacji służących do rozbierania kobiet w App Store oraz 47 w Google Play. W kwietniowej analizie uzupełniającej badacze celowo wykorzystali takie hasła wyszukiwania jak „nudify” i „deepnude”. Znaleźli 46 aplikacji w Apple App Store i 49 w Google Play. Około 40% wyników wyszukiwania w tych sklepach pozwalało użytkownikom na „rozbieranie” kobiet, a prawie co trzecia aplikacja została oceniona jako odpowiednia dla nieletnich.
Chociaż wiele z tych aplikacji promuje się, wykorzystując zdjęcia kobiet, ofiarą rozpowszechniania intymnych zdjęć bez zgody może stać się każdy.
Organizacja non-profit oszacowała, że aplikacje zawarte w jej zbiorze danych zostały pobrane 483 miliony razy i przyniosły łącznie ponad 122 miliony dolarów przychodów. Jej ocena firm Apple i Google była bezkompromisowa:
„kluczowi uczestnicy procesu rozpowszechniania narzędzi sztucznej inteligencji, które mogą przekształcać prawdziwych ludzi w seksualizowane wizerunki”.
Listy Chiu odzwierciedlają te ustalenia, w których oskarża on obie firmy o
„świadome ułatwianie lub lekkomyślne wspieranie sprzedaży tych obrazów poprzez udostępnianie aplikacji i obsługę zakupów w aplikacjach”.
Może on również powołać się na prawo kalifornijskie. Ustawa stanowa z 2025 roku w Kalifornii rozszerzyła zakres potencjalnej odpowiedzialności podmiotów, które ułatwiają tworzenie lub rozpowszechnianie deepfakes o charakterze jednoznacznie seksualnym. Kary cywilne mogą sięgać 25 000 dolarów za każde naruszenie. To poważna sprawa dla firm, które co roku realizują miliony transakcji.
Platformy podjęły pewne działania, ale to za mało
Chiu nie ogranicza się tylko do sprawdzania Apple’a i Google’a. Jego biuro poświęciło już lata 2024 i 2025 na walkę z 16 najczęściej odwiedzanymi stronami internetowymi deepfake , co doprowadziło do zawarcia rzeczywistych ugód i zamknięcia tych stron. To właśnie to samo biuro, stosując tę samą strategię, zajmuje się teraz większymi celami.
Reakcja firmy Apple była niepełna. Rzecznik prasowy Adam Dema poinformował magazyn „WIRED”, że firma usunęła trzy ze zgłoszonych aplikacji i rozpoczęła proces zamykania powiązanych z nimi kont deweloperskich. Oznacza to, że 10 z 13 aplikacji jest nadal dostępnych.
Rzecznik Google, Dan Jackson, powiedział, że firma usunęła już setki aplikacji zawierających funkcje „nudification” z powodu naruszenia zasad Sklepu Play.
Jeśli sądy kalifornijskie uznają teorię podziału przychodów, wszyscy inni prokuratorzy miejscy w stanie otrzymają gotowy wzór postępowania. Długoletnie stanowisko sklepów z aplikacjami, zgodnie z którym są one neutralnymi dystrybutorami, a nie podmiotami gospodarczymi, traci na znaczeniu wszędzie tam, gdzie stan posiada przepisy dotyczące ochrony konsumentów, które obejmują infrastrukturę płatniczą.
Co to oznacza dla reszty z nas
Dla konsumentów sposób działania tych aplikacji ma większe znaczenie niż spory sądowe. Aplikacje do zamiany twarzy i nakładania efektów na zdjęcia nie są automatycznie bezpieczne tylko dlatego, że przeszły weryfikację w sklepie. Udzielając jednej z nich dostępu do galerii zdjęć, możesz przekazać swoje zdjęcia lub zdjęcia przyjaciół i rodziny serwisowi, który może je wykorzystać w niewłaściwy sposób lub umożliwić to innym.
Zanim zainstalujesz aplikację fotograficzną wykorzystującą sztuczną inteligencję, sprawdź, o jakie uprawnienia prosi, poszukaj informacji o jej twórcy oraz sprawdź, czy w niezależnych raportach pojawiły się jakieś zastrzeżenia na jej temat. Nie zakładaj, że aplikacja jest godna zaufania tylko dlatego, że jest dostępna w oficjalnym sklepie z aplikacjami. Obowiązują też nasze standardowe zasady dotyczące publikowania zdjęć siebie lub osób pozostających pod twoją opieką.
Jeśli ten artykuł wzbudził Twoje zainteresowanie, możesz dowiedzieć się więcej o pracy Chiu w naszym Malwarebytes z zeszłego miesiąca, w którym ponownie wyemitowano wywiad z nim przeprowadzony przez nasz zespół w 2024 roku.
Oszuści wiedzą o tobie więcej, niż ci się wydaje.
Malwarebytes Mobile Security Cię przed phishingiem, oszukańczymi wiadomościami tekstowymi, złośliwymi stronami internetowymi i nie tylko. Dzięki wbudowanej funkcji Scam Guard opartej na sztucznej inteligencji, działającej w czasie rzeczywistym.
