Niepowodzenie Groka w blokowaniu zdjęć nieletnich o charakterze seksualnym sprawiło, że pojedyncze „izolowane uchybienie” stało się globalnym testem regulacyjnym dla ambicji xAI. Reakcja prawodawców i organów regulacyjnych sugeruje, że nie da się tego rozwiązać szybkimi przeprosinami i poprawką.
W zeszłym tygodniu informowaliśmy o przeprosinach firmy Grok po tym, jak wygenerowała ona obraz młodych dziewcząt w „seksualnych strojach”.
Przeprosiny nastąpiły po wprowadzeniu przez Groka płatnego trybu „Spicy Mode” w sierpniu 2025 roku, który był reklamowany jako odważny i mniej cenzurowany. W praktyce umożliwiał on użytkownikom generowanie deepfake obrazów o charakterze seksualnym, w tym treści, które zgodnie z prawem Stanów Zjednoczonych i innych jurysdykcji mogą zostać uznane za nielegalne materiały prezentujące wykorzystywanie seksualne dzieci (CSAM).
Raport narzędzia do monitorowania sieci CopyLeaks zwrócił uwagę na „tysiące” przypadków wykorzystania Grok do tworzenia obrazów o charakterze seksualnym przedstawiających gwiazdy bez ich zgody.
To zaczyna przynosić odwrotny skutek. Podobno trzech senatorów USA zwróciło się do Google i Apple z prośbą o usunięcie Groka i X aplikacje ze swoich sklepów z aplikacjami, powołując się na rozpowszechnianie niechcianych, seksualizowanych wizerunków kobiet i nieletnich tworzonych przez sztuczną inteligencję i argumentując, że narusza to zasady sklepów z aplikacjami tych firm.
W swoim wspólnym liście senatorowie stwierdzają:
„W ostatnich dniach, X Użytkownicy aplikacji wykorzystali narzędzie Grok AI do generowania na dużą skalę niekonsensualnych obrazów seksualnych przedstawiających prawdziwych, prywatnych obywateli. Ten trend obejmował modyfikowanie przez Grok obrazów, aby przedstawiać kobiety wykorzystywane seksualnie, poniżane, krzywdzone, a nawet zabijane. W niektórych przypadkach Grok podobno tworzył seksualizowane obrazy dzieci – najbardziej odrażający rodzaj treści, jaki można sobie wyobrazić.
Rząd Wielkiej Brytanii grozi również podjęciem ewentualnych działań przeciwko platformie. Przedstawiciele rządu oświadczyli, że w pełni poprą wszelkie działania podjęte przez Ofcom, niezależny organ regulacyjny ds. mediów, przeciwko X Nawet jeśli oznaczałoby to, że brytyjscy regulatorzy mogliby zablokować platformę.
Indonezja i Malezja zablokowały już serwis Grok po tym, jak jego funkcja „cyfrowego rozbierania” zalała internet sugestywnymi i obscenicznymi, zmanipulowanymi zdjęciami kobiet i nieletnich.
Jak się okazuje, użytkownik namówił Groka do wygenerowania własnych „przeprosin”, co też zrobił. Po fali krytyki za seksualizowane zdjęcia kobiet i nieletnich, Grok/ X ogłoszono ograniczenia dotyczące generowania i edycji obrazów wyłącznie dla abonentów płacących, co skutecznie uniemożliwiło korzystanie z tych możliwości na głównej stronie X powierzchnie.
Dla prawodawców, którzy już obawiają się dezinformacji i ingerencji w wybory, deepfakes i obrazy przemocy, Grok szybko staje się podręcznikowym przykładem tego, dlaczego zasada „ działaj szybko i niszcz rzeczy ” nie idzie w parze ze sztuczną inteligencją, która może seksualizować prawdziwych ludzi na żądanie.
Miejmy nadzieję, że kolejna fala przepisów, od egzekwowania przepisów UE dotyczących sztucznej inteligencji po obowiązki bezpieczeństwa dotyczące konkretnych platform, potraktuje ten incydent jako podstawowe ryzyko, któremu muszą sprostać wszystkie modele wizualne na dużą skalę, a nie jako odstępstwo od normy.
Dbaj o bezpieczeństwo swoich dzieci
Jeśli kiedykolwiek zastanawiałeś się, dlaczego rodzice publikują zdjęcia swoich dzieci z uśmiechem na twarzy, oto powód.
Nie ułatwiaj nieznajomym kopiowania, ponownego wykorzystywania lub manipulowania Twoimi zdjęciami.
Ten incydent to kolejny ważny powód, żeby zmniejszyć swój ślad cyfrowy. Zastanów się dobrze, zanim wrzucisz swoje zdjęcia, zdjęcia swoich dzieci lub inne wrażliwe informacje na publiczne konta w mediach społecznościowych.
Wszystko, co widzisz w Internecie – obrazy, głosy, teksty – traktuj jako potencjalnie wygenerowane przez sztuczną inteligencję, chyba że można to niezależnie zweryfikować. Są one wykorzystywane nie tylko do wpływania na opinie, ale także do wyłudzania pieniędzy, pozyskiwania danych osobowych lub tworzenia materiałów o charakterze obraźliwym.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Rozwiązanie Malwarebytes Identity Theft Protection wykrywa podejrzaną aktywność zanim stanie się problemem.
