Niepowodzenie Groka w blokowaniu zdjęć nieletnich o charakterze seksualnym sprawiło, że pojedyncze „izolowane uchybienie” stało się globalnym testem regulacyjnym dla ambicji xAI. Reakcja prawodawców i organów regulacyjnych sugeruje, że nie da się tego rozwiązać szybkimi przeprosinami i poprawką.
W zeszłym tygodniu informowaliśmy o przeprosinach firmy Grok po tym, jak wygenerowała ona obraz młodych dziewcząt w „seksualnych strojach”.
Przeprosiny pojawiły się po wprowadzeniu w sierpniu 2025 r. płatnego „trybu pikantnego” serwisu Grok, który był reklamowany jako bardziej odważny i mniej cenzurowany. W praktyce umożliwiał on użytkownikom generowanie seksualnych deepfake , w tym treści, które mogą stanowić nielegalne materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM) zgodnie z prawem Stanów Zjednoczonych i innych jurysdykcji.
Raport narzędzia do monitorowania sieci CopyLeaks zwrócił uwagę na „tysiące” przypadków wykorzystania Grok do tworzenia obrazów o charakterze seksualnym przedstawiających gwiazdy bez ich zgody.
To zaczyna przynosić odwrotny skutek. Według doniesień trzech amerykańskich senatorów zwróciło się do Google i Apple z prośbą o usunięcie X Grok i X Elona Muska ze swoich sklepów z aplikacjami, powołując się na rozpowszechnianie nieautoryzowanych, seksualnych obrazów kobiet i nieletnich generowanych przez sztuczną inteligencję i argumentując, że narusza to zasady sklepów z aplikacjami tych firm.
W swoim wspólnym liście senatorowie stwierdzają:
„W ostatnich dniach X wykorzystali narzędzie Grok AI aplikacji do generowania na dużą skalę nieautoryzowanych obrazów o charakterze seksualnym przedstawiających prawdziwych, prywatnych obywateli. Trend ten obejmował modyfikowanie przez Grok obrazów w celu przedstawienia kobiet wykorzystywanych seksualnie, poniżanych, krzywdzonych, a nawet zabijanych. W niektórych przypadkach Grok rzekomo tworzył obrazy o charakterze seksualnym przedstawiające dzieci — najbardziej ohydny rodzaj treści, jaki można sobie wyobrazić”.
Rząd Wielkiej Brytanii również grozi podjęciem ewentualnych działań przeciwko platformie. Przedstawiciele rządu oświadczyli, że w pełni poprą wszelkie działania podjęte przez Ofcom, niezależny organ regulacyjny ds. mediów, przeciwko X. Nawet jeśli oznaczałoby to, że brytyjskie organy regulacyjne mogłyby zablokować platformę.
Indonezja i Malezja zablokowały już serwis Grok po tym, jak jego funkcja „cyfrowego rozbierania” zalała internet sugestywnymi i obscenicznymi, zmanipulowanymi zdjęciami kobiet i nieletnich.
Okazało się, że użytkownik poprosił Grok o wygenerowanie własnych „przeprosin”, co też zrobił. Po negatywnej reakcji na seksualizowane zdjęcia kobiet i nieletnich,X ograniczenia dotyczące generowania i edycji obrazów wyłącznie dla płatnych subskrybentów, skutecznie blokując dostęp do tych funkcji na głównych X .
Dla prawodawców, którzy już teraz martwią się dezinformacją, ingerencją w wybory, deepfakes i nadużywaniem obrazów, Grok szybko staje się podręcznikowym przykładem tego, dlaczego„działaj szybko i niszcz”nie pasuje do sztucznej inteligencji, która może seksualizować prawdziwych ludzi na żądanie.
Miejmy nadzieję, że kolejna fala przepisów, od egzekwowania przepisów UE dotyczących sztucznej inteligencji po obowiązki bezpieczeństwa dotyczące konkretnych platform, potraktuje ten incydent jako podstawowe ryzyko, któremu muszą sprostać wszystkie modele wizualne na dużą skalę, a nie jako odstępstwo od normy.
Dbaj o bezpieczeństwo swoich dzieci
Jeśli kiedykolwiek zastanawiałeś się, dlaczego rodzice publikują zdjęcia swoich dzieci z uśmiechem na twarzy, oto powód.
Nie ułatwiaj nieznajomym kopiowania, ponownego wykorzystywania lub manipulowania Twoimi zdjęciami.
Ten incydent to kolejny ważny powód, żeby zmniejszyć swój ślad cyfrowy. Zastanów się dobrze, zanim wrzucisz swoje zdjęcia, zdjęcia swoich dzieci lub inne wrażliwe informacje na publiczne konta w mediach społecznościowych.
Wszystko, co widzisz w Internecie – obrazy, głosy, teksty – traktuj jako potencjalnie wygenerowane przez sztuczną inteligencję, chyba że można to niezależnie zweryfikować. Są one wykorzystywane nie tylko do wpływania na opinie, ale także do wyłudzania pieniędzy, pozyskiwania danych osobowych lub tworzenia materiałów o charakterze obraźliwym.
Nie tylko informujemy o zagrożeniach – pomagamy chronić Twoje media społecznościowe.
Ryzyko związane z cyberbezpieczeństwem nie powinno nigdy wykraczać poza nagłówki gazet. Chroń swoje konta w mediach społecznościowych, korzystając zMalwarebytes Identity Theft .
