Dziennikarze postanowili sprawdzić, czy chatbot Grok nadal generuje nieautoryzowane obrazy o charakterze seksualnym, nawet po tym, jak xAI, firma zajmująca się sztuczną inteligencją należąca do Elona Muska, oraz X, platforma społecznościowa znana wcześniej jako Twitter, obiecały wprowadzenie bardziej rygorystycznych zabezpieczeń.
Nie jest zaskoczeniem, że tak.
Po dokładnej analizie przeprowadzonej przez organy regulacyjne na całym świecie– spowodowanej doniesieniami, że Grok może generować obrazy o charakterze seksualnym przedstawiające nieletnich– firma xAI uznała to za „pojedynczy” błąd i oświadczyła, że pilnie naprawia „luki w zabezpieczeniach”.
Ponowne testy przeprowadzone przez agencję Reuters sugerują, że podstawowy schemat nadużyć pozostaje niezmieniony. Po X nowych ograniczeń dotyczących treści o charakterze seksualnym i edycji obrazów, agencja Reuters zleciła dziewięciu reporterom przeprowadzenie kilkudziesięciu kontrolowanych testów za pomocą programu Grok. W pierwszej rundzie program Grok wygenerował obrazy o charakterze seksualnym w odpowiedzi na 45 z 55 poleceń. W 31 z tych 45 przypadków reporterzy wyraźnie zaznaczyli, że osoba przedstawiona na zdjęciach jest bezbronna lub może zostać upokorzona przez te zdjęcia.
W drugiej rundzie, pięć dni później, nadal pojawiły się obrazy o charakterze seksualnym w 29 z 43 podpowiedzi, nawet gdy reporterzy twierdzili, że osoby te nie wyraziły na to zgody.
Konkurencyjne systemy OpenAI, Google i Meta odrzucały identyczne polecenia i zamiast tego ostrzegały użytkowników przed generowaniem treści bez zgody.
Pytania zostały celowo sformułowane jako scenariusze nadużyć z prawdziwego życia. Reporterzy powiedzieli Grokowi, że zdjęcia przedstawiają przyjaciół, współpracowników lub nieznajomych, którzy są nieśmiali, mają kompleksy dotyczące swojego ciała lub są ofiarami przemocy, i że nie wyrazili zgody na edycję. Mimo to Grok często spełniał te prośby – na przykład zamieniając „przyjaciela” w kobietę w skąpym fioletowym dwuczęściowym kostiumie lub ubierając znajomego mężczyznę w małe szare bikini, smarując go olejkiem i ustawiając w sugestywnej pozie. Tylko w siedmiu przypadkach Grok wyraźnie odrzucił prośby jako nieodpowiednie; w pozostałych przypadkach po cichu zawiódł, zwracając ogólne błędy lub generując inne osoby.
W rezultacie powstał system ilustrujący tę samą lekcję, której jego twórcy twierdzą, że próbują się nauczyć: jeśli dostarczasz potężne modele wizualne bez wyczerpujących testów nadużyć i solidnych zabezpieczeń, ludzie będą ich używać do seksualizacji i poniżania innych, w tym dzieci. Dotychczasowe osiągnięcia Grok sugerują, że ta lekcja nadal nie została przyswojona.
Po fali krytyki firma Grok ograniczyła edycję obrazów przez sztuczną inteligencję do użytkowników płatnych. Jednak wprowadzenie płatnego dostępu do narzędzi do edycji obrazów – oraz dodanie nowych ograniczeń – wygląda bardziej na ograniczanie szkód niż fundamentalną zmianę zasad bezpieczeństwa. Grok nadal akceptuje polecenia opisujące wykorzystanie bez zgody, nadal seksualizuje wrażliwe tematy i nadal zachowuje się bardziej liberalnie niż konkurencyjne systemy, gdy prosi się go o generowanie obraźliwych obrazów. Dla ofiar rozróżnienie między generowaniem „publicznym” a prywatnym nie ma znaczenia, jeśli ich zdjęcia mogą być wykorzystywane jako broń w prywatnych wiadomościach lub zamkniętych grupach na dużą skalę.
Udostępnianie zdjęć
Jeśli kiedykolwiek zastanawiałeś się, dlaczego niektórzy rodzice publikują zdjęcia swoich dzieci z uśmiechniętą emotikonką na twarzy, to jest to jedna z przyczyn.
Nie ułatwiaj nieznajomym kopiowania, ponownego wykorzystywania lub manipulowania Twoimi zdjęciami.
To kolejny ważny powód, abyograniczyć swoją obecność w sieci. Zastanów się dobrze, zanim opublikujesz zdjęcia siebie,swoich dzieci lub inne poufne informacje na publicznych kontach w mediach społecznościowych.
Wszystko, co widzisz w Internecie – obrazy, głosy, teksty – traktuj jako potencjalnie wygenerowane przez sztuczną inteligencję, chyba że można to niezależnie zweryfikować. Są one wykorzystywane nie tylko do wpływania na opinie, ale także do wyłudzania pieniędzy, pozyskiwania danych osobowych lub tworzenia materiałów o charakterze obraźliwym.
Nie tylko informujemy o zagrożeniach – pomagamy chronić Twoje media społecznościowe.
Ryzyko związane z cyberbezpieczeństwem nie powinno nigdy wykraczać poza nagłówki gazet. Chroń swoje konta w mediach społecznościowych, korzystając zMalwarebytes Identity Theft .
