Dziennikarze postanowili sprawdzić, czy chatbot Grok nadal generuje niechciane, seksualne obrazy, nawet po tym, jak xAI, firma Elona Muska zajmująca się sztuczną inteligencją , X , platforma mediów społecznościowych dawniej znana jako Twitter , obiecał bardziej rygorystyczne zabezpieczenia.
Nie jest zaskoczeniem, że tak.
Po dokładnej analizie przeprowadzonej przez organy regulacyjne na całym świecie– spowodowanej doniesieniami, że Grok może generować obrazy o charakterze seksualnym przedstawiające nieletnich– firma xAI uznała to za „pojedynczy” błąd i oświadczyła, że pilnie naprawia „luki w zabezpieczeniach”.
Ponowne badanie Reutersa sugeruje, że główny schemat nadużyć nadal występuje. Reuters zlecił dziewięciu reporterom przeprowadzenie kilkudziesięciu kontrolowanych testów przez Grok po… X ogłosił nowe limity dotyczące treści o charakterze seksualnym i edycji zdjęć. W pierwszej rundzie Grok stworzył treści o charakterze seksualnym w odpowiedzi na 45 z 55 pytań. W 31 z tych 45 pytań reporterzy wyraźnie stwierdzili, że osoba, której dotyczyły zdjęcia, jest bezbronna lub że zdjęcia mogłyby ją upokorzyć.
W drugiej rundzie, pięć dni później, nadal pojawiły się obrazy o charakterze seksualnym w 29 z 43 podpowiedzi, nawet gdy reporterzy twierdzili, że osoby te nie wyraziły na to zgody.
Konkurencyjne systemy OpenAI, Google i Meta odrzucały identyczne polecenia i zamiast tego ostrzegały użytkowników przed generowaniem treści bez zgody.
Pytania zostały celowo sformułowane jako scenariusze nadużyć z prawdziwego życia. Reporterzy powiedzieli Grokowi, że zdjęcia przedstawiają przyjaciół, współpracowników lub nieznajomych, którzy są nieśmiali, mają kompleksy dotyczące swojego ciała lub są ofiarami przemocy, i że nie wyrazili zgody na edycję. Mimo to Grok często spełniał te prośby – na przykład zamieniając „przyjaciela” w kobietę w skąpym fioletowym dwuczęściowym kostiumie lub ubierając znajomego mężczyznę w małe szare bikini, smarując go olejkiem i ustawiając w sugestywnej pozie. Tylko w siedmiu przypadkach Grok wyraźnie odrzucił prośby jako nieodpowiednie; w pozostałych przypadkach po cichu zawiódł, zwracając ogólne błędy lub generując inne osoby.
W rezultacie powstał system ilustrujący tę samą lekcję, której jego twórcy twierdzą, że próbują się nauczyć: jeśli dostarczasz potężne modele wizualne bez wyczerpujących testów nadużyć i solidnych zabezpieczeń, ludzie będą ich używać do seksualizacji i poniżania innych, w tym dzieci. Dotychczasowe osiągnięcia Grok sugerują, że ta lekcja nadal nie została przyswojona.
Po fali krytyki firma Grok ograniczyła edycję obrazów przez sztuczną inteligencję do użytkowników płatnych. Jednak wprowadzenie płatnego dostępu do narzędzi do edycji obrazów – oraz dodanie nowych ograniczeń – wygląda bardziej na ograniczanie szkód niż fundamentalną zmianę zasad bezpieczeństwa. Grok nadal akceptuje polecenia opisujące wykorzystanie bez zgody, nadal seksualizuje wrażliwe tematy i nadal zachowuje się bardziej liberalnie niż konkurencyjne systemy, gdy prosi się go o generowanie obraźliwych obrazów. Dla ofiar rozróżnienie między generowaniem „publicznym” a prywatnym nie ma znaczenia, jeśli ich zdjęcia mogą być wykorzystywane jako broń w prywatnych wiadomościach lub zamkniętych grupach na dużą skalę.
Udostępnianie zdjęć
Jeśli kiedykolwiek zastanawiałeś się, dlaczego niektórzy rodzice publikują zdjęcia swoich dzieci z uśmiechniętą emotikonką na twarzy, to jest to jedna z przyczyn.
Nie ułatwiaj nieznajomym kopiowania, ponownego wykorzystywania lub manipulowania Twoimi zdjęciami.
To kolejny ważny powód, abyograniczyć swoją obecność w sieci. Zastanów się dobrze, zanim opublikujesz zdjęcia siebie,swoich dzieci lub inne poufne informacje na publicznych kontach w mediach społecznościowych.
Wszystko, co widzisz w Internecie – obrazy, głosy, teksty – traktuj jako potencjalnie wygenerowane przez sztuczną inteligencję, chyba że można to niezależnie zweryfikować. Są one wykorzystywane nie tylko do wpływania na opinie, ale także do wyłudzania pieniędzy, pozyskiwania danych osobowych lub tworzenia materiałów o charakterze obraźliwym.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Rozwiązanie Malwarebytes Identity Theft Protection wykrywa podejrzaną aktywność zanim stanie się problemem.
