Przypomnienie dla wszystkich, którzy uważają, że ich czaty ze sztuczną inteligencją są prywatne: człowiek może zobaczyć, co przesyłają. Raport 404 Media z tego tygodnia opisuje, jak podwykonawcy przeglądają zdjęcia użytkowników Copilota, prośby o edycję i obrazy generowane przez Copilota. Niektóre z ich obserwacji są niepokojące.
Firmy zewnętrzne zatrudniane do przeprowadzania tych recenzji przedstawiają swoim pracownikom oryginalne zdjęcie i prośbę użytkownika o edycję. Pokazywane są im również dwie potencjalne edycje AI i proszone o ocenę każdej z nich pod względem technicznym. Ponieważ to internet, chodzi tu o coś więcej niż tylko prośby o przebranie kota w kostium na Halloween. Wiele z tych próśb ma charakter seksualny, a niektóre dotyczą dzieci, jak podano w raporcie. Twarze na oryginalnych zdjęciach nie są cenzurowane, co oznacza, że recenzenci widzą, kim są ich bohaterowie.
Prośby o edycję i wyniki, które recenzenci muszą ocenić, obejmują prośby o skrócenie spódnic, powiększenie części ciała i umieszczenie osób w pozycjach seksualnych. W wielu przypadkach edycje wydają się być niedozwolone. Na przykład, jeden z wykonawców wspomniał o pokazaniu wielu zestawów zdjęć pod spódnicą. Inny powiedział, że poproszono go o ocenę zdjęć postaci z kreskówek dla dzieci, przedstawiających fetysz stóp. Użytkownicy poprosili Copilot o stworzenie zdjęć Ariany Grande cierpiącej na anoreksję. Na biurku jednego z recenzentów znalazły się zdjęcia przedstawiające ofiary ze zwierząt.
Respondenci w wywiadzie dla 404 Media poinformowali, że wykonawcy otrzymują wynagrodzenie za ocenę jakości obrazu, ale nie za zgłaszanie nieodpowiednich treści. Sprawdzają oni takie kwestie, jak to, czy instrukcje zostały prawidłowo wykonane, czy fragmenty obrazu zostały zachowane lub zniekształcone, a także ogólny wygląd obrazu. Nie oceniają treści pod kątem prawnym ani bezpieczeństwa.
Microsoft wykorzystuje dane klientów z niektórych kont, aby ulepszać swoje produkty. Jednak gdy 404 Media zapytało, firma nie odpowiedziała, czy użytkownicy mogą wykluczać przesyłane treści z tych zadań oceniania.
W sekcji FAQ Privacy dla starszej, konsumenckiej wersji Copilota, Microsoft informuje, że domyślnie przechowuje rozmowy przez 18 miesięcy, choć użytkownicy mogą je w dowolnym momencie usunąć. Firma informuje również, że może wykorzystywać dane, „w tym przesłane obrazy lub pliki”, do szkolenia sztucznej inteligencji. Uprawnieni użytkownicy mogą zrezygnować ze szkolenia, ale w sekcji FAQ zaznaczono, że rezygnacja z niektórych recenzji ludzkich jest niedostępna. Nie wyjaśniono, czy dotyczy to również zadań oceny obrazów opisanych przez 404 Media.
Microsoft twierdzi, że zaktualizowana aplikacja konsumencka Copilot, dostępna od 18 sierpnia, nie wykorzystuje monitów, odpowiedzi ani przesłanych treści plików do trenowania modeli bazowych. Pozostaje więc pytanie , które 404 Media zadało Microsoftowi: czy użytkownicy mogą uniemożliwić użytkownikom przesyłanie przesłanych plików w recenzjach obrazów?
Poprzednie problemy z wizerunkiem Copilota
Pracownicy Microsoftu ostrzegali już w przeszłości, że Copilot ma tendencję do generowania wątpliwych obrazów.
Na początku 2024 roku inżynier uczenia maszynowego Shane Jones publicznie wyraził obawy dotyczące możliwości obejścia zabezpieczeń w narzędziu do konwersji tekstu na obraz DALL-E 3. Wcześniej zwrócił się do firmy z prośbą o wycofanie z publicznego użytku programu Copilot Designer, który korzystał z tego narzędzia, na trzy miesiące, ale Microsoft odmówił. Zespół ds. opinii otrzymywał ponad 1000 wiadomości z opiniami o produktach dziennie i zajmował się tylko najpoważniejszymi z nich, powiedział wówczas w wywiadzie dla CNBC .
W tym samym czasie Microsoft naprawił lukę w programie Copilot Designer, która umożliwiała tworzenie niechcianych, intymnych deepfakes Taylor Swift .
Microsoft nie jest jedyną firmą, która zatrudnia podwykonawców do analizy czatów AI. OpenAI robi to samo w ramach inicjatywy Project Lily . Jeśli chcesz dowiedzieć się więcej o tym, jak asystenci AI wykorzystują dane z Twoich rozmów do samodoskonalenia i co możesz zrobić, aby im zapobiec, przeczytaj artykuł. Malwarebytes Przewodnik po szkoleniu sztucznej inteligencji w zakresie treści użytkownika.
Od zgłaszania zagrożeń po ich usuwanie.
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
