Google wycofało się z funkcji sztucznej inteligencji, która umożliwiała użytkownikom generowanie sztucznych obrazów w Google Earth, po przewidywalnej fali krytyki deepfakes .
30 lipca Google włączył funkcję generowania obrazów przy użyciu sztucznej inteligencji w internetowej wersji Google Earth. Stała się ona dostępna dla każdego.
System wykorzystał generator obrazów Nano Banana 2 firmy Google do tworzenia obrazów. Narzędzie to potrafi już generować obrazy na podstawie prostego tekstu, ale zaletą korzystania z Google Earth jest to, że może ono wykorzystywać rzeczywiste zdjęcia satelitarne jako podstawę. deepfake wersje. Dzięki temu łatwiej jest tworzyć obrazy AI z prawdziwymi, dokładnymi szczegółami budynków i krajobrazów.
W pierwszym wpisie na blogu , informującym o uruchomieniu systemu, poinformowano, że studenci mogą go używać do „ożywiania historii”, a pośrednicy w obrocie nieruchomościami do tworzenia profesjonalnych planów nieruchomości. Inni jednak ostrzegali, że system może być wykorzystywany do wprowadzania ludzi w błąd.
W ciągu kilku godzin badacze i redakcje prasowe wykazali, że narzędzie to z powodzeniem generuje fotorealistyczne zdjęcia satelitarne przedstawiające zdarzenia, które nie miały miejsca, i miejsca, w których nie miały miejsca.
Holenderski badacz informacji wywiadowczych typu open source, Henk van Ess, wyjaśnił : „Próbowałem uchodźców na granicy z Meksykiem, w elektrowni jądrowej w Iranie, w katastrofie w Amsterdamie, w szpitalu z lejem po bombie w Strefie Gazy. Niczego nie odmówiono”.
Demonstrując możliwości nowej funkcji, NPR stworzyło obraz pożarów w Iranie wraz z deepfake Waszyngtonu pod wodą. BBC pokazało zdjęcia zawalonej Wieży Eiffla i Wielkiej Piramidy w Gizie pochłoniętej przez lej krasowy. Chociaż serwis miał pewne zabezpieczenia, usługa BBC Verify, chroniąca przed dezinformacją, była w stanie je ominąć, majstrując przy podstawowych komunikatach sztucznej inteligencji.
Google przyznało się do błędu w oświadczeniu X :
„Widzieliśmy, jak specjaliści ds. geoprzestrzeni wykorzystują tę funkcję do wielu przydatnych celów, ale widzieliśmy też osoby udostępniające zrzuty ekranu wygenerowanych obrazów, które najwyraźniej naruszają nasze zasady. Dlatego wycofujemy tę funkcję w Google Earth, pracując nad wdrożeniem silniejszych zabezpieczeń”.
Nie zobowiązano się, że nigdy nie powróci się do tego pomysłu.
Użytkownicy najwyraźniej nie byli pod wrażeniem. „Nie ma szans, żeby ktokolwiek z waszego zespołu programistów nie zgłosił dokładnie tego problemu” – skomentował jeden z nich. „Żyjecie w kompletnej bańce” – oskarżył inny.
Zabezpieczeniem awaryjnym Google był znak wodny SynthID oraz fakt, że wygenerowane obrazy nie były widoczne w głównym interfejsie Google Earth dla innych użytkowników. SynthID to system znakowania wodnego Google DeepMind, niewidzialny sygnał wbudowany w piksele obrazów generowanych przez sztuczną inteligencję, umożliwiający ich późniejsze wykrycie przez kompatybilny detektor. Google pozycjonuje go jako połowę swojego stosu danych o pochodzeniu, obok standardu metadanych C2PA, na który zdecydowała się cała branża sztucznej inteligencji.
Teoretycznie sygnał powinien wytrzymać kompresję, a nawet ponowne przesyłanie do mediów społecznościowych. Jednak w zetknięciu z rzeczywistością te zapewnienia się nie sprawdzają. Znaki wodne są wykrywalne przez usługi sztucznej inteligencji Google, takie jak Gemini. Nie są one widoczne dla użytkowników, którzy mogą robić zrzuty ekranu i udostępniać je w dowolnym miejscu. Jest mało prawdopodobne, aby każdy wiedział, że należy sprawdzać pochodzenie obrazu. Naukowcy donieśli również, że Gemini nie był w stanie wiarygodnie identyfikować obrazów generowanych przez sztuczną inteligencję za pomocą znaku wodnego SynthID.
Co to dla Ciebie oznacza
Twórcy treści już wcześniej tworzyli fałszywe obrazy AI, pokazujące wydarzenia, które nie miały miejsca. Tradycyjnie zdjęcia satelitarne były kluczowym elementem dziennikarstwa open source. Przekonująco je sfałszuj, a zaatakujesz warstwę odniesienia, której używają reporterzy, aby sprawdzić, czy coś rzeczywiście się wydarzyło.
Dzieje się to również w czasie, gdy zaufanie do sztucznej inteligencji wyraźnie spada. Według naszych badań , opublikowanych w czerwcu, 88% respondentów stwierdziło, że coraz trudniej jest stwierdzić, które treści w internecie są rzeczywiście ludzkie, a które prawdziwe, a 84% stwierdziło, że nawet „przekonujące dowody wideo” nie wydają się już dowodem.
Praktyczna rada: weź głęboki oddech, gdy na Twojej osi czasu pojawi się niepokojące zdjęcie satelitarne katastrofy, ataku bronią lub przekroczenia granicy. Sprawdź, czy opublikował je serwis informacyjny, którego nazwisko widnieje na zdjęciu. Poszukaj podpisu identyfikującego dostawcę zdjęcia. Jeśli źródłem jest anonimowe konto publikujące pojedynczą, dramatyczną klatkę, załóż, że oglądasz coś, co zostało zmontowane w przeglądarce wczoraj wieczorem.
Więcej informacji na temat identyfikacji obrazów AI znajdziesz w naszym przewodniku .
Model dostaw w branży najwyraźniej traktuje teraz użytkowników jako grupę testową. Krytyczna znajomość mediów jest obecnie jedynym niezawodnym narzędziem, jakim dysponują czytelnicy i widzowie.
Od zgłaszania zagrożeń po ich usuwanie.
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
