Google heeft een AI-functie teruggedraaid waarmee gebruikers kunstmatige beelden konden genereren in Google Earth, na de voorspelbare golf van protesten. deepfakes .
Google heeft de functie voor het genereren van AI-beelden in de webversie van Google Earth op 30 juli geactiveerd. Deze functie was voor iedereen beschikbaar.
Het systeem gebruikte Google's Nano Banana 2-beeldgenerator om de afbeeldingen te maken. Deze tool kan al afbeeldingen genereren op basis van eenvoudige tekstinvoer, maar het voordeel van Google Earth is dat het de echte satellietbeelden als basis kan gebruiken. deepfake versies. Dat maakt het makkelijker om AI-afbeeldingen te maken met realistische, nauwkeurige details van gebouwen en landschappen.
In de eerste blogpost over de lancering stelde het bedrijf dat studenten het konden gebruiken om "de geschiedenis tot leven te brengen", terwijl makelaars het konden gebruiken om professionele vastgoedplannen op te stellen. Anderen waarschuwden echter dat het systeem misbruikt kon worden om mensen te misleiden.
Binnen enkele uren toonden onderzoekers en persbureaus aan dat de tool probleemloos fotorealistische satellietbeelden kon produceren van dingen die niet gebeurd waren, op plaatsen waar ze niet gebeurd waren.
De Nederlandse onderzoeker Henk van Ess, gespecialiseerd in open source intelligence, legt uit : "Ik heb vluchtelingen aan de Mexicaanse grens, een kerncentrale in Iran, een vliegtuigongeluk in Amsterdam en een ziekenhuis met een bomkrater in Gaza ondervraagd. Niets werd geweigerd."
Om te demonstreren wat mogelijk was met de nieuwe technologie, fabriceerde NPR een afbeelding van branden in Iran, samen met een deepfake Washington, DC onder water. De BBC toonde beelden van een ingestorte Eiffeltoren en de Grote Piramide van Gizeh die door een zinkgat was verzwolgen. Hoewel de dienst bepaalde beveiligingsmaatregelen had getroffen, wist de anti-desinformatiedienst Verify van de BBC deze te omzeilen door te spelen met eenvoudige AI-prompts.
Google erkende de fout in een verklaring op X :
"We hebben gezien dat geospatiale professionals deze functie voor allerlei nuttige doeleinden gebruiken, maar we hebben ook gezien dat mensen screenshots delen van gegenereerde beelden die in strijd lijken te zijn met ons beleid. Daarom trekken we deze functie in Google Earth terug terwijl we werken aan het implementeren van strengere beveiligingsmaatregelen."
Het heeft niet toegezegd het idee nooit meer opnieuw te introduceren.
Gebruikers waren kennelijk niet onder de indruk. "Er is geen enkele kans dat iemand in jullie ontwikkelteam deze zorg niet al eens heeft geuit", merkte een gebruiker op. "Jullie leven in een complete bubbel", beschuldigde een ander.
Googles extra beveiliging bestond uit een SynthID-watermerk en het feit dat de gegenereerde afbeeldingen niet zichtbaar waren in de reguliere Google Earth-weergave. SynthID is het watermerkingssysteem van Google DeepMind, een onzichtbaar signaal dat is ingebakken in de pixels van door AI gegenereerde afbeeldingen, zodat een compatibele detector ze later kan herkennen. Google positioneert het als een van de twee onderdelen van zijn herkomstbeheersysteem, naast de C2PA-metadatastandaard die de bredere AI-industrie inmiddels hanteert.
Op papier zou het signaal bestand moeten zijn tegen compressie en zelfs het opnieuw uploaden op sociale media. Deze beweringen bleken echter niet te kloppen in de praktijk. De watermerken zijn detecteerbaar door Google's AI-diensten zoals Gemini. Ze zijn niet zichtbaar voor gebruikers, die screenshots van de afbeeldingen kunnen maken en deze overal kunnen delen. Het is onwaarschijnlijk dat iedereen weet dat ze de herkomst van een afbeelding moeten controleren. Onderzoekers hebben ook gemeld dat Gemini AI-gegenereerde afbeeldingen met een SynthID-watermerk niet betrouwbaar kon identificeren.
Wat dit voor jou betekent
Contentmakers produceerden al nep-AI-beelden die gebeurtenissen lieten zien die niet hadden plaatsgevonden. Satellietbeelden zijn van oudsher een belangrijk onderdeel van open source-journalistiek. Als je ze overtuigend vervalst, val je de referentielaag aan die journalisten gebruiken om te controleren of iets daadwerkelijk is gebeurd.
Dit gebeurt ook in een tijd waarin het vertrouwen in AI meetbaar afneemt. Volgens ons eigen onderzoek , dat in juni werd gepubliceerd, zei 88% van de mensen dat het steeds moeilijker wordt om te bepalen welke online content echt door mensen is gemaakt of authentiek is, en 84% gaf aan dat zelfs "overtuigend videobewijs" niet langer als bewijs aanvoelt.
Het praktische advies is om even diep adem te halen wanneer er een verontrustende satellietfoto van een ramp, een wapenaanval of een grensovergang op je tijdlijn verschijnt. Controleer of een persbureau met een genoemde journalist de foto heeft gepubliceerd. Zoek naar een onderschrift dat de leverancier van de beelden identificeert. Als de bron een anoniem account is dat slechts één dramatische foto plaatst, ga er dan vanuit dat je naar iets kijkt dat gisteravond in een browsertabblad is samengesteld.
Voor meer informatie over het herkennen van AI-afbeeldingen, raadpleeg onze handleiding .
Het huidige verzendmodel van de industrie lijkt gebruikers als testgroep te beschouwen. Kritische mediageletterdheid is nu het enige betrouwbare instrument waarover lezers en kijkers beschikken.
Van het melden van bedreigingen tot het verwijderen ervan.
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
