Google ha fatto marcia indietro su una funzionalità di intelligenza artificiale che consentiva agli utenti di generare immagini artificiali all'interno di Google Earth, dopo una prevedibile ondata di deepfakes .
Il 30 luglio Google ha attivato la funzionalità di generazione di immagini tramite intelligenza artificiale nella versione web di Google Earth. La funzionalità era disponibile per tutti.
Il sistema ha utilizzato il generatore di immagini Nano Banana 2 di Google per creare le sue immagini. Questo strumento è già in grado di generare immagini da un semplice input di testo, ma il vantaggio di farlo in Google Earth è che può utilizzare le immagini satellitari reali come base per il suo deepfake versioni. Ciò semplifica la creazione di immagini generate dall'IA con dettagli realistici e accurati di edifici e paesaggi.
Nel suo post iniziale sul blog in occasione del lancio, l'azienda affermava che gli studenti avrebbero potuto usarlo per "dare vita alla storia", mentre gli agenti immobiliari avrebbero potuto utilizzarlo per produrre planimetrie immobiliari professionali. Tuttavia, altri hanno avvertito che il sistema avrebbe potuto essere utilizzato per ingannare le persone.
Nel giro di poche ore, ricercatori e organi di stampa hanno dimostrato che lo strumento era in grado di produrre immagini satellitari fotorealistiche di eventi inesistenti in luoghi in cui non si verificavano.
Henk van Ess, ricercatore olandese di intelligence open source, ha spiegato : "Ho provato con i rifugiati al confine messicano, una centrale nucleare in Iran, un incidente aereo ad Amsterdam, un ospedale con un cratere di bomba a Gaza. Niente è stato rifiutato".
Per dimostrare cosa fosse possibile con la nuova capacità, NPR ha creato un'immagine di incendi in Iran, insieme a un deepfake Washington, DC sott'acqua. La BBC ha trasmesso immagini della Torre Eiffel crollata e della Grande Piramide di Giza inghiottita da una voragine. Nonostante il servizio avesse predisposto alcune misure di sicurezza, il sistema anti-disinformazione Verify della BBC è riuscito a eluderle manipolando i comandi di base dell'intelligenza artificiale.
Google ha riconosciuto il fallimento in una dichiarazione su X :
"Abbiamo visto professionisti del settore geospaziale utilizzare questa funzionalità per una serie di scopi utili, tuttavia abbiamo anche notato che alcune persone condividono screenshot di immagini generate che sembrano violare le nostre norme. Pertanto, stiamo disattivando questa funzionalità in Google Earth mentre lavoriamo all'implementazione di misure di sicurezza più rigorose."
Non si è impegnato a non reintrodurre mai più l'idea.
A quanto pare gli utenti non sono rimasti impressionati. "Non c'è alcuna possibilità che nessuno del vostro team di sviluppo non abbia sollevato esattamente questa preoccupazione", ha commentato uno. "Vivete in una bolla", ha accusato un altro.
La soluzione di ripiego di Google consisteva in una filigrana SynthID e nel fatto che le immagini generate non apparissero nell'esperienza principale di Google Earth, impedendo così ad altri di visualizzarle. SynthID è il sistema di filigrana di Google DeepMind, un segnale invisibile incorporato nei pixel delle immagini generate dall'IA, in modo che un rilevatore compatibile possa individuarle in seguito. Google lo considera parte integrante del suo sistema di tracciabilità, affiancandosi allo standard di metadati C2PA, ampiamente adottato dal settore dell'IA.
Sulla carta, il segnale dovrebbe resistere alla compressione e persino ai ricaricamenti sui social media. Tuttavia, queste affermazioni si sono rivelate infondate nella realtà. Le filigrane sono rilevabili dai servizi di intelligenza artificiale di Google, come Gemini. Non sono visibili agli utenti, che possono quindi fare screenshot delle immagini e condividerle ovunque. È improbabile che tutti sappiano come verificare la provenienza di un'immagine. I ricercatori hanno anche segnalato che Gemini non è in grado di identificare in modo affidabile le immagini generate dall'IA con una filigrana SynthID.
Cosa significa questo per te
I creatori di contenuti producevano già immagini false generate dall'intelligenza artificiale che mostravano eventi mai accaduti. Tradizionalmente, le immagini satellitari sono state una componente fondamentale del giornalismo open source. Falsificarle in modo convincente significa attaccare il livello di riferimento che i giornalisti utilizzano per verificare se un evento è realmente accaduto.
Questo avviene inoltre in un momento in cui la fiducia nell'intelligenza artificiale si sta erodendo in modo tangibile. Secondo una nostra ricerca , pubblicata a giugno, l'88% delle persone ha affermato che sta diventando sempre più difficile distinguere quali contenuti online siano autenticamente umani o reali, e l'84% ha dichiarato che persino "prove video convincenti" non vengono più percepite come tali.
Il consiglio pratico è di fare un respiro profondo ogni volta che un'immagine satellitare inquietante di un disastro, un attacco armato o un valico di frontiera compare nella vostra bacheca. Verificate se è stata pubblicata da un'agenzia di stampa con un giornalista identificato. Cercate una didascalia che identifichi il fornitore dell'immagine. Se la fonte è un account anonimo che pubblica un singolo fotogramma drammatico, presumete che potreste trovarvi di fronte a qualcosa assemblato in una scheda del browser la sera prima.
Per ulteriori informazioni su come identificare le immagini generate dall'IA, consulta la nostra guida .
Il modello di distribuzione del settore sembra ormai considerare gli utenti come gruppo di prova. L'alfabetizzazione mediatica critica è diventata l'unico strumento affidabile a disposizione di lettori e spettatori.
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
