La foto di un cane ferito sul ciglio della strada. Un profilo su un sito di incontri con foto che sembrano quasi troppo perfette. Un appello per una donazione che mostra una famiglia bloccata sul tetto di una casa dopo un'alluvione.
I truffatori stanno già utilizzando immagini generate dall'intelligenza artificiale per avvalorare storie false, conquistare la fiducia delle persone e convincerle a inviare denaro o a condividere informazioni personali.
Anziché chiedersi se un'immagine sembri reale, è meglio chiedersi se ci siano prove della sua autenticità.
Quello che devi davvero sapere
Ormai non è più possibile riconoscere con certezza le immagini generate dall'IA a occhio nudo. Consigli come “conta le dita” o “cerca il testo distorto” stanno diventando obsoleti, perché i generatori di immagini basati sull'IA di oggi di solito riproducono correttamente quei dettagli.
Invece di cercare con maggiore attenzione, verifica l'immagine e mantieni un atteggiamento scettico nei confronti della storia che la circonda.
- Diffida della situazione, non solo dell’immagine.Queste truffe fanno leva sull’urgenza e sulle emozioni per spingerti ad agire prima che tu abbia il tempo di riflettere.
- Verifica se l'immagine è già stata pubblicata in precedenza.Una ricerca per immagini richiede solo pochi secondi e spesso permette di scoprire da dove proviene realmente.
- Quando è necessario, usa uno strumento di verifica ufficiale.L’app Gemini di Google permette di verificare la presenza di filigrane AI e i dati sulla provenienza. Non è infallibile, ma fornisce prove utili.
Se un'immagine viene utilizzata per chiedere denaro o informazioni personali, non considerarla una prova finché non ne avrai verificato l'autenticità.
Truffe comuni legate all'intelligenza artificiale nel campo delle immagini
In ogni caso, l'immagine serve a rendere più credibile la richiesta di denaro.
Animali smarriti falsi
I truffatori pubblicano nei gruppi locali foto generate dall'intelligenza artificiale che ritraggono animali in difficoltà, per poi chiedere "spese di adozione" o altri pagamenti. Poiché l'immagine è stata generata anziché rubata, una ricerca inversa potrebbe non rivelare la fonte originale.
“Ho trovato il tuo animale domestico”
I truffatori prendono di mira le persone alla ricerca di un animale domestico smarrito, inviano loro una foto generata dall'intelligenza artificiale e poi chiedono una ricompensa o un acconto prima di sparire.
Profili di incontri
Foto impeccabili e uniformi da ogni angolazione, proprio perché non ritraggono mai una persona reale. Una videochiamata può essere d’aiuto, ma non costituisce una prova. deepfakes moderni deepfakes in tempo reale deepfakes superare test semplici come mostrare le dita davanti alla telecamera. Chiedi invece di fare qualcosa di spontaneo, come girare la testa o prendere in mano un oggetto a caso, e diffida di chiunque si rifiuti categoricamente di effettuare una videochiamata.
Artisti fasulli
Un portfolio generato dall’intelligenza artificiale presentato come opera originale su X, Instagram o Fiverr per ottenere commissioni a pagamento. A volte il truffatore scompare dopo aver incassato un acconto. Altre volte consegna un’opera “finita” che si rivela essere generata dall’intelligenza artificiale anziché l’opera d’arte originale per cui l’acquirente ha pagato. Un artista autentico di solito è in grado di mostrare schizzi, file con i vari livelli o immagini del lavoro in corso. Chi utilizza un portfolio generato dall’intelligenza artificiale non può farlo.
Richieste di donazioni fasulle
Oltre alle immagini di disastri reali, vengono ampiamente diffuse immagini inventate di bambini malati, animali feriti o famiglie in difficoltà per incoraggiare le donazioni o semplicemente attirare l’attenzione. Alcune ritraggono persone che non esistono affatto. Più l’immagine è commovente, meno le persone sono propense a fermarsi a verificarne l’autenticità.
Perché gli indizi visivi non bastano più
Un tempo, individuare un falso significava individuare segni di ritocco, come uno sfondo che si ripeteva, un’ombra fuori posto o artefatti attorno a un oggetto incollato. Questo metodo funzionava perché le immagini manipolate partivano solitamente da una foto reale, lasciando dietro di sé degli indizi.
Le immagini generate dall'intelligenza artificiale sono diverse. Vengono create da zero, senza alcuna immagine originale su cui basarsi, quindi spesso non presentano quel tipo di errori di editing.
Vale comunque la pena dare un'occhiata agli indizi visivi. Cerca gioielli che non tornano, un'illuminazione insolita, riflessi distorti o movimenti strani nel video. Ma non dare per scontato che un'immagine sia autentica solo perché non riesci a individuare nulla di strano.
Come verificare se un'immagine è stata generata dall'intelligenza artificiale
Ricerca per immagine
Google Lens, TinEye e Bing Visual Search spesso consentono di scoprire dove un'immagine è apparsa per la prima volta online.
L'assenza di corrispondenze non significa necessariamente che un'immagine sia falsa. Le foto personali e le immagini pubblicate di recente spesso non compaiono da nessun'altra parte. Tuttavia, se qualcuno sostiene che un'immagine circoli già da giorni o provenga da un evento ampiamente riportato dai media, la totale assenza di tracce nel passato è un elemento che merita di essere approfondito.
Strumenti di provenienza
Alcune immagini contengono informazioni sulla loro provenienza o indicano se sono state create con l'ausilio dell'intelligenza artificiale.
I due tipi più comuni di informazioni sulla provenienza sono:
- Content Credentials (C2PA): registra le informazioni relative alle modalità di creazione o modifica di un'immagine. È supportato da aziende quali Adobe, Google, Microsoft e Sony.
- SynthID: la filigrana invisibile di Google incorporata nelle immagini generate dall'intelligenza artificiale supportate. Ora copre anche le immagini create con ChatGPT e DALL·E grazie a una partnership annunciata nel 2026.
Strumenti di verifica come l'app Gemini o OpenAI Verify analizzano queste informazioni per aiutare a stabilire se un'immagine sia stata creata con l'intelligenza artificiale.
Abbiamo creato un'immagine generata dall'intelligenza artificiale e l'abbiamo verificata utilizzando OpenAI Verify.
OpenAI Verify l'ha correttamente identificato come generato dall'intelligenza artificiale.
Tieni presente che, se non viene rilevata alcuna filigrana, ciò non significa che l'immagine sia autentica. Significa semplicemente che non è stata rilevata alcuna filigrana.
I limiti di tali controlli
- Le app di messaggistica eliminano le tracce. WhatsApp, iMessage e Facebook le immagini al momento del caricamento, rimuovendo spesso le credenziali incorporate. Questo è uno dei motivi per cui la filigrana SynthID basata sui pixel è utile: è in grado di resistere alle modifiche che eliminano i metadati.
- “Non trovato” è il risultato più spesso frainteso. La maggior parte delle foto autentiche non contiene alcuna informazione sulla provenienza. Un risultato che indica che non sono stati rilevati né filigrane né credenziali non significa che l’immagine sia autentica. Significa semplicemente che non è stato rilevato alcun segnale.
- Una credenziale valida attesta la catena di trasmissione, non la veridicità. Conferma quale dispositivo o app abbia generato il file e quando, ma non che ciò che mostra sia effettivamente accaduto. Ad esempio, qualcuno potrebbe fotografare uno schermo su cui è in riproduzione un deepfake . La credenziale sarebbe del tutto valida perché la fotocamera ha effettivamente scattato quella foto. Semplicemente, non può dirti che il contenuto sullo schermo fosse falso.
- Alcuni siti che si definiscono “rilevatori SynthID” sono fuorvianti. La lettura effettiva della filigrana SynthID richiede una tecnologia a cui hanno accesso solo Google e i suoi partner autorizzati. Ciò significa che solo gli strumenti ufficiali, come le app di Google e OpenAI Verify, possono verificarla direttamente. I siti web di terze parti che utilizzano il nome “SynthID” di solito si limitano a valutare se un’immagine sia stata generata dall’intelligenza artificiale, senza leggere la filigrana vera e propria.
Se pensi di essere caduto vittima di una truffa basata su immagini generate dall'intelligenza artificiale
- Salva gli screenshot del profilo, delle immagini e dei messaggi prima che scompaiano.
- Esegui una ricerca per immagini e, se possibile, verifica l'immagine utilizzando uno strumento ufficiale di verifica basato sull'intelligenza artificiale.
- Se hai condiviso informazioni finanziarie, contatta immediatamente la tua banca e modifica tutte le password che hai riutilizzato altrove.
- Smettete di inviare denaro. Non effettuate “un altro” pagamento nella speranza di recuperare ciò che avete già perso.
- Segnala l'account alla piattaforma e al servizio nazionale di segnalazione delle frodi del tuo Paese, come la FTC negli Stati Uniti o Report Fraud nel Regno Unito.
- Se opportuno, avvisate gli altri membri della stessa comunità. Molte di queste truffe si diffondono attraverso gruppi affidabili e consigli personali.
In conclusione
Un tempo un’immagine costituiva una prova plausibile del fatto che qualcosa fosse accaduto. Oggi non è più così. Un’immagine convincente e originale può ora essere creata in pochi secondi, senza alcuna traccia del suo passato.
La buona notizia è che gli strumenti di verifica stanno diventando sempre più facili da usare. Non sono perfetti, ma l’abitudine a mantenere un atteggiamento scettico, a effettuare ricerche inverse delle immagini e a utilizzare strumenti di verifica ufficiali è di gran lunga più affidabile che cercare di individuare errori visivi.
Verifica la fonte, resisti alla tentazione di agire d’impulso e non lasciare che un’immagine pensi al posto tuo.
Quale strumento dovrei usare? Una guida rapida
| Strumento | Assegni |
|---|---|
| Gemini ( carica l'immagine nell'app Gemini, su Ricerca Google o Chrome chiedi se è stata creata con l'IA) | Filigrana SynthID e credenziali dei contenuti |
| Rilevatore SynthID di Google | Filigrana SynthID su immagini, video e audio |
| OpenAI Verify | SynthID e le credenziali dei contenuti in ChatGPT, DALL·E e nei contenuti generati tramite API |
| Ricerca per immagini con Google Lens/TinEye/Bing Visual Search | Confronta l'immagine con le copie presenti sul web per individuare gli altri siti in cui compare |
Come interpretare i risultati
- Rilevata filigrana: il file è stato generato utilizzando un sistema di intelligenza artificiale supportato.
- Nessuna filigrana rilevata: non è stato rilevato alcun segnale. Questo è il risultato normale per la maggior parte delle foto autentiche, ma non esclude né conferma l'uso dell'IA.
- Credenziali di contenuto rilevate: il file contiene informazioni sulla provenienza relative alla sua creazione o modifica. Ciò contribuisce a stabilirne l'origine, ma non dimostra che la scena stessa sia autentica.
