Video di Halloween con intelligenza artificiale: chi si becca le tue foto?

Questo Halloween, l'intelligenza artificiale si occupa dei costumi. Carica una foto e potrai trasformarti in un vampiro, circondare il tuo cane di zucche o diventare il protagonista di una "storia d'amore zombie" virale: il tuo partner si è trasformato, tu abbassi la pistola e il salto dello zombie si conclude con un abbraccio.

Ma prima di caricare le foto, sai chi le riceverà?

A settembre abbiamo parlato di oltre 100 siti in abbonamento creati con lo stesso kit per siti web a basso costo . Con l'avvicinarsi di Halloween, abbiamo scoperto che lo stesso approccio viene utilizzato per vendere video di Halloween realizzati con l'intelligenza artificiale.

Non abbiamo riscontrato malware o tentativi di phishing sui siti esaminati. Ciò che ci ha preoccupato è stata la difficoltà nel reperire informazioni su chi gestisse tali siti e su chi fosse responsabile delle foto caricate dagli utenti.

Raffinato, cordiale e anonimo

Questi siti appaiono professionali e rassicuranti. Promettono privacy, offrono FAQ e politiche di rimborso, e alcuni aggiungono persino caselle di spunta per il consenso alle foto di bambini. Uno di questi si definisce "uno strumento indipendente, senza alcun legame con TikTok o con una casa di produzione cinematografica".

Quello che non ti dicono è chi c'è dietro. Sui siti che abbiamo controllato, non abbiamo trovato il nome dell'azienda, l'indirizzo o il nome del gestore, solo un indirizzo email di supporto sul dominio del sito stesso.

Dove vengono salvate le tue foto?

Questi siti richiedono foto nitide e ben illuminate di te, del tuo partner, dei tuoi amici, dei tuoi animali domestici e, con il permesso di un genitore, dei tuoi figli.

I siti che abbiamo esaminato affermano di affidarsi a fornitori esterni di intelligenza artificiale per generare i video. Ciò significa che ci si affida sia al sito web che raccoglie le foto, sia ai fornitori che le elaborano.

Ovunque carichiate foto, verificate chi può accedervi e come possono essere utilizzate. I truffatori possono usare l'immagine di qualcuno per creare immagini intime false e chiedere denaro per mantenerle private. Nel nostro report Face Value , il 10% degli intervistati ha affermato di essere stato minacciato di diffondere contenuti espliciti generati dall'intelligenza artificiale che li ritraevano. Non abbiamo trovato prove che ciò sia accaduto su questi siti a tema Halloween, ma è un motivo per fare attenzione a dove condividete le vostre foto.

I siti promettono di eliminare i contenuti caricati entro pochi giorni e non abbiamo prove che non lo facciano. Tuttavia, non siamo stati in grado di verificare in modo indipendente tali promesse. Senza un gestore identificabile, è più difficile stabilire chi sia responsabile della gestione delle foto e della risposta alle richieste di cancellazione.

L'accesso tramite Google non identifica chiunque utilizzi le tue foto.

Questi siti utilizzano la vera finestra di accesso di Google, quindi la password viene inserita direttamente in Google e non sul sito del video. Tuttavia, utilizzare Google per accedere non significa che Google approvi il servizio o che ne garantisca la privacy.

Cliccando sul nome dell'app nella finestra di accesso di Google, visualizzerai le informazioni sullo sviluppatore . Su un sito che abbiamo controllato, l'unico contatto elencato era un indirizzo Gmail. Abbiamo riscontrato la stessa situazione sui siti di settembre. Un indirizzo Gmail da solo non è sufficiente a dimostrare un illecito, ma non permette di identificare con certezza il responsabile.

In un altro caso, Google affermava che stavi effettuando l'accesso "per continuare su neon.tech". Neon è una legittima azienda di database e fornitore di servizi di autenticazione . La presenza del suo nome in questo contesto non significa che gestisca o approvi il sito di video di Halloween.

I provider di accesso possono gestire l'accesso tramite Google per conto di un sito. A seconda della configurazione, Google potrebbe visualizzare il dominio del provider anziché il nome del sito di video. In questo caso, la schermata di accesso non forniva ai visitatori alcuna indicazione chiara su chi gestisse il servizio di Halloween.

Realizzato a partire da un kit, riciclato per la prossima tendenza

Siti come questi non richiedono necessariamente un team o mesi di lavoro. Alcuni utilizzano lo stesso kit per siti web da 249 dollari di cui abbiamo parlato a settembre, che promette di "lanciare il tuo prodotto basato sull'intelligenza artificiale in un'ora". Su un sito a tema Halloween, i creatori non avevano nemmeno rimosso i contenuti di esempio del kit. Nascosta nella pagina c'era una nota che indicava che si trattava di "un sito demo" per il template, insieme a link segnaposto come "il-tuo-nome-app".

Il codice di un altro sito conteneva frammenti di un programma di intelligenza artificiale per la creazione di video rap e di ballo, tra cui un palco che riproduceva la hall di un hotel, uno studio di registrazione e testi rap scritti dall'IA. Questi frammenti suggeriscono che il sito utilizzi codice destinato anche ad altri servizi video basati sull'IA.

L'utilizzo di un kit per siti web non è di per sé sospetto. Tuttavia, una pagina ben curata può essere creata rapidamente, quindi il suo aspetto dice ben poco sull'azienda che gestisce le tue foto.

Prenditi il ​​tuo tempo anche prima di pagare

Su un sito, una singola clip di zombie di 15 secondi costava 9,99 dollari. La pagina dei prezzi invogliava i visitatori ad acquistare pacchetti più grandi, riducendo il prezzo pubblicizzato per video a 2,99 dollari. Ma quel prezzo più basso significava spendere 199 dollari per crediti sufficienti a guardare circa 66 film di zombie. Erano disponibili anche abbonamenti mensili e annuali, con costi fino a 600 dollari all'anno.

Un sito, inoltre, utilizzava offerte con conto alla rovescia, promemoria nella scheda del browser e affermazioni sul numero di persone che avevano realizzato film quel giorno per incoraggiare i visitatori ad acquistare.

Non c'è bisogno di avere fretta. Controlla attentamente i termini di pagamento e l'informativa sulla privacy. Gli stessi siti avvertono che l'intelligenza artificiale può modificare i volti, quindi il tuo video potrebbe non assomigliarti molto. Secondo le politiche che abbiamo esaminato, i crediti vengono restituiti se la generazione del video non va a buon fine. Ma se il risultato non ti soddisfa, riprovare costa altri crediti.

Gli abbonamenti si rinnovano automaticamente fino alla disdetta, mentre i piani annuali prevedono un addebito unico e alcuni crediti scadono prima di poter essere utilizzati.

Cosa controllare prima di caricare le foto

Qualunque strumento o piattaforma tu scelga, assicurati di essere a tuo agio con il modo in cui gestirà i tuoi dati, le tue foto e le tue informazioni di pagamento.

• Scopri chi gestisce il servizio. Cerca un operatore con un nome specifico e recapiti chiari. Se non riesci a capire chi sarà responsabile delle tue foto, valuta un altro servizio.
• Verifica dove vengono salvate le tue foto. Leggi l'informativa sulla privacy per informazioni sui fornitori di IA esterni, sui periodi di conservazione dei dati e sulla possibilità che i file caricati vengano utilizzati per l'addestramento dell'IA.
• Cerca una procedura di cancellazione. Verifica come richiedere la cancellazione e se la policy spiega cosa succede alle copie conservate da fornitori esterni.
• Presta particolare attenzione alle foto dei bambini. La casella di spunta per il consenso dei genitori non spiega come un servizio intende proteggerle. Carica le foto di altre persone solo con il loro permesso.
• Leggi la finestra di accesso di Google. Controlla i dettagli dello sviluppatore e le autorizzazioni richieste. L'accesso tramite Google non sostituisce la verifica del servizio stesso.
• Ignora i conti alla rovescia e controlla i termini di pagamento. Prenditi il ​​tempo necessario per capire il costo totale, la scadenza del credito e se l'acquisto comporta l'attivazione di un abbonamento.
• In seguito, rivedi i tuoi collegamenti a Google. Rimuovi i servizi che non utilizzi più dai collegamenti di terze parti del tuo account Google . Questa operazione non annulla gli abbonamenti né elimina foto o altri dati già memorizzati dal servizio.

Come Malwarebytes può aiutare

Se hai dubbi su un sito web, Malwarebytes Scam Guard può aiutarti a valutarlo. Malwarebytes Browser Guard aiuta a bloccare i siti noti per essere fraudolenti e dannosi.

Tuttavia, questi strumenti non possono verificare le promesse di cancellazione delle foto fatte da un servizio. È comunque consigliabile controllare chi gestisce il servizio e cosa prevedono le sue condizioni sulla privacy prima di caricare le foto.

C'è qualcosa che non va? Controlla prima di cliccare.  

Malwarebytes Scam Guard ti aiuta ad analizzare istantaneamente link, testi e screenshot sospetti.  

Disponibile con Malwarebytes Premium Security per tutti i tuoi dispositivi e nell'app Malwarebytes per iOS e Android .  

Provalo gratis →