L'incapacità di Grok di bloccare le immagini sessualizzate di minori ha trasformato un singolo "errore isolato" in una prova di stress normativa globale per le ambizioni di xAI. La risposta dei legislatori e delle autorità di regolamentazione suggerisce che la questione non potrà essere risolta con delle scuse affrettate e una soluzione provvisoria.
La settimana scorsa abbiamo riportato le scuse di Grok dopo che aveva generato un'immagine di ragazze giovani in "abiti sessualizzati".
Le scuse sono giunte dopo l'introduzione, nell'agosto del 2025, della "Modalità Piccante" a pagamento di Grok, pubblicizzata come trasgressiva e meno censurata. In pratica, consentiva agli utenti di generare immagini deepfake sessuale, inclusi contenuti che potrebbero configurarsi come materiale pedopornografico (CSAM) ai sensi delle leggi statunitensi e di altre giurisdizioni.
Un rapporto dello strumento di monitoraggio web CopyLeaks ha evidenziato "migliaia" di casi in cui Grok è stato utilizzato per creare immagini sessualmente allusive di celebrità non consenzienti.
Questo sta iniziando a ritorcersi contro. Secondo quanto riferito , tre senatori statunitensi stanno chiedendo a Google e Apple di rimuovere Grok di Elon Musk e X le aziende hanno rimosso le app dai loro app store, citando la diffusione di immagini sessualizzate non consensuali di donne e minori generate dall'IA e sostenendo che ciò viola le regole degli app store delle aziende.
Nella loro lettera congiunta, i senatori affermano:
“Negli ultimi giorni, X Gli utenti hanno utilizzato lo strumento di intelligenza artificiale Grok dell'app per generare su larga scala immagini sessuali non consensuali di cittadini reali. Questa tendenza ha incluso la modifica di immagini da parte di Grok per raffigurare donne vittime di abusi sessuali, umiliazioni, violenze e persino omicidi. In alcuni casi, Grok avrebbe creato immagini sessualizzate di bambini, il tipo di contenuto più atroce che si possa immaginare.
Il governo del Regno Unito minaccia inoltre di intraprendere possibili azioni contro la piattaforma. I funzionari governativi hanno affermato che sosterrebbero pienamente qualsiasi azione intrapresa da Ofcom, l'autorità di regolamentazione dei media indipendente, contro X Anche se ciò significasse che le autorità di regolamentazione del Regno Unito potrebbero bloccare la piattaforma.
L'Indonesia e la Malesia hanno già bloccato Grok dopo che la sua funzione di "spogliamento digitale" ha inondato Internet di immagini manipolate, allusive e oscene di donne e minori.
A quanto pare, un utente ha spinto Grok a generare le proprie "scuse", cosa che ha fatto. Dopo le polemiche sulle immagini sessualizzate di donne e minori, Grok/ X hanno annunciato limiti alla generazione e alla modifica delle immagini, rendendole accessibili solo agli abbonati a pagamento, di fatto rendendo tali funzionalità a pagamento sul sito principale. X superfici.
Per i legislatori già preoccupati per la disinformazione, l'interferenza elettorale, deepfakes e immagini di abuso, Grok sta rapidamente diventando il caso da manuale del perché " muoviti velocemente e rompi le cose " non si concilia con un'intelligenza artificiale in grado di sessualizzare persone reali a comando.
Si spera che la prossima serie di norme, che spazieranno dall'applicazione dell'IA nell'UE agli obblighi di sicurezza specifici per le piattaforme, considerino questo incidente come il rischio di base che tutti i modelli visivi su larga scala devono sopportare, e non come un caso isolato.
Proteggi i tuoi bambini
Se vi siete mai chiesti perché i genitori pubblicano immagini dei propri figli con un sorriso stampato sul volto, ecco il motivo.
Non rendere facile per gli estranei copiare, riutilizzare o manipolare le tue foto.
Questo incidente è un altro motivo convincente per ridurre la tua impronta digitale. Pensaci bene prima di pubblicare foto di te stesso, dei tuoi figli o altre informazioni sensibili su account social pubblici.
Considerate tutto ciò che vedete online (immagini, voci, testi) come potenzialmente generato dall'intelligenza artificiale, a meno che non sia possibile verificarlo in modo indipendente. Questi strumenti non vengono utilizzati solo per influenzare le opinioni, ma anche per sollecitare denaro, estrarre informazioni personali o creare materiale offensivo.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft Protection individua le attività sospette prima che diventino un problema.
