L'incapacità di Grok di bloccare le immagini sessualizzate di minori ha trasformato un singolo "errore isolato" in una prova di stress normativa globale per le ambizioni di xAI. La risposta dei legislatori e delle autorità di regolamentazione suggerisce che la questione non potrà essere risolta con delle scuse affrettate e una soluzione provvisoria.
La settimana scorsa abbiamo riportato le scuse di Grok dopo che aveva generato un'immagine di ragazze giovani in "abiti sessualizzati".
Le scuse sono seguite all'introduzione della "Spicy Mode" a pagamento di Grok nell'agosto 2025, commercializzata come innovativa e meno censurata. In pratica, consentiva agli utenti di generare deepfake a sfondo sessuale, inclusi contenuti che potrebbero rientrare nella categoria di materiale pedopornografico (CSAM) illegale secondo le leggi degli Stati Uniti e di altre giurisdizioni.
Un rapporto dello strumento di monitoraggio web CopyLeaks ha evidenziato "migliaia" di casi in cui Grok è stato utilizzato per creare immagini sessualmente allusive di celebrità non consenzienti.
La situazione sta iniziando a ritorcersi contro. Secondo quanto riferito, tre senatori statunitensi stanno chiedendo a Google e Apple di rimuovere X Grok e X di Elon Musk dai loro app store, citando la diffusione di immagini sessualizzate non consensuali di donne e minori generate dall'intelligenza artificiale e sostenendo che ciò viola le regole degli app store delle aziende.
Nella loro lettera congiunta, i senatori affermano:
"Negli ultimi giorni, X hanno utilizzato lo strumento Grok AI dell'app per generare su larga scala immagini sessuali non consensuali di cittadini reali e privati. Questa tendenza ha portato Grok a modificare le immagini per raffigurare donne vittime di abusi sessuali, umiliazioni, violenze e persino omicidi. In alcuni casi, Grok avrebbe creato immagini sessualizzate di bambini, il tipo di contenuto più atroce che si possa immaginare".
Anche il governo britannico minaccia di intraprendere eventuali azioni contro la piattaforma. I funzionari governativi hanno dichiarato che sosterranno pienamente qualsiasi azione intrapresa dall'Ofcom, l'autorità indipendente di regolamentazione dei media, contro X. Anche se ciò significasse che le autorità di regolamentazione britanniche potrebbero bloccare la piattaforma.
L'Indonesia e la Malesia hanno già bloccato Grok dopo che la sua funzione di "spogliamento digitale" ha inondato Internet di immagini manipolate, allusive e oscene di donne e minori.
A quanto pare, un utente ha chiesto a Grok di generare le proprie "scuse", cosa che Grok ha fatto. Dopo le polemiche suscitate dalle immagini sessualizzate di donne e minori,X la generazione e la modifica delle immagini sarebbero state limitate agli abbonati paganti, rendendo di fatto a pagamento tali funzionalità sulle principali X .
Per i legislatori già preoccupati per la disinformazione, le interferenze elettorali, deepfakes e l'uso improprio delle immagini, Grok sta rapidamente diventando il caso esemplare del perché "muoversi velocemente e rompere gli schemi"non si concilia con un'intelligenza artificiale in grado di sessualizzare persone reali su richiesta.
Si spera che la prossima serie di norme, che spazieranno dall'applicazione dell'IA nell'UE agli obblighi di sicurezza specifici per le piattaforme, considerino questo incidente come il rischio di base che tutti i modelli visivi su larga scala devono sopportare, e non come un caso isolato.
Proteggi i tuoi bambini
Se vi siete mai chiesti perché i genitori pubblicano immagini dei propri figli con un sorriso stampato sul volto, ecco il motivo.
Non rendere facile per gli estranei copiare, riutilizzare o manipolare le tue foto.
Questo incidente è un altro motivo convincente per ridurre la tua impronta digitale. Pensaci bene prima di pubblicare foto di te stesso, dei tuoi figli o altre informazioni sensibili su account social pubblici.
Considerate tutto ciò che vedete online (immagini, voci, testi) come potenzialmente generato dall'intelligenza artificiale, a meno che non sia possibile verificarlo in modo indipendente. Questi strumenti non vengono utilizzati solo per influenzare le opinioni, ma anche per sollecitare denaro, estrarre informazioni personali o creare materiale offensivo.
Non ci limitiamo a segnalare le minacce: ti aiutiamo a proteggere i tuoi social media.
I rischi legati alla sicurezza informatica non dovrebbero mai andare oltre i titoli dei giornali. Proteggi i tuoi account sui social media utilizzandoMalwarebytes Identity Theft .
