Un promemoria per chiunque pensi che le proprie chat con l'IA siano private: un essere umano potrebbe vedere ciò che carica. Un report di 404 Media di questa settimana descrive come dei collaboratori esterni esaminino le foto degli utenti di Copilot, le richieste di modifica e le immagini prodotte da Copilot. Alcune delle cose che vedono sono inquietanti.
Le aziende terze incaricate di condurre queste revisioni presentano ai propri dipendenti una foto originale e la richiesta di modifica da parte dell'utente. Vengono inoltre mostrate loro due possibili modifiche generate dall'intelligenza artificiale e viene chiesto loro di valutarle in base al merito tecnico. Trattandosi di Internet, la situazione va ben oltre le semplici richieste di vestire un gatto con un costume di Halloween. Molte delle richieste sono di natura sessuale e alcune coinvolgono minori, secondo quanto riportato. I volti nelle foto originali non sono censurati, il che significa che i revisori possono vedere chi sono i soggetti.
Le richieste di modifica e i risultati che i revisori sono chiamati a valutare includono richieste di accorciare gonne, ingrandire parti del corpo e posizionare persone in pose sessualmente esplicite. In molti casi, le modifiche sembrano non consensuali. Ad esempio, un collaboratore ha affermato di aver ricevuto diverse serie di foto scattate sotto le gonne. Un altro ha raccontato di essere stato incaricato di valutare immagini di personaggi dei cartoni animati per bambini con feticismo per i piedi. Alcuni utenti avevano chiesto a Copilot di creare immagini di Ariana Grande affetta da anoressia. Immagini raffiguranti sacrifici animali sono arrivate sulla scrivania di un revisore.
Gli intervistati da 404 Media hanno affermato che i collaboratori esterni vengono pagati per valutare la qualità di un'immagine, ma non per segnalare contenuti inappropriati. Controllano aspetti come il rispetto delle istruzioni, la conservazione o la distorsione di alcune parti dell'immagine e l'aspetto generale dell'immagine stessa. Non esprimono giudizi di natura legale o di sicurezza in merito al contenuto.
Microsoft utilizza i dati dei clienti provenienti da alcuni account per migliorare i propri prodotti. Tuttavia, quando 404 Media ha chiesto chiarimenti, non ha specificato se gli utenti possano escludere i contenuti caricati da queste attività di valutazione.
Nelle FAQ Privacy relative alla versione precedente di Copilot per i consumatori, Microsoft afferma di conservare le conversazioni per 18 mesi per impostazione predefinita, sebbene gli utenti possano eliminarle in qualsiasi momento. Afferma inoltre di poter utilizzare i dati, "incluse le immagini o i file caricati", per l'addestramento dell'intelligenza artificiale. Gli utenti idonei possono rinunciare all'addestramento, ma le FAQ specificano che non è possibile rinunciare a determinate revisioni umane. Non viene specificato se ciò includa le attività di valutazione delle immagini descritte da 404 Media.
Microsoft afferma che l'app Copilot per utenti privati , aggiornata e disponibile dal 18 agosto, non utilizza richieste, risposte o contenuti di file caricati per addestrare i modelli di base. Resta comunque aperta la domanda che 404 Media ha posto a Microsoft: gli utenti possono impedire che i loro caricamenti vengano sottoposti a revisione umana delle immagini?
Precedenti problemi di immagine del copilota
Fonti interne a Microsoft avevano già messo in guardia in passato sulla tendenza di Copilot a produrre immagini di dubbia qualità.
All'inizio del 2024, l'ingegnere di machine learning Shane Jones ha reso pubbliche le sue preoccupazioni riguardo alla possibilità di aggirare i meccanismi di protezione presenti nello strumento di conversione testo-immagine DALL-E 3 del software. In precedenza, aveva chiesto all'azienda di rimuovere Copilot Designer, che utilizzava tale strumento, dall'uso pubblico per tre mesi, ma Microsoft si era rifiutata. Il team di feedback riceveva oltre 1.000 messaggi di feedback al giorno e si occupava solo dei più gravi, ha dichiarato all'epoca a CNBC .
Contemporaneamente a questi eventi, Microsoft ha corretto una falla in Copilot Designer che permetteva a qualcuno di creare deepfakes intimi non consensuali di Taylor Swift .
Microsoft non è l'unica azienda che assume collaboratori esterni per esaminare le chat basate sull'IA. Anche OpenAI fa lo stesso nell'ambito della sua iniziativa Project Lily . Se desideri maggiori informazioni su come gli assistenti virtuali utilizzano i dati delle tue conversazioni per migliorarsi e su cosa puoi fare per impedirlo, leggi Malwarebytes ' Guida all'addestramento dell'IA sui contenuti degli utenti.'
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
