Un tribunale tedesco ha stabilito che Google può essere ritenuta direttamente responsabile delle affermazioni diffamatorie generate dai suoi "AI Overviews". In sostanza, il tribunale ha affermato che invitare gli utenti a verificare i risultati di ricerca generati dall'intelligenza artificiale non è sufficiente per escludere la responsabilità per il contenuto di tali risultati.
Il Tribunale regionale di Monaco ha emesso un'ordinanza cautelare nei confronti di Google dopo che due editori tedeschi hanno scoperto che le "AI Overviews" li descrivevano erroneamente come coinvolti in truffe e "pratiche commerciali dubbie", nonostante gli articoli collegati non confermassero tali affermazioni.
La sentenza potrebbe avere ripercussioni ben oltre i confini della Germania. Il tribunale ha infatti stabilito che Google può essere ritenuta direttamente responsabile dei contenuti diffamatori generati dalle sue sintesi basate sull'intelligenza artificiale. Il tribunale ha smontato il solito argomento secondo cui «è solo intelligenza artificiale, non fidatevi troppo» e ha chiarito un punto fondamentale: se si crea un sistema che diffama con sicurezza persone o aziende, si può essere ritenuti responsabili di ciò che dice, anche quando i contenuti sono stati «allucinati» dall'intelligenza artificiale.
Le "AI Overviews" non sono semplici suggerimenti innocui. In questo caso, il tribunale le ha considerate come dichiarazioni ufficiali di Google, con tutte le implicazioni giuridiche che ne derivano.
Quando gli editori hanno inviato una diffida, Google non ha impedito tempestivamente la pubblicazione di affermazioni simili. Questo dettaglio si è rivelato determinante nella sentenza. Il tribunale ha osservato che, a differenza dei tradizionali risultati di ricerca, che si limitano a elencare contenuti di terzi, le "AI Overviews" generano "affermazioni indipendenti, nuove e sostanziali".
E poiché solo Google è in grado di modificare i modelli e la logica alla base di tali affermazioni, solo Google può impedire in modo affidabile che il sistema ripeta le stesse falsità o altre simili. In questo caso, il tribunale ha ritenuto che Google possa essere ritenuta responsabile.
Per anni, i motori di ricerca hanno goduto di un'ampia tutela, in base alla logica secondo cui alcuni contenuti dannosi sono inevitabili quando si indicizza il web aperto su larga scala. Mostrare un risultato di ricerca non significa avallarlo. Il motore di ricerca è un canale, non un editore.
La situazione cambia quando un sistema di sintesi basato sull'intelligenza artificiale riassume, riformula e, talvolta, inventa fatti, per poi pubblicarli in cima ai risultati di ricerca.
Le sintesi basate sull'intelligenza artificiale sono una funzionalità aggiuntiva, non essenziale per il funzionamento della ricerca. Tuttavia, il fascino di queste sintesi sta proprio nelle loro risposte rapide e sicure, ed è proprio questo che le rende pericolose. Quando tali risposte sono errate, molti utenti potrebbero non cliccare sui link per verificare le fonti.
La sentenza è provvisoria ed è soggetta a ricorso, ma il messaggio è chiaro: i risultati di ricerca generati dall'intelligenza artificiale non sono una formula magica in grado di far sparire ogni responsabilità. Le avvertenze relative a possibili errori potrebbero non essere sufficienti quando un sistema viene implementato su larga scala, crea nuovi contenuti ed è progettato per ispirare fiducia.
I numeri
Le panoramiche di Google AI sono basate su Gemini, il modello di intelligenza artificiale di Google. Come altri sistemi di intelligenza artificiale, può fornire risposte che sembrano sicure ma che in realtà sono errate o scarsamente fondate.
Pew Research ha analizzato i dati di navigazione di centinaia di utenti e ha scoperto che, quando nella pagina dei risultati di Google compare una panoramica generata dall'intelligenza artificiale, i clic sui risultati di ricerca tradizionali scendono dal 15% circa all'8% circa.
Da un'analisi condotta dal New York Times sulle schede informative dell'IA è emerso che queste sono accurate circa nove volte su dieci. Tuttavia, dato che Google elabora oltre cinque trilioni di ricerche all'anno, anche un tasso di errore minimo potrebbe tradursi in milioni di risposte errate.
E questi errori non sono sempre dovuti a fonti inaffidabili. Anche quando Google rimanda a una pagina contenente informazioni corrette, la sua intelligenza artificiale può comunque fornire una risposta errata. Più della metà delle risposte corrette è stata classificata come «priva di fondamento», il che significa che i siti web citati da AI Overview non confermavano pienamente le informazioni fornite.
La lezione principale da trarre è quella di verificare attentamente le risposte fornite dai motori di ricerca basati sull'intelligenza artificiale. Non fidatevi di una risposta solo perché viene presentata con sicurezza e include dei link.
Gli utenti possono essere indotti a credere a minacce reali o a ignorare protezioni efficaci semplicemente perché un sistema di intelligenza artificiale è risultato convincente in una pagina di ricerca.
Se trovi sintesi generate dall'intelligenza artificiale che contengono informazioni false o diffamatorie su di te o sulla tua azienda, documentale in modo accurato. Fai degli screenshot, salva i termini di ricerca, invia richieste di correzione e conserva traccia delle risposte fornite dalla piattaforma. O della loro assenza.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft individua le attività sospette prima che diventino un problema.
