Un tribunal allemand a statué que Google peut être tenu directement responsable des propos diffamatoires générés par ses résultats de recherche basés sur l'IA. En d'autres termes, le tribunal a estimé que le simple fait d'inviter les utilisateurs à vérifier les résultats de recherche générés par l'IA ne suffit pas à exonérer Google de sa responsabilité quant au contenu de ces résultats.
Le tribunal régional de Munich a prononcé une injonction préliminaire contre Google après que deux éditeurs allemands ont découvert qu'AI Overviews les présentait faussement comme impliqués dans des escroqueries et des « pratiques commerciales douteuses », alors même que les articles liés ne corroboraient pas ces allégations.
Cette décision pourrait avoir des répercussions bien au-delà de l'Allemagne. Le tribunal a en effet statué que Google peut être tenu directement responsable des contenus diffamatoires générés par ses analyses basées sur l'IA. Il a balayé les arguments habituels du type « ce n'est que de l'IA, il ne faut pas trop lui faire confiance » et a clarifié un point : si vous développez un système qui diffame avec assurance des personnes ou des entreprises, vous pourriez être tenu responsable de ses propos, même si ces contenus ont été « générés » par l'IA.
Les aperçus de l'IA ne sont pas de simples suggestions. En l'espèce, le tribunal les a considérés comme des déclarations officielles de Google, avec toutes les conséquences juridiques que cela implique.
Lorsque les éditeurs ont envoyé une mise en demeure, Google n'a pas immédiatement fait cesser la publication de contenus similaires. Ce détail s'est avéré crucial dans la décision. Le tribunal a relevé que, contrairement aux résultats de recherche traditionnels qui se contentent de lister des contenus tiers, les aperçus générés par l'IA produisent des « affirmations indépendantes, nouvelles et substantielles ».
Et puisque seul Google peut modifier les modèles et la logique qui génèrent ces affirmations, seul Google peut empêcher de manière fiable le système de répéter les mêmes contre-vérités ou des contre-vérités similaires. En l'espèce, le tribunal a jugé que Google pouvait être tenu responsable.
Depuis des années, les moteurs de recherche bénéficient d'une large protection, partant du principe que l'indexation à grande échelle du web ouvert entraîne inévitablement la présence de contenus préjudiciables. Afficher un résultat de recherche ne signifie pas l'approuver. Le moteur de recherche est un canal, non un éditeur.
La donne change lorsqu'un aperçu basé sur l'IA résume, reformule et parfois invente des faits, puis les publie en tête des résultats de recherche.
Les aperçus générés par l'IA sont une fonctionnalité supplémentaire, non essentielle au fonctionnement de la recherche. Cependant, leur attrait réside dans la rapidité et la certitude de leurs réponses, ce qui les rend potentiellement dangereuses. En effet, si ces réponses sont erronées, de nombreux utilisateurs risquent de ne pas consulter les sources.
Cette décision est préliminaire et susceptible d'appel, mais le message est clair : les résultats de recherche issus de l'IA ne sont pas une solution miracle qui exonère de toute responsabilité. Les mentions légales concernant d'éventuelles erreurs pourraient s'avérer insuffisantes lorsqu'un système est déployé à grande échelle, génère du contenu inédit et est conçu pour inspirer confiance.
En chiffres
Les aperçus de l'IA de Google sont basés sur Gemini, le modèle d'IA de Google. Comme d'autres systèmes d'IA, il peut fournir des réponses péremptoires mais erronées ou mal étayées.
Une étude de Pew Research portant sur les données de navigation de centaines d'utilisateurs a révélé que lorsqu'une présentation de l'IA apparaît sur une page de résultats Google, les clics vers les résultats de recherche traditionnels chutent d'environ 15 % à environ 8 %.
Une analyse du New York Times portant sur les aperçus de l'IA a révélé qu'ils étaient exacts environ neuf fois sur dix. Cependant, avec plus de cinq mille milliards de recherches traitées chaque année par Google, même un faible taux d'erreur pourrait se traduire par des millions de réponses erronées.
Et ces erreurs ne sont pas toujours dues à de mauvaises sources. Même lorsque Google renvoie vers une page contenant les informations correctes, son IA peut tout de même fournir une réponse erronée. Plus de la moitié des réponses exactes ont été classées comme « non fondées », ce qui signifie que les sites web cités par l'analyse de l'IA ne corroboraient pas pleinement les informations fournies.
La principale leçon à retenir est de toujours vérifier les réponses des moteurs de recherche. Ne vous fiez pas à une réponse simplement parce qu'elle est présentée avec assurance et qu'elle contient des liens.
Les utilisateurs peuvent être orientés vers de véritables menaces, ou les éloigner de protections efficaces, simplement parce qu'un système d'IA a semblé convaincant sur une page de recherche.
Si vous trouvez des résumés d'IA faux ou diffamatoires vous concernant ou concernant votre entreprise, documentez-les minutieusement. Prenez des captures d'écran, enregistrez les termes de recherche, déposez des demandes de correction et conservez une trace de la réponse de la plateforme (ou de son absence de réponse).
Les escrocs n'ont pas besoin de vous pirater. Il leur suffit que vous cliquiez une seule fois.
Malwarebytes Identity Theft Protection détecte les activités suspectes avant qu'elles ne deviennent un problème.
