Un tribunal allemand a statué que Google pouvait être tenu directement responsable des allégations diffamatoires générées par ses résumés générés par l'IA. En substance, le tribunal a estimé que le simple fait d'inviter les utilisateurs à vérifier les résultats de recherche générés par l'IA ne suffisait pas à exonérer l'entreprise de sa responsabilité quant au contenu de ces résultats.
Le tribunal régional de Munich a prononcé une injonction provisoire à l'encontre de Google après que deux éditeurs allemands ont découvert que les résumés générés par l'IA les présentaient à tort comme impliqués dans des escroqueries et des « pratiques commerciales douteuses », alors que les articles vers lesquels renvoyaient ces résumés ne corroboraient pas ces allégations.
Cette décision pourrait avoir des répercussions bien au-delà des frontières allemandes. Le tribunal a en effet estimé que Google pouvait être tenu directement responsable des contenus diffamatoires générés par ses « AI Overviews ». Il a balayé d’un revers de main l’argument habituel selon lequel « ce n’est que de l’IA, il ne faut pas trop s’y fier » et a clairement établi une chose : si vous mettez au point un système qui diffame sans vergogne des personnes ou des entreprises, vous pouvez être tenu responsable de ce qu’il dit, même lorsque le contenu a été « halluciné » par l’IA.
Les résumés générés par l'IA ne sont pas de simples suggestions anodines. Dans cette affaire, le tribunal les a considérés comme des déclarations de Google, avec toutes les implications juridiques que cela comporte.
Lorsque les éditeurs ont envoyé une mise en demeure, Google n'a pas immédiatement empêché l'apparition d'affirmations similaires. Ce détail s'est avéré déterminant dans la décision. Le tribunal a souligné que, contrairement aux résultats de recherche traditionnels, qui se contentent de répertorier du contenu provenant de tiers, les « AI Overviews » génèrent « des déclarations indépendantes, nouvelles et substantielles ».
Et comme seul Google est en mesure d'ajuster les modèles et la logique qui génèrent ces affirmations, seul Google peut empêcher de manière fiable le système de répéter les mêmes fausses informations ou des informations similaires. Dans cette affaire, le tribunal a estimé que Google pouvait être tenu pour responsable.
Depuis des années, les moteurs de recherche bénéficient d'une large protection, l'argument étant qu'il est inévitable de tomber sur certains contenus préjudiciables lorsqu'on indexe le Web ouvert à grande échelle. Afficher un résultat de recherche ne signifie pas pour autant l'approuver. Le moteur de recherche est un canal, pas un éditeur.
La situation change lorsqu'un outil d'IA résume, reformule et parfois invente des faits, puis les affiche en tête des résultats de recherche.
Les résumés générés par l'IA constituent une fonctionnalité supplémentaire qui n'est pas indispensable au bon fonctionnement de la recherche. Cependant, l'attrait de ces résumés réside dans la rapidité et la fiabilité de leurs réponses, ce qui les rend justement dangereux. Lorsque ces réponses sont erronées, de nombreux utilisateurs peuvent ne pas prendre la peine de cliquer pour vérifier les sources.
Cette décision est provisoire et susceptible d'appel, mais le message est clair : les résultats de recherche générés par l'IA ne sont pas une formule magique qui fait disparaître toute responsabilité. Les mentions de non-responsabilité concernant d'éventuelles erreurs pourraient ne pas suffire lorsqu'un système est déployé à grande échelle, crée du nouveau contenu et est conçu pour inspirer confiance.
En chiffres
Les résumés générés par l'IA de Google s'appuient sur Gemini, le modèle d'IA de Google. À l'instar d'autres systèmes d'IA, il peut fournir des réponses présentées comme fiables, mais qui sont erronées ou mal étayées.
Pew Research a analysé les données de navigation de centaines d'utilisateurs et a constaté que lorsqu'un résumé généré par l'IA apparaît sur une page de résultats Google, le taux de clics vers les résultats de recherche traditionnels passe d'environ 15 % à environ 8 %.
Une analyse du New York Times portant sur les résumés générés par l'IA a révélé qu'ils étaient exacts environ neuf fois sur dix. Mais comme Google traite plus de cinq mille milliards de recherches par an, même un faible taux d'erreur pourrait se traduire par des millions de réponses erronées.
Et ces erreurs ne sont pas toujours dues à des sources peu fiables. Même lorsque Google renvoie vers une page contenant les informations correctes, son intelligence artificielle peut tout de même fournir une réponse erronée. Plus de la moitié des réponses exactes ont été classées comme « non fondées », ce qui signifie que les sites web cités par l'IA Overview ne corroborent pas entièrement les informations fournies.
La principale leçon à retenir ici est qu'il faut toujours vérifier les réponses fournies par les moteurs de recherche basés sur l'IA. Ne vous fiez pas à une réponse simplement parce qu'elle est présentée avec assurance et qu'elle contient des liens.
Les utilisateurs peuvent être amenés à se tourner vers de réelles menaces, ou à se détourner de protections efficaces, simplement parce qu'un système d'IA semblait convaincant sur une page de résultats de recherche.
Si vous constatez que des résumés générés par l'IA vous concernant ou concernant votre entreprise sont erronés ou diffamatoires, veillez à les documenter de manière exhaustive. Faites des captures d'écran, enregistrez les termes de recherche, déposez des demandes de correction et conservez une trace de la réponse de la plateforme. Ou de l'absence de réponse.
Les escrocs n'ont pas besoin de pirater votre ordinateur. Il leur suffit que vous cliquiez une seule fois.
Theft Identity Malwarebytes détecte les activités suspectes avant qu'elles ne posent problème.
