Que seriez-vous prêt à donner en échange d'une technologie capable de presque tout ? Pour beaucoup, la réponse est claire : tout ce en quoi ils pensaient pouvoir avoir confiance.
En quelques années seulement, les outils d'intelligence artificielle (IA) ont permis aux gens d'accéder sans restriction à des moyens de rédaction simplifiés, à une génération d'images plus rapide, à un codage plus efficace, ainsi qu'à des réponses, des conseils et des informations quasi instantanés — autant d'avantages qu'ils apprécient et recherchent. Mais ces mêmes outils, capables d'embellir un profil de rencontre ou de retoucher une vieille photo, peuvent également influencer l'univers en ligne dans son ensemble, et les gens s'en rendent compte.
Selon une nouvelle étude de Malwarebytes, 88 % des personnes interrogées ont déclaré qu'il était de plus en plus difficile de déterminer si un contenu en ligne était réellement produit par un être humain ou s'il était authentique, tandis que 84 % ont indiqué que des « preuves vidéo convaincantes » ne leur semblaient plus constituer une preuve suffisante. En outre, 85 % ont déclaré qu'il pouvait être difficile de distinguer les arnaques des informations authentiques, ce qui représente une forte augmentation par rapport aux 66 % qui partageaient cet avis l'année dernière.
Ce sont là les premiers signes d'un monde de contrefaçons généré par l'IA. Regorgeant de faux sites web, de faux produits, de fausses vidéos, de fausses images, de fausses voix et même de fausses personnes, ce monde menace d'envahir le web.
Le dernier rapport de Malwarebytes, intitulé «Face value : Comment l'IA redéfinit la confiance, l'identité et les escroqueries », met en lumière le coût caché de l'IA pour le grand public : une recrudescence des fraudes qui sape la confiance dans la réalité et entre les individus.
Les dégâts se manifestent à grande et à petite échelle : qu'il s'agisse de ce parent américain qui a déclaré avoir « reçu un message vocal qui ressemblait exactement à la voix de mon fils, disant qu'il avait des ennuis et qu'il avait besoin d'argent pour payer des frais juridiques », de ces deux personnes sans aucun lien entre elles qui se sont fait piéger par la même vidéo générée par l'IA montrant des lapins sautillant sur un trampoline, ou encore de cette personne inquiète à l'idée que « mon grand-père me montre des bêtises générées par l'IA et qu'il les prenne pour de vraies ».
Dans le cadre de cette étude, Malwarebytes 1 500 adultes âgés de 18 ans et plus aux États-Unis, au Royaume-Uni, en Autriche, en Allemagne et en Suisse sur leurs habitudes d'utilisation, leurs impressions et leurs préoccupations concernant l'IA. L'échantillon était réparti de manière égale entre les sexes et couvrait un large éventail d'âges, de régions géographiques et de groupes ethniques ; il a été pondéré afin d'offrir une vision équilibrée.
Les résultats complets sont disponibles dans le rapport intégral :
Voici quelques-uns des principaux enseignements et conclusions :
- 88 % des personnes interrogées ont déclaré qu'il devenait de plus en plus difficile de déterminer quels contenus en ligne étaient véritablement humains ou authentiques
- 84 % ont déclaré que des preuves vidéo convaincantes ne leur semblaient plus constituer une preuve
- 85 % des personnes interrogées ont déclaré qu'il était difficile de distinguer une arnaque d'une offre authentique (contre 66 % l'année dernière)
- 50 % ont été victimes d'une forme ou d'une autre de fraude ou d'arnaque liée à l'IA, par exemple en se laissant tromper par des photos de produits générées par l'IA ou en recevant un message frauduleux hautement personnalisé
- 19 % ont spécifiquement subi une atteinte à leur identité liée à l'IA, dont 10 % ont vu quelqu'un utiliser l'IA pour générer, sans leur autorisation, du contenu à caractère sexuellement explicite les représentant
- 81 % craignent que quelqu'un vole l'image de leur famille, mais seuls 13 % ont mis en place un mot de passe familial pour s'en prémunir
- 67 % s'inquiètent du clonage vocal, mais seuls 19 % ont désactivé les messages d'accueil de leur messagerie vocale pour s'en prémunir
- 45 % des personnes interrogées estiment qu'il est acceptable d'utiliser l'IA pour des tâches à caractère émotionnel (comme la rédaction de vœux de mariage ou d'un éloge funèbre)
- 34 % des personnes interrogées estiment qu'il est acceptable d'utiliser l'IA pour créer ou améliorer un profil sur un site de rencontre
- Un utilisateur quotidien déclaré de l'IA sur trois a déclaré qu'il était acceptable de générer des images à caractère explicite d'une personne sans son consentement
Il serait erroné de conclure de tout cela qu'il faut baisser les bras. Il est vrai qu'aujourd'hui, on a besoin d'aide pour naviguer sur Internet, mais il existe de nombreux endroits sûrs où on peut la trouver.
Alors que Malwarebytes de proposer de nouveaux outils, nous tenons à rappeler, tant à ceux qui se méfient de l'IA qu'à ceux qui l'accueillent avec enthousiasme, la première règle d'Internet : n'oubliez pas l'humain. La voix, le corps, les choix et la capacité d'agir des personnes leur appartiennent, et à eux seuls.
Comme pour toute fausse vidéo, tout faux produit, tout faux site web et toute fausse image, sachez qu'il existe des solutions. Personne n'est obligé de naviguer seul sur un Internet truffé de faux. Qu'il s'agisse dedétecter les arnaques, de protéger son identité ou simplement de se sensibiliser, les gens disposent de plus de moyens qu'ils ne le pensent.
