Que seriez-vous prêt à échanger contre une technologie capable de presque tout faire ? Pour beaucoup, la réponse est claire : tout ce en quoi ils pensaient pouvoir avoir confiance.
En quelques années seulement, les outils d'intelligence artificielle (IA) ont offert à tous un accès illimité à une écriture plus facile, une génération d'images plus rapide, une programmation plus performante et des réponses, des conseils et des informations quasi instantanés – des avantages qu'ils apprécient et recherchent. Mais ces mêmes outils, capables d'embellir un profil de rencontre ou de transformer une vieille photo, peuvent aussi manipuler le monde numérique dans son ensemble, et cela commence à se faire sentir.
Selon de nouvelles recherches de Malwarebytes Selon un sondage, 88 % des personnes interrogées estiment qu'il est de plus en plus difficile de distinguer les contenus en ligne authentiques et humains, et 84 % d'entre elles affirment que les « preuves vidéo convaincantes » ne constituent plus une preuve tangible. De plus, 85 % déclarent qu'il est parfois difficile de différencier les arnaques des contenus légitimes, soit une forte augmentation par rapport aux 66 % qui partageaient cet avis l'année dernière .
Ce sont les premiers signes d'un monde contrefait créé par l'IA. Rempli de faux sites web, de faux produits, de fausses vidéos, de fausses photos, de fausses voix et même de fausses personnes, il menace d'engloutir le web.
Le dernier rapport de Malwarebytes « Valeur faciale : comment l’IA remodèle la confiance, l’identité et les escroqueries » révèle le coût caché de l’IA pour le public : un excès de fraude qui démantèle la confiance dans la réalité et entre les individus.
Les dégâts surviennent de manière ponctuelle ou plus infime, depuis ce parent américain qui a déclaré avoir « reçu un message vocal ressemblant exactement à la voix de son fils, disant qu'il avait des ennuis et avait besoin d'argent pour des frais d'avocat », jusqu'à ces deux personnes sans aucun lien entre elles qui ont été dupées par la même vidéo générée par une IA montrant des lapins sautant sur un trampoline, en passant par cette personne inquiète car « son grand-père lui a montré des images de synthèse de l'IA et il a cru que c'était réel ».
Pour cette recherche, Malwarebytes Une enquête a été menée auprès de 1 500 adultes de 18 ans et plus aux États-Unis, au Royaume-Uni, en Autriche, en Allemagne et en Suisse, afin de recueillir leurs impressions, leurs sentiments et leurs inquiétudes concernant l’IA. L’échantillon était composé à parts égales de femmes et d’hommes, et comprenait des personnes de tous âges, de toutes régions géographiques et de tous groupes ethniques. Une pondération a été appliquée pour garantir un point de vue équilibré.
Les conclusions complètes se trouvent dans le rapport complet :
Voici quelques-uns des principaux enseignements et conclusions :
- 88 % des personnes interrogées ont déclaré qu'il devenait plus difficile de distinguer les contenus en ligne authentiquement humains ou réels.
- 84 % des personnes interrogées ont déclaré que les preuves vidéo convaincantes ne leur semblaient plus constituer une preuve.
- 85 % des personnes interrogées ont déclaré qu'il était difficile de distinguer une arnaque d'une offre légitime (contre 66 % l'année dernière).
- 50 % des personnes interrogées ont déjà été victimes d'une forme de fraude ou d'escroquerie liée à l'IA, par exemple en étant trompées par des photos de produits générées par l'IA ou en recevant un message frauduleux hautement personnalisé.
- 19 % ont spécifiquement subi une forme d'atteinte à leur identité liée à l'IA, dont 10 % dont le contenu à caractère sexuel explicite a été généré à leur insu par l'IA.
- 81 % craignent que quelqu'un ne vole l'image de leur famille, pourtant seulement 13 % ont créé un mot de code familial pour s'en protéger.
- 67 % s'inquiètent du clonage vocal, pourtant seulement 19 % ont désactivé l'enregistrement des messages vocaux pour l'empêcher.
- 45 % estiment qu'il est acceptable d'utiliser l'IA pour des tâches émotionnelles personnelles (comme la rédaction des vœux de mariage ou d'un éloge funèbre).
- 34 % estiment qu'il est acceptable d'utiliser l'IA pour créer ou améliorer un profil de rencontre.
- Un tiers des utilisateurs quotidiens d'IA déclarés estiment qu'il est acceptable de générer des images explicites d'une personne sans son consentement.
Tirer la mauvaise leçon de tout cela serait un échec. Certes, internet a aujourd'hui besoin d'aide, mais il existe de nombreux endroits sûrs où en trouver.
Alors que Malwarebytes Tout en nous efforçant de fournir de nouveaux outils, nous tenons à rappeler aux personnes inquiètes comme aux enthousiastes concernant l'IA la première règle d'Internet : n'oublions pas l'humain. La voix, le corps, les choix et la capacité d'agir des individus leur appartiennent et à eux seuls.
Face aux fausses vidéos, aux produits contrefaits, aux sites web trompeurs et aux images trompeuses, sachez qu'il existe des solutions. Personne n'est obligé de se débrouiller seul sur Internet. Que ce soit par la détection des arnaques , la protection de son identité ou une simple vigilance, chacun dispose de plus d'options qu'il ne le pense.
