Cette semaine dans le podcast Lock and Code…
Si vous ne preniez pas deepfakes auparavant, il est désormais trop tard pour les ignorer.
Selon une nouvelle étude de Malwarebytes, une personne sur trois utilisant quotidiennement l'IA estime qu'il est acceptable de générer du contenu pornographique représentant des personnes sans leur consentement.
Il y a près de dix ans, la technologiedeepfakea mis à la disposition des amateurs et des monteurs vidéo des outils d’intelligence artificielle (IA) permettant de remplacer le visage d’une personne par celui d’une autre. À ses débuts, cette technologie a donné lieu à des expériences vidéo fantaisistes, comme le remplacement de Tom Cruise par Keanu Reeves dans *Mission Impossible*. Aujourd’hui, cette même technologie produit quelque chose de bien plus néfaste : de fausses images de nudité mettant en scène des adolescents.
Dans l'épisode d'aujourd'hui du podcast « Lock and Code », animé par David Ruiz, nous revenons sur une interview datant de 2024, au cours de laquelle nous avions discuté avec un avocat du nom de David Chiu au sujet de son action en justice contre 16 sites web générant deepfake .
Les sites web cités dans ce procès n'avaient souvent besoin que d'une seule photo d'une personne pour créer de la fausse pornographie. Et bien que presque tout le monde ait au moins une photo de soi en ligne, même s'il y en avait des centaines, la marche à suivre pour les faire supprimer est plus ou moins claire : il faut commencer par désactiver et supprimer ses comptes sur les réseaux sociaux les plus populaires. Mais pour les adolescents d'aujourd'hui, qui ont grandi en grande partie sur Internet et qui partagent des photos directement avec leurs amis, leurs petits amis, leurs petites amies et leurs ex, il est probablement impossible d'effacer toute trace visuelle d'eux-mêmes. De plus, ils ne devraient pas avoir à faire face seuls à ce problème.
Le podcast « Lock and Code » aborde souvent des problèmes structurels qui nécessitent une gestion individuelle. Il faut contourner la collecte de données par les entreprises. Il faut repérer les lecteurs automatiques de plaques d'immatriculation dans sa ville. Il faut examiner chaque message reçu avec une certaine méfiance, afin de se prémunir contre les arnaques.
Il est donc rare de trouver une solution qui profite à plus d'une personne.
Chiu occupe le poste de procureur municipal de San Francisco, ce qui signifie que son service peut intenter une action en justice non seulement au nom des habitants de San Francisco, mais aussi au nom de l'État de Californie, et c'est précisément ce qu'a fait son équipe en poursuivant les deepfake .
Depuis lors, le service de Chiu a fermé dix sites web diffus deepfake images deepfake , et a obtenu d'une société dénommée Briver LLC qu'elle s'engage, dans le cadre d'un accord à l'amiable, à ne plus exploiter aucun site web produisant deepfake sans le consentement des personnes concernées.
Et ce qui se passe en Californie se répercute sur l'ensemble du pays.
En mai de l’année dernière, la loi « Take It Down Act » est entrée en vigueur aux États-Unis ; elle érige en infraction pénale la « pornographie de vengeance » ainsi que la diffusion d’images intimes générées par IA sans le consentement des personnes concernées. Cette loi n’est pas parfaite, mais jusqu’à présent, elle est appliquée comme prévu. Le mois dernier, deux hommes aux États-Unis ont été parmi les premiers à être inculpés pour violation de la loi Take It Down pour avoir prétendument créé deepfake qui, selon l'AP, « mettaient en scène aussi bien des célébrités que des femmes lambda, y compris des jeunes diplômées du lycée ».
Aujourd'hui, nous revenons sur notre entretien avec David Chiu, procureur municipal de San Francisco, au sujet de la lutte cruciale contre deepfake et de la menace évidente que son service a identifiée pour le public.
« Au moins l'un de ces sites met spécifiquement en avant le caractère non consensuel de cette pratique. Je cite : “Pourquoi perdre son temps à l'inviter à sortir alors qu'il suffit d'utiliser le site X obtenir ses photos dénudées ?” »
Connectez-vous dès aujourd'hui pour écouter l'intégralité de la conversation.
Afficher les notes et les crédits :
Musique d'introduction : « Spellbound » par Kevin MacLeod (incompetech.com)
Sous licence Creative Commons : Attribution 4.0
http://creativecommons.org/licenses/by/4.0/
Musique de fin : « Good God » par Wowa (unminus.com)
Écoutez bien :Malwarebytes parler de cybersécurité, nous la fournissons.
Protégez-vous contre les attaques en ligne qui menacent votre identité, vos fichiers, votre système et votre santé financière grâce à notreoffre exclusive Malwarebytes Premium réservée aux auditeurs de Lock and Code.
