Les créateurs OnlyFans ont l'habitude de publier des vidéos pour adultes d'eux-mêmes en ligne, mais que se passe-t-il si quelqu'un s'empare de leurs images et les utilise à des fins frauduleuses ? Cette semaine, USA Today a révélé comment des criminels usurpent l'identité de créateurs OnlyFans grâce à des outils d'intelligence artificielle. Ils utilisent deepfake Le but est d'attirer les fans des vrais mannequins avec de fausses promesses de discussions en direct, puis de les faire disparaître une fois que les abonnés ont payé d'avance.
Comment les pêcheurs de poisson-chat appâtent leurs appâts
Il s'agit d'une forme d' catfishing en ligne, où un escroc se fait passer pour quelqu'un d'autre et entame des interactions sentimentales ou sexuelles à des fins malhonnêtes. Dans ce cas précis, les fraudeurs créent de faux comptes sur des plateformes comme TikTok, en utilisant des contenus volés à de véritables créateurs de contenu et en y ajoutant une voix de synthèse. Ils s'en servent ensuite pour inciter les internautes à engager une conversation par message privé sur des services comme Snapchat.
Une fois sur place, le « créateur » demande un paiement via Cash App en échange de contenu exclusif. Cash App est un service de paiement entre particuliers conçu pour les transferts d'argent occasionnels entre amis, et non pour le commerce. Les transferts sont instantanés et crédités sur le compte du destinataire en quelques secondes. Une fois envoyé, l'argent est très difficile à récupérer.
C’est précisément ce caractère informel qui le rend efficace ici. Dès que le fan paie, le criminel le bloque et disparaît.
Pourquoi les lois ne s'appliquent-elles pas aux serveurs eux-mêmes ?
Les législateurs s'attaquent à ce problème avec de multiples mesures anti-étatiques deepfake Au niveau fédéral, la loi « Take It Down Act » criminalise les contenus explicites non consensuels, notamment les images générées par l'IA, et impose le retrait rapide de ces contenus sur les plateformes concernées. Dans l'Union européenne, la loi sur l'IA (AI Act) oblige toute personne utilisant l'IA pour la génération d'images à le déclarer publiquement.
Alors pourquoi cela continue-t-il à se produire ?
Le problème, c'est que les lois nationales ne s'appliquent qu'aux plateformes nationales. Les contenus volés sont en grande partie hébergés à l'étranger, ce qui rend leur contrôle difficile.
Même si les lois pouvaient être appliquées universellement, cela pourrait ne rien changer. Dans trois expériences menées cette année, des chercheurs de l'Université de Bristol ont constaté que la plupart des participants s'appuyaient sur deepfake même après avoir été averti qu'il s'agissait d'un faux contenu.
Ce qui aide réellement
Ce type d'escroquerie fait deux victimes : les fans qui perdent de l'argent à cause des arnaques, et les créateurs. Ces derniers perdent les revenus qu'ils auraient pu percevoir de leurs fans et s'exposent également à des représailles de la part de fans mécontents qui s'estiment lésés.
Une créatrice, Jessieanna Campbell, a confié à USA Today que des fans, perplexes, s'étaient plaints auprès d'elle après avoir cru à tort qu'elle leur avait pris leur argent. « Je reçois sans arrêt des messages du genre : "Hé, pourquoi as-tu pris mes 150 dollars et m'as-tu bloquée ?" et je leur réponds : "Mais de quoi parlez-vous ?" »
USA Today a également interviewé une créatrice de contenu qui a reçu la visite de fans en colère à son domicile et qui a désormais parfois peur de sortir de chez elle.
Certains créateurs font appel à des services privés de suppression de contenu pour tenter de régler le problème eux-mêmes. D'autres publient des messages d'intérêt public pour mettre en garde contre ces faux comptes. Mais c'est aux fans d'être vigilants.
Si un « créateur » sur une plateforme tierce vous contacte, regardez attentivement la vidéo ; deepfakes sont souvent imparfaites. USA Today a rapporté qu'une vidéo TikTok imitant la créatrice Elaina St. James, réalisée en animant une photo et en copiant sa voix, présentait des dents déformées et des sourcils figés. Voici notre guide pour les repérer. deepfakes de toute nature.
Le bon sens est primordial. Si quelqu'un vous invite à utiliser une messagerie privée et vous demande de l'argent pour du contenu exclusif, méfiez-vous. Vérifiez auprès du créateur via un compte vérifié pour vous assurer de son authenticité.
Les escrocs n'ont pas besoin de pirater votre ordinateur. Il leur suffit que vous cliquiez une seule fois.
Theft Identity Malwarebytes détecte les activités suspectes avant qu'elles ne posent problème.
