En Asie du Sud-Est, les réseaux d'escroquerie sont devenus de véritables fermes à esclaves modernes, piégeant leurs victimes et forçant nombre d'entre elles à devenir elles-mêmes des escrocs. Désormais, un autre type de main-d'œuvre s'y ajoute : des modèles d'intelligence artificielle.
Ces escrocs professionnels utilisent la visioconférence pour convaincre leurs victimes et leur soutirer de l'argent. Comme l'a révélé WIRED cette semaine, des offres d'emploi décrivent des postes impliquant la gestion d'une centaine d'appels vidéo en direct par jour, dans le cadre d'escroqueries sentimentales et de fraudes aux cryptomonnaies, au sein d'opérations frauduleuses à grande échelle opérant au Cambodge, au Myanmar et au Laos.
Ces réseaux d'escroquerie s'appuient déjà sur des opérateurs de messagerie instantanée pour piéger leurs victimes via des applications de messagerie. Nombre de ces opérateurs sont eux-mêmes victimes de traite des êtres humains et contraints de travailler de longues heures sous la menace de violences. Ils tissent des liens avec leurs victimes au fil du temps, exploitant leur solitude ou leurs difficultés financières. Tout en s'efforçant de faire sentir à une victime qu'elle est spéciale, ils mènent en réalité des conversations similaires avec des dizaines de personnes simultanément. Finalement, une victime peut souhaiter un appel vidéo, soit pour rencontrer son interlocuteur idéal, soit pour vérifier la légitimité d'une opportunité d'investissement (ou les deux).
Les opérateurs de chat peuvent avoir du mal à charmer leurs victimes en vidéo, surtout lorsqu'ils sont eux-mêmes victimes , contraints à de longues heures de travail et victimes de violences physiques. Ainsi, lorsqu'une victime demande un appel vidéo, les responsables de l'escroquerie font appel à un « modèle d'IA » spécialisé, doté d'excellentes compétences relationnelles, pour la séduire. Malgré son nom, il s'agit de personnes réelles engagées pour apparaître lors des appels vidéo. deepfake Le logiciel modifie leur apparence pour qu'elle corresponde à la personne fictive que la victime espère voir.
Des arnaques publient des annonces de recrutement pour ces modèles, et beaucoup semblent prêts à postuler. Humanity Research Consultancy, un groupe de recherche et d'investigation qui traque les filières de trafic d'êtres humains, a repéré une offre d'emploi d'une Ouzbèke de 24 ans se faisant appeler Angel. Elle prétendait parler quatre langues et avoir un an d'expérience comme modèle d'intelligence artificielle. Elle demandait 7 000 dollars par mois pour ses services.
La croissance des composés frauduleux
Comment ces centres d'escroquerie peuvent-ils exister ? Selon l'Institut australien de politique stratégique, le coup d'État militaire de 2021 au Myanmar a contribué à une explosion de la fraude. Le nombre de centres d'escroquerie le long de la frontière thaïlandaise a plus que doublé , les organisations criminelles s'implantant dans cette région, ainsi qu'au Myanmar, au Cambodge et au Laos.
Ces centres d'escroquerie sont souvent tolérés car ils alimentent les caisses des milices locales. Cependant, des contre-mesures ont été mises en place. Des raids et des opérations transfrontalières ont permis des arrestations et le déplacement d'un grand nombre de suspects entre les pays, notamment lors d'opérations visant des complexes comme KK Park à Myawaddy. Le Cambodge et le Myanmar ont également signalé un renforcement de leurs efforts pour lutter contre ces opérations d'escroquerie, même si les réseaux restent très résistants.
Ce type d'activité devient plus facile grâce aux progrès technologiques. L'échange de visages en temps réel et deepfake Les outils sont désormais suffisamment performants pour prendre en charge la vidéo en direct, et non plus seulement les clips préenregistrés. Nous avons déjà vu des diffusions en temps réel. deepfakes Utilisée pour tout, des entretiens d'embauche à l' usurpation d'identité de cadres bancaires pour escroquer des millions , cette technique est désormais répandue. La nouveauté réside dans son ampleur : des dizaines, voire des centaines d'appels par jour, traités par des personnes pour des arnaques sentimentales et des fraudes aux investissements en cryptomonnaies, démontrent qu'il s'agit d'une exploitation massive.
Comment rester en sécurité
Voici le problème avec deepfake Vidéo : les indices qui permettaient de la repérer disparaissent. Autrefois, c’était un signe certain d’une IA. deepfake Il s'agissait de quelqu'un avec un nombre de doigts incorrect ou des anomalies au niveau de la ligne des cheveux. Vous pouvez corser les choses lors d'appels en direct en demandant à quelqu'un de se tourner de profil. Demandez-lui de toucher son nez et d'agiter ses doigts devant son visage. C'est plus difficile pour deepfake Un logiciel pour gérer ce bruit supplémentaire.
Mais attention : les algorithmes qui produisent deepfakes Les deepfake s'améliorent constamment et sont de plus en plus performantes pour ce type de tests. Ce chercheur spécialisé dans ce domaine affirme que nous serons beaucoup plus nombreux à nous faire berner cette année.
Si vous ne pouvez pas vous fier entièrement à ce que vous voyez, fiez-vous à votre expérience. Méfiez-vous des contacts non sollicités, surtout si une personne établit rapidement un lien émotionnel avec vous ou vous propose un investissement. Même si un profil semble complet ou qu'un site web paraît légitime, prenez le temps de vérifier par vous-même.
Évitez de partager des informations personnelles ou financières avec une personne rencontrée uniquement en ligne et méfiez-vous de quiconque vous pousse à prendre des décisions hâtives ou vous demande de poursuivre la conversation en dehors des plateformes officielles. Le FBI propose d'excellents conseils sur son site web .
La partie la plus dangereuse de ceci deepfake La tendance actuelle en matière de modélisation par IA est qu'elle permet aux arnaques de franchir une étape décisive. Un être humain peut déjouer une escroquerie qu'une simple conversation par messagerie instantanée ne peut résoudre. C'est pourquoi des personnes comme Angel, originaire d'Ouzbékistan, ont un emploi, et pourquoi vous devez être plus vigilant que jamais.
Quelque chose vous semble étrange ? Vérifiez avant de cliquer.
Malwarebytes Scam Guard vous aide à analyser instantanément les liens, les textes et les captures d'écran suspects.
Disponible avec Malwarebytes Premium Security pour tous vos appareils, et dans l' application Malwarebytes pour iOS et Android .
