Vidéos d'Halloween réalisées par l'IA : Qui récupère vos photos ?

Pour Halloween, l'IA s'occupe des costumes. Téléchargez une photo et vous pouvez vous transformer en vampire, entourer votre chien de citrouilles ou devenir la star d'une « histoire d'amour zombie » virale : votre partenaire s'est transformé, vous baissez votre arme et le saut du zombie se termine par une étreinte.

Mais avant de télécharger vos photos, savez-vous qui les recevra ?

En septembre, nous avions évoqué plus de 100 sites d'abonnement créés à partir du même kit de site web bon marché . À l'approche d'Halloween, nous avons constaté que la même méthode était utilisée pour vendre des vidéos d'Halloween réalisées par IA.

Nous n'avons trouvé aucun logiciel malveillant ni tentative d'hameçonnage sur les sites examinés. Ce qui nous a inquiétés, c'est le peu d'informations que nous avons pu recueillir sur leurs administrateurs et sur les personnes responsables des photos mises en ligne.

Soigné, aimable et anonyme

Ces sites ont une apparence professionnelle et semblent rassurants. Ils promettent le respect de la vie privée, proposent une FAQ et des politiques de remboursement, et certains ajoutent même des cases à cocher pour le consentement concernant les photos d'enfants. L'un d'eux se présente comme « un outil indépendant sans aucun lien avec TikTok ni aucun studio de cinéma ».

Ce qu'ils ne vous disent pas, c'est qui se cache derrière tout ça. Sur les sites que nous avons consultés, nous n'avons trouvé ni nom d'entreprise, ni adresse, ni nom d'exploitant, seulement une adresse e-mail d'assistance sur le domaine du site.

Où vont vos photos ?

Ces sites demandent des photos nettes et bien éclairées de vous, de votre partenaire, de vos amis, de vos animaux de compagnie et, avec l'autorisation d'un parent, de vos enfants.

Les sites que nous avons consultés indiquent faire appel à des prestataires externes spécialisés en IA pour générer les vidéos. Cela signifie que vous faites confiance à la fois au site web qui collecte vos photos et aux prestataires qui les traitent.

Où que vous téléchargiez des photos, vérifiez qui peut y accéder et comment elles peuvent être utilisées. Des escrocs peuvent utiliser l'image d'une personne pour créer de fausses images intimes et exiger de l'argent pour les garder privées. Dans notre rapport Face Value , 10 % des personnes interrogées ont déclaré avoir été menacées de diffuser du contenu explicite les concernant, généré par une IA. Nous n'avons trouvé aucune preuve de tels agissements sur ces sites d'Halloween, mais cela nous incite à la prudence quant au partage de nos photos.

Ces sites promettent de supprimer les fichiers téléchargés sous quelques jours, et nous n'avons aucune preuve qu'ils ne le fassent pas. Cependant, nous n'avons pas pu vérifier ces promesses de manière indépendante. En l'absence d'un opérateur identifiable, il est plus difficile de déterminer qui est responsable du traitement de vos photos et du traitement des demandes de suppression.

La connexion Google ne permet pas d'identifier toutes les personnes qui manipulent vos photos.

Ces sites utilisent la véritable fenêtre de connexion Google ; vous saisissez donc votre mot de passe dans Google, et non sur le site vidéo. Toutefois, l’utilisation de Google pour se connecter ne signifie pas que Google approuve le service ni qu’il garantit le respect de la vie privée.

Cliquez sur le nom de l'application dans la fenêtre de connexion Google pour afficher les informations du développeur . Sur un site que nous avons examiné, le seul contact indiqué était une adresse Gmail. Nous avons constaté le même problème sur les sites de septembre. Une adresse Gmail à elle seule ne prouve pas une infraction, mais elle ne permet pas non plus d'identifier l'opérateur.

Sur un autre site, Google indiquait que vous vous connectiez « pour continuer sur neon.tech ». Neon est une société légitime de bases de données et un fournisseur de services d'authentification . La présence de son nom ici ne signifie pas qu'elle exploite ou cautionne le site de vidéos d'Halloween.

Les fournisseurs d'authentification peuvent gérer la connexion Google pour le compte d'un site. Selon la configuration, Google peut afficher le domaine du fournisseur au lieu du nom du site vidéo. Ici, l'écran de connexion n'indiquait pas clairement aux visiteurs qui gérait le service d'Halloween.

Construit à partir d'un kit, recyclé pour la prochaine tendance

Des sites comme ceux-ci ne nécessitent pas forcément une équipe ni des mois de travail. Certains utilisent le même kit de site web à 249 $ dont nous parlions en septembre, qui promet de « lancer son produit d'IA en une heure ». Sur un site sur le thème d'Halloween, les créateurs n'avaient même pas supprimé le contenu d'exemple du kit. Une note, dissimulée sur la page, indiquait qu'il s'agissait d'un « site de démonstration » pour le modèle, ainsi que des liens factices comme « nom-de-votre-application ».

Le code d'un autre site contenait des vestiges d'un système de création de vidéos de rap et de danse par IA, notamment une scène de type « hall d'hôtel », un studio d'enregistrement et des textes de rap écrits par l'IA. Ces vestiges laissent penser que le site utilise également du code destiné à d'autres services vidéo basés sur l'IA.

L'utilisation d'un kit de site web n'est pas suspecte en soi. Cependant, une page web soignée peut être créée rapidement, et son apparence ne vous renseigne donc que peu sur l'entreprise qui gère vos photos.

Prenez votre temps avant de payer, vous aussi.

Sur un site, un simple extrait de 15 secondes d'un film de zombies coûtait 9,99 $. La page des prix incitait les visiteurs à opter pour des packs plus importants, ramenant le prix affiché par vidéo à 2,99 $. Mais ce prix minimum impliquait de dépenser 199 $ pour obtenir suffisamment de crédits pour visionner environ 66 films de zombies. Des abonnements mensuels et annuels étaient également proposés, jusqu'à 600 $ par an.

Un site utilisait également des offres à compte à rebours, des rappels dans l'onglet du navigateur et des affirmations sur le nombre de personnes ayant réalisé des films ce jour-là pour inciter les visiteurs à acheter.

Inutile de vous précipiter. Examinez attentivement les conditions de paiement, tout comme la politique de confidentialité. Les sites eux-mêmes préviennent que l'IA peut modifier les visages ; votre vidéo pourrait donc ne pas vous ressembler. D'après les politiques que nous avons consultées, les crédits sont remboursés si la génération de la vidéo échoue. En revanche, si le résultat ne vous convient pas, recommencer vous coûtera des crédits supplémentaires.

Les abonnements sont renouvelés automatiquement jusqu'à leur annulation, les forfaits annuels sont facturés en une seule fois et certains crédits expirent avant d'être utilisés.

Que vérifier avant de télécharger vos photos

Quel que soit l'outil ou la plateforme que vous choisissez, assurez-vous d'être à l'aise avec la manière dont il gérera vos données, vos photos et vos informations de paiement.

• Renseignez-vous sur le responsable du service. Recherchez un nom d'opérateur et des coordonnées claires. Si vous ne parvenez pas à identifier la personne responsable de vos photos, envisagez un autre service.
• Vérifiez où sont stockées vos photos. Consultez la politique de confidentialité pour en savoir plus sur les fournisseurs d'IA externes, les durées de conservation et si les photos téléchargées peuvent être utilisées pour l'entraînement des IA.
• Recherchez la procédure de suppression. Vérifiez comment demander la suppression et si la politique explique ce qu'il advient des copies détenues par des prestataires externes.
• Soyez particulièrement vigilant avec les photos d'enfants. Une case à cocher pour l'autorisation parentale n'indique pas comment le service les protégera. Ne téléchargez les photos d'autres personnes qu'avec leur permission.
• Lisez la fenêtre de connexion Google. Vérifiez les informations du développeur et les autorisations demandées. La connexion Google ne remplace pas la vérification du service lui-même.
• Ne tenez pas compte des comptes à rebours et vérifiez les conditions de paiement. Prenez le temps de bien comprendre le coût total, la date d'expiration du crédit et si votre achat entraîne le lancement d'un abonnement.
• Vérifiez ensuite vos connexions Google. Supprimez les services que vous n'utilisez plus des connexions tierces de votre compte Google . Cela n'annule pas les abonnements et ne supprime pas les photos ni les autres données déjà enregistrées par le service.

Comment Malwarebytes peut aider

Si un site web vous inquiète, Malwarebytes Scam Guard peut vous aider à l'évaluer. Malwarebytes Browser Guard permet de bloquer les sites frauduleux et malveillants connus.

Ces outils ne permettent toutefois pas de vérifier les promesses de suppression de photos faites par un service. Il est donc toujours conseillé de vérifier qui gère le service et quelles sont ses conditions de confidentialité avant de télécharger des photos.

Quelque chose vous semble étrange ? Vérifiez avant de cliquer. 

Malwarebytes Scam Guard vous aide à analyser instantanément les liens, les textes et les captures d'écran suspects.  

Disponible avec Malwarebytes Premium Security pour tous vos appareils, et dans l' application Malwarebytes pour iOS et Android .  

Essayez-le gratuitement →