Les journalistes spécialisés en technologie de 404 Media ont appris qu'OpenAI embauche des centaines de contractuels pour lire et examiner un flux massif de requêtes et de réponses ChatGPT d'utilisateurs réels.
Le « projet Lily » serait un programme qui demanderait à des prestataires de noter ou de critiquer les réponses de ChatGPT afin d'améliorer la qualité et le comportement du chatbot.
Le fait que les messages vocaux puissent parfois être vérifiés par des humains ne devrait pas surprendre. Les entreprises spécialisées en IA surveillent également les conversations pour des raisons de sécurité. Anthropic, par exemple, affirme avoir déjoué des tentatives d'utilisation abusive de l'IA à des fins de recherche sur les armes biologiques .
Mais il convient d'établir une distinction significative entre l'examen des conversations à des fins de sécurité ou de détection d'abus et leur examen dans le cadre d'une amélioration classique du modèle.
OpenAI indique qu'un nombre limité de personnes autorisées et de prestataires de services de confiance peuvent accéder aux conversations pour plusieurs raisons, notamment pour enquêter sur les abus, fournir une assistance, traiter les questions juridiques et améliorer ses modèles.
OpenAI a déclaré à 404 Media qu'elle utilise un « Privacy Un modèle de « filtre » pour supprimer les informations personnelles avant que les demandes n'atteignent les examinateurs, tout en reconnaissant que des détails sensibles peuvent tout de même passer entre les mailles du filet.
Les requêtes sont anonymisées dans le sens où les évaluateurs ne voient pas le nom d'utilisateur de l'utilisateur ChatGPT qui les a saisies. Cependant, ils peuvent voir des détails personnels dans la conversation, ainsi qu'un « résumé des souvenirs de l'utilisateur » qui donne un aperçu de la façon dont cet utilisateur a utilisé le chatbot. Ensemble, ces informations pourraient néanmoins révéler beaucoup de choses sur cet utilisateur.
Il est parfois facile d'oublier que l'on ne tient pas une conversation privée lorsqu'on échange avec un chatbot. Il ne s'agit pas d'une mise en garde alarmiste contre l'utilisation de l'IA, mais d'un rappel : soyez attentif à ce que vous divulguez, car cela pourrait être lu et examiné.
Comment se désinscrire de la formation des chatbots IA
ChatGPT
OpenAI a indiqué à 404 Media que les conversations des utilisateurs ne seront pas utilisées pour améliorer les modèles de l'entreprise s'ils désactivent l' option « Améliorer le modèle pour tous » . Cette option est activée par défaut pour la version gratuite. Plus et les forfaits Pro, les utilisateurs doivent donc désactiver cette option eux-mêmes s'ils souhaitent s'en désinscrire.
Toutefois, le fait de se désinscrire n'empêche pas tout accès humain. OpenAI précise que le personnel autorisé et les prestataires de services de confiance peuvent toujours accéder au contenu lorsque cela s'avère nécessaire pour enquêter sur des abus ou des incidents de sécurité, fournir une assistance, résoudre des problèmes techniques ou traiter des questions juridiques.
Dans ChatGPT, sélectionnez votre icône de profil, puis accédez à Paramètres > Contrôle des données et désactivez « Améliorer le modèle pour tous » . Sur mobile, ouvrez la barre latérale, sélectionnez votre icône de profil, puis suivez les mêmes étapes.
Perplexité
Dans Perplexity, accédez à Paramètres > Préférences > Conservation des données IA et désactivez le paramètre.
Perplexity précise que cette mesure empêche l'utilisation des données collectées après votre refus de participer à l'entraînement des modèles d'IA. Elle ne supprime pas les données collectées antérieurement, et vos données peuvent toujours être traitées pour assurer le fonctionnement et l'amélioration du service ou pour respecter les obligations légales.
Claude
Dans Claude, sélectionnez votre nom et accédez à Paramètres > Privacy . Sous « Aidez-nous à améliorer nos modèles d’IA » , désactivez l’option.
Anthropic annonce que les nouvelles discussions et sessions de programmation ne seront plus utilisées pour l'entraînement des futurs modèles. L'entreprise cessera également d'utiliser les conversations précédemment enregistrées lors des prochains entraînements, même si les données déjà incluses dans l'entraînement ne peuvent pas être supprimées.
Anthropic note également une exception importante :
Si nos systèmes de classification de sécurité signalent vos conversations, celles-ci pourront néanmoins être utilisées pour améliorer nos modèles internes de confiance et de sécurité, détecter les contenus préjudiciables, appliquer nos politiques ou faire progresser nos recherches en matière de sécurité.
Si vous utilisez d'autres outils d'IA, consultez leurs politiques de confidentialité et leurs paramètres pour savoir si vos conversations peuvent être consultées ou utilisées pour l'amélioration du modèle et si vous pouvez vous y opposer.
Naviguez comme si personne ne vous regardait.
Malwarebytes Privacy VPN votre connexion et n'enregistre jamais vos activités, pour que le prochain article que vous lirez ne vous concerne pas personnellement.Essayez-le gratuitement →
