L’Union européenne (UE) a commencé à appliquer des éléments clés de la loi sur l’IA, avec des conséquences immédiates et visibles pour les chatbots. deepfakes et d’autres systèmes d’intelligence artificielle (IA) destinés aux consommateurs.
À partir du 2 août, vous remarquerez probablement davantage d'étiquettes « ceci est de l'IA », des règles plus claires pour les modèles de base puissants et de nouvelles façons pour les utilisateurs et les chercheurs de signaler les dysfonctionnements des systèmes.
La loi sur l'IA est passée de la théorie à la pratique dans trois grands domaines :
- Modèles d’IA à usage général (GPAI) : Le nouveau Bureau de l’IA à Bruxelles, en collaboration avec les autorités nationales de réglementation, peut désormais faire appliquer des règles aux fournisseurs de modèles d’IA à usage général (comme les grands modèles de langage et autres modèles fondamentaux qui sous-tendent de nombreux outils).
- Obligations de transparence : Les règles de transparence s’appliquent aux systèmes interactifs et au contenu généré par l’IA : les chatbots doivent indiquer qu’ils sont des bots, et les contenus audio, images, vidéos et textes synthétiques doivent être marqués comme étant générés ou manipulés par l’IA.
- Utilisations de l'IA interdites : Un ensemble d'utilisations de l'IA présentant un « risque inacceptable » est désormais formellement interdit, et son application est partagée entre le Bureau de l'IA, les autorités nationales et le Contrôleur européen de la protection des données pour les institutions de l'UE.
Notez que le contenu généré et publié avant le 2 août n'a pas besoin d'être rétro-étiqueté, mais tout contenu publié à partir de cette date est soumis aux règles, même s'il a été généré plus tôt.
Du point de vue de la sécurité, l'effort de transparence de la loi sur l'IA vise moins à interdire l'IA qu'à supprimer son meilleur camouflage : se faire passer pour un humain.
Le non-respect des obligations de transparence peut entraîner des amendes allant jusqu'à 15 millions d'euros (17,3 millions de dollars) ou 3 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu, ce qui devrait être suffisamment important pour attirer l'attention des grands fournisseurs.
Pour que l'application de la loi ne soit pas une simple façade, le Bureau de l'IA a lancé des outils destinés aux personnes qui constatent les problèmes de l'intérieur ou en tant qu'utilisateurs :
- Outil de réclamation : Les particuliers et les organisations peuvent signaler les infractions présumées à la loi sur l’IA commises par les fournisseurs ou les déployeurs de systèmes d’IA supervisés par le Bureau de l’IA.
- Outil de lanceur d'alerte : Les personnes professionnellement liées aux fournisseurs ou aux déployeurs d'IA disposent d'un canal anonyme pour signaler les violations potentielles susceptibles de mettre en danger les droits fondamentaux, la santé ou la confiance du public.
- Canal de réclamation en aval : les entreprises qui développent des modèles GPAI peuvent signaler les violations présumées commises par les fournisseurs de modèles sous-jacents.
Cela crée une voie formelle pour signaler les problèmes systémiques : pensez aux comportements dangereux des modèles, aux conclusions ignorées des équipes rouges ou aux déploiements qui franchissent discrètement les limites légales en matière de manipulation ou de discrimination.
Interdiction des « nudistes » et des contenus abusifs
Le Bureau de l'IA a introduit des interdictions explicites concernant les systèmes d'IA qui génèrent du contenu sexuellement explicite ou intime non consensuel (y compris les applications « nudistes ») et du matériel pédopornographique.
Pour les victimes de ces abus, il ne s'agit pas d'une simple mesure symbolique. Elle offre aux autorités de régulation et aux forces de l'ordre une base juridique claire pour poursuivre à la fois les fournisseurs et les utilisateurs de tels systèmes au sein de l'UE, au lieu de tenter de les contraindre à se conformer à des lois anciennes et moins précises.
Ces règles s'appliqueront à compter du 2 décembre 2026, les entreprises ayant la possibilité de mettre leurs systèmes en conformité ou de les retirer du marché de l'UE.
Malheureusement, cela n'empêchera pas complètement les abus. Les attaquants continueront d'utiliser des outils et des infrastructures non étiquetés en dehors de l'UE. Mais cela renforce les exigences pour les services légitimes et complique la tâche des plateformes grand public qui souhaitent ignorer les risques liés aux fonctionnalités trompeuses basées sur l'IA.
La loi sur l'IA ne rendra pas l'IA sûre du jour au lendemain, mais elle fait évoluer la situation : d'une approche permissive, on passe à une approche plus stricte, avec l'obligation de respecter certaines règles de base pour toute entreprise opérant dans l'UE. Pour les utilisateurs, c'est un pas en avant vers des systèmes d'IA qu'ils peuvent au moins identifier et questionner, au lieu de voir une technologie invisible façonner discrètement notre expérience en ligne.
Les escrocs n'ont pas besoin de pirater votre ordinateur. Il leur suffit que vous cliquiez une seule fois.
Theft Identity Malwarebytes détecte les activités suspectes avant qu'elles ne posent problème.
