L'IA en cybersécurité : Risques de l'IA
Depuis des années, l'intelligence artificielle (IA) améliore les outils de cybersécurité. Par exemple, les outils d'apprentissage automatique ont rendu la sécurité des réseaux, les logiciels anti-malware et de détection de fraude plus efficaces en détectant les anomalies beaucoup plus rapidement que les humains. Cependant, l'IA pose également un risque pour la cybersécurité. Les attaques par force brute, déni de service (DoS), et ingénierie sociale ne sont que quelques exemples de menaces utilisant l'IA.
Les risques de l'intelligence artificielle pour la cybersécurité devraient croître rapidement avec la baisse des coûts et la disponibilité accrue des outils IA. Par exemple, vous pouvez tromper ChatGPT en lui faisant écrire du code malveillant ou une lettre signée Elon Musk demandant des dons.
Vous pouvez également utiliser un certain nombre d'outils de deepfake pour créer des pistes audio ou des clips vidéo étonnamment convaincants avec très peu de données d'entraînement. Il y a également de plus en plus d'inquiétudes pour la vie privée à mesure que de plus en plus d'utilisateurs se sentent à l'aise de partager des informations sensibles avec l'IA.
Lisez ce guide détaillé pour en savoir plus sur :
- Définition de l'IA.
- Risques liés à l'intelligence artificielle.
- L'IA dans la cybersécurité.
- L'IA et les risques pour la vie privée.
Qu'est-ce que l'IA : Intelligence Artificielle
L'IA, ou intelligence artificielle, se réfère au développement de systèmes informatiques capables d'effectuer des tâches et de prendre des décisions qui nécessitent habituellement une intelligence humaine. Cela implique la création d'algorithmes et de modèles permettant aux machines d'apprendre des données, de reconnaître des motifs, et de s'adapter à de nouvelles informations ou situations.
En termes simples, l'IA consiste à apprendre aux ordinateurs à penser et à apprendre comme les humains. Elle permet aux machines de traiter et d'analyser de grandes quantités de données, d'identifier des motifs ou des anomalies, et de faire des prévisions ou des décisions basées sur ces informations. L'IA est utilisée dans diverses applications, telles que la reconnaissance d'image et de parole, le traitement du langage naturel, la robotique, et la cybersécurité, pour n'en nommer que quelques-unes.
Globalement, l'IA vise à imiter l'intelligence humaine pour résoudre des problèmes complexes, automatiser des tâches, et améliorer l'efficacité et la précision dans divers domaines.
Apprentissage automatique et apprentissage profond
L'apprentissage automatique (ML) est un sous-ensemble couramment utilisé de l'IA. Les algorithmes et techniques de ML permettent aux systèmes d'apprendre à partir des données et de prendre des décisions sans être explicitement programmés.
L'apprentissage profond (DL) est un sous-ensemble de ML qui utilise des modèles computationnels artificiels inspirés par le cerveau humain appelés réseaux de neurones pour des tâches plus avancées. ChatGPT est un exemple d'IA utilisant le ML pour comprendre et répondre aux demandes générées par l'homme.
IA étroite et intelligence artificielle générale
Tous les types d'IA sont considérés comme de l'IA étroite. Leur portée est limitée, et ils ne sont pas conscients. Des exemples de cette IA incluent les assistants vocaux, les chatbots, les systèmes de reconnaissance d'image, les véhicules autonomes et les modèles de maintenance.
L'intelligence artificielle générale (AGI) est un concept hypothétique qui se réfère à une IA consciente de soi qui pourrait égaler ou même surpasser l'intelligence humaine. Alors que certains experts estiment que l'AGI est à plusieurs années, voire décennies, d'éloignement, d'autres pensent que c'est impossible.
Qu'est-ce que l'IA générative ?
L'IA générative se réfère à une sous-catégorie de techniques d'intelligence artificielle impliquant la création et la génération de nouveau contenu, tel que des images, du texte, de l'audio, voire des vidéos. Cela implique d'entraîner des modèles pour comprendre les motifs dans les données existantes et ensuite utiliser cette connaissance pour générer du contenu nouveau, original, ressemblant aux données d'entraînement.
Une approche populaire de l'IA générative est l'utilisation de réseaux adverses génératifs (GANs). Les GANs consistent en deux réseaux de neurones : un réseau générateur et un réseau discriminateur. Le réseau générateur crée du nouveau contenu, tandis que le réseau discriminateur évalue et distingue entre le contenu généré et le contenu réel. Les deux réseaux travaillent de manière compétitive, avec le générateur tentant de produire du contenu que le discriminateur ne peut pas distinguer des données réelles.
L'IA générative a des applications dans divers domaines. Par exemple :
-
Génération d'images : L'IA générative peut être utilisée pour générer des images réalistes, comme la création de visages ou de paysages photoréalistes, voire d'objets entièrement nouveaux qui n'existent pas dans le monde réel.
-
Génération de texte : Les modèles génératifs peuvent être entraînés à générer des textes cohérents et pertinents sur le plan contextuel, qui peuvent être utilisés pour des tâches telles que les chatbots, la création de contenu ou la traduction.
-
Génération de musique et d'audio : L'IA générative peut créer de nouvelles compositions musicales ou générer des sons et des voix réalistes.
Bien que l'IA générative ait de nombreuses applications positives, il existe également des préoccupations quant à son éventuel mésusage, comme la génération de contenus faux ou de vidéos deepfake pouvant être utilisés pour tromper ou manipuler les gens. Les considérations éthiques et l'utilisation responsable de l'IA générative sont des éléments importants pour aborder ces risques.
Dans le domaine de la cybersécurité, l'IA générative peut être à la fois un outil et un défi. Elle peut être utilisée pour générer des données synthétiques réalistes afin d'entraîner des modèles et d'améliorer les mesures de sécurité, mais elle peut aussi poser des risques lorsqu'elle est utilisée à des fins malveillantes, comme la génération d'e-mails de phishing convaincants ou d'attaques d'ingénierie sociale en deepfake. Cela souligne l'importance de développer des défenses et des mécanismes de détection robustes pour atténuer les menaces potentielles.
Quels sont les risques de l'IA en cybersécurité
Comme toute technologie, l'IA peut être utilisée à des fins bénéfiques ou malveillantes. Les acteurs malveillants peuvent utiliser certains des mêmes outils d'IA conçus pour aider l'humanité à commettre des fraudes, escroqueries, et autres cybercrimes.
Examinons quelques risques liés à l'IA dans le domaine de la cybersécurité :
1 : Optimisation des cyberattaques
Les experts disent que les attaquants peuvent utiliser l'IA générative et les grands modèles de langage pour amplifier les attaques à une vitesse et une complexité encore jamais vues. Ils peuvent utiliser l'IA générative pour trouver de nouvelles façons de saper la complexité du cloud et tirer parti des tensions géopolitiques pour des attaques avancées. Ils peuvent également optimiser leurs techniques d'attaque par ransomware et phishing en les peaufinant avec l'IA générative.
2 : Logiciels malveillants automatisés
Une IA comme ChatGPT est excellente pour réaliser des calculs précis. Selon le professeur Oded Netzer de la Columbia Business School, ChatGPT peut déjà « écrire du code assez bien. »
Les experts estiment que dans un avenir proche, il pourrait aider les développeurs de logiciels, les programmeurs informatiques et les codeurs ou déplacer une plus grande partie de leur travail.
Bien que des logiciels comme ChatGPT disposent de protections pour éviter que les utilisateurs ne créent du code malveillant, des experts peuvent utiliser des techniques astucieuses pour les contourner et créer des logiciels malveillants. Par exemple, un chercheur a pu trouver une faille et créer un exécutable complexe de vol de données presque indétectable. Cet exécutable avait la sophistication d'un logiciel malveillant créé par un acteur menaçant soutenu par un État *.
Cela pourrait être la pointe de l'iceberg. Les futurs outils propulsés par l'IA pourraient permettre à des développeurs ayant des compétences de programmation débutantes de créer des logiciels malveillants automatisés, comme un bot malveillant avancé. Alors, qu'est-ce qu'un bot malveillant ? Un bot malveillant peut voler des données, infecter des réseaux et attaquer des systèmes avec peu ou pas d'intervention humaine.
* https://www.foxnews.com/tech/ai-created-malware-sends-shockwaves-cyber sécurité-monde
3 : Sécurité physique
À mesure que de plus en plus de systèmes comme les véhicules autonomes, l'équipement de fabrication et de construction, et les systèmes médicaux utilisent l'IA, les risques de l'intelligence artificielle pour la sécurité physique peuvent augmenter. Par exemple, une véritable voiture autonome basée sur l'IA qui subit une violation de la cybersécurité pourrait entraîner des risques pour la sécurité physique de ses passagers. De même, le jeu de données pour les outils de maintenance d'un chantier de construction pourrait être manipulé par un attaquant pour créer des conditions dangereuses.
Risques liés à la confidentialité de l'IA
Dans ce qui était un bug embarrassant pour le PDG d'OpenAI, Sam Altman, ChatGPT a divulgué des morceaux d'historique de conversations d'autres utilisateurs. Bien que le bug ait été corrigé, il existe d'autres risques potentiels pour la confidentialité en raison de la grande quantité de données traitées par l'IA. Par exemple, un hacker qui compromet un système d'IA pourrait accéder à différents types d'informations sensibles.
Un système d'IA conçu pour le marketing, la publicité, le profilage ou la surveillance pourrait également menacer la vie privée d'une manière que George Orwell n'aurait pu imaginer. Dans certains pays, la technologie de profilage par l'IA aide déjà les États à porter atteinte à la vie privée des utilisateurs.
Vol de modèles IA
Il existe des risques de vol de modèles d'IA via des attaques sur le réseau, des techniques d'ingénierie sociale, et des exploitations de vulnérabilités par des acteurs malveillants comme les agents soutenus par l'État, les menaces internes comme les espions d'entreprise, et les pirates informatiques. Les modèles volés peuvent être manipulés et modifiés pour aider les attaquants dans différentes activités malveillantes, aggravant ainsi les risques de l'intelligence artificielle pour la société.
Manipulation et empoisonnement des données
Bien que l'IA soit un outil puissant, elle peut être vulnérable à la manipulation des données. Après tout, l'IA dépend de ses données d'entraînement. Si les données sont modifiées ou empoisonnées, un outil propulsé par l'IA peut produire des résultats inattendus ou même malveillants.
En théorie, un pirate peut empoisonner un ensemble de données de formation avec des données malveillantes afin de modifier les résultats du modèle. Un pirate peut également initier une forme plus subtile de manipulation appelée injection de biais. Ces attaques peuvent être particulièrement préjudiciables dans des secteurs tels que les soins de santé, l'automobile et les transports.
Usurpation d'identité
Il suffit de regarder le cinéma pour voir comment les outils propulsés par l'IA aident les cinéastes à duper le public. Par exemple, dans le documentaire Roadrunner, la voix du défunt chef célèbre Anthony Bourdain a été controversiellement créée avec de l'audio généré par IA, trompant facilement les spectateurs. De même, l'acteur vétéran Harrison Ford a été convaincant par un rajeunissement de plusieurs décennies grâce à la puissance de l'intelligence artificielle dans Indiana Jones et le Cadran de la Destinée.
Un attaquant n'a pas besoin d'un gros budget hollywoodien pour réaliser un tel tour de passe-passe. Avec les bonnes séquences, n'importe qui peut créer des séquences deepfake en utilisant des applications gratuites. Les gens peuvent aussi utiliser des outils gratuits alimentés par l'IA pour créer des voix factices remarquablement réalistes en entraînant sur seulement quelques secondes d'audio.
Il n'est donc pas surprenant que l'IA soit désormais utilisée pour des escroqueries de kidnapping virtuel. Jennifer DeStefano a vécu le pire cauchemar pour un parent lorsque sa fille l'a appelée, criant et sanglotant. Sa voix a été remplacée par celle d'un homme qui a menacé de la droguer et de la maltraiter à moins de recevoir une rançon de 1 million de dollars.
Le hic ? Les experts supposent que la voix a été générée par une IA. Les forces de l'ordre pensent qu'en plus des opérations d'enlèvement virtuel, l'IA pourrait aider à d'autres types de fraude par usurpation d'identité, comme les arnaques aux grands-parents.
L'IA générative peut également produire du texte attribué à des leaders d'opinion. Les cybercriminels peuvent utiliser ces textes pour mener diverses escroqueries, telles que des faux tirages au sort, des opportunités d'investissement frauduleuses et des dons sur des plateformes comme les emails ou les réseaux sociaux tels que Twitter.
Des attaques plus sophistiquées
Comme mentionné, les acteurs malveillants peuvent utiliser l'IA pour créer des logiciels malveillants avancés, usurper l'identité d'autres personnes pour des escroqueries, et polluer les données d'entraînement de l'IA. Ils peuvent automatiser des attaques de phishing, de logiciels malveillants, et de bourrage d'identifiants grâce à l'IA. De plus, l'IA peut aider les attaques à échapper aux systèmes de sécurité comme les logiciels de reconnaissance vocale dans des attaques dites « adversariales ».
Atteinte à la réputation
Une organisation qui utilise l'IA peut subir une atteinte à sa réputation si la technologie fonctionne mal ou est victime d'une faille de sécurité informatique, entraînant une perte de données. Ces organisations peuvent alors faire face à des amendes, des pénalités civiles, et à une détérioration de leurs relations avec les clients.
Comment vous protéger contre les risques de l'IA
Bien que l'IA soit un outil puissant, elle peut présenter des risques en matière de cyber sécurité. Tant les individus que les organisations doivent adopter une approche globale et proactive pour utiliser la technologie en toute sécurité.
Voici quelques conseils pour vous aider à atténuer les risques liés à l'IA :
1. Auditez tous les systèmes d'IA que vous utilisez
Vérifiez la réputation actuelle de tout système d'IA que vous utilisez pour éviter les problèmes de sécurité et de confidentialité. Les organisations devraient auditer leurs systèmes périodiquement pour combler les vulnérabilités et réduire les risques liés à l'IA. Les audits peuvent être effectués avec l'aide d'experts en cybersécurité et en intelligence artificielle qui peuvent réaliser des tests de pénétration, des évaluations des vulnérabilités et des revues de systèmes.
2. Limitez les informations personnelles partagées par l'automatisation
De plus en plus de personnes partagent des informations confidentielles avec l'intelligence artificielle sans en comprendre les risques pour la vie privée. Par exemple, des employés d'organisations de renom ont été surpris à mettre des données sensibles de l'entreprise dans ChatGPT. Même un médecin a soumis le nom de son patient et sa condition médicale dans le chatbot pour rédiger une lettre, sans se rendre compte du risque de sécurité de ChatGPT.
De telles actions posent des risques de sécurité et enfreignent des réglementations sur la confidentialité comme HIPAA. Même si les modèles linguistiques d'IA ne peuvent pas divulguer d'informations, les conversations sont enregistrées pour le contrôle de qualité et sont accessibles aux équipes de maintenance du système. C'est pourquoi il est préférable de ne pas partager d'informations personnelles avec l'IA.
3. Sécurité des données
Comme mentionné, l'IA dépend de ses données d'entraînement pour fournir de bons résultats. Si les données sont modifiées ou polluées, l'IA peut produire des résultats inattendus et dangereux. Pour protéger l'IA contre les empoisonnements de données, les organisations doivent investir dans des technologies de pointe en matière de cryptographie, de contrôle d'accès, et de sauvegarde. Les réseaux doivent être sécurisés avec des pare-feux, des systèmes de détection d'intrusions, et des mots de passe sophistiqués.
4. Optimisez les logiciels
Suivez toutes les meilleures pratiques de maintenance logicielle pour vous protéger des risques liés à l'IA. Cela inclut la mise à jour de votre logiciel IA et de vos frameworks, systèmes d'exploitation, et applications avec les derniers correctifs pour réduire les risques d'exploitation et d'attaques de logiciels malveillants. Protégez vos systèmes avec une technologie antivirus de nouvelle génération pour arrêter les menaces malveillantes avancées. En outre, investissez dans des mesures de sécurité des réseaux et des applications pour renforcer vos défenses.
5. Entraînement adversarial
L'entraînement adversarial est une mesure de sécurité spécifique à l'IA qui aide l'intelligence artificielle à répondre aux attaques. Cette méthode d'apprentissage automatique améliore la résilience des modèles d'IA en les exposant à différents scénarios, données, et techniques.
6. Formation du personnel
Les risques liés à l'IA sont assez larges. Consultez des experts en cybersécurité et en IA pour former vos employés à la gestion des risques liés à l'IA. Par exemple, ils devraient apprendre à vérifier les emails qui pourraient potentiellement être des attaques de phishing conçues par l'IA. De même, ils devraient éviter d'ouvrir des logiciels non sollicités qui pourraient être des logiciels malveillants créés par l'intelligence artificielle.
7. Gestion des vulnérabilités
Les organisations peuvent investir dans la gestion des vulnérabilités de l'IA pour réduire le risque de fuites de données. La gestion des vulnérabilités est un processus de bout en bout qui implique l'identification, l'analyse, et la priorisation des vulnérabilités afin de réduire votre surface d'attaque liée aux caractéristiques uniques des systèmes d'IA.
8. Réponse aux incidents liés à l'IA
Malgré les meilleures mesures de sécurité, votre organisation pourrait subir une attaque liée à l'IA puisque les risques de l'intelligence artificielle augmentent. Vous devez avoir un plan de réponse aux incidents clairement défini qui couvre le confinement, l'enquête, et la remédiation pour se remettre d'un tel événement.
L'autre face de la médaille : Comment l'IA peut profiter à la cybersécurité
Des industries de toutes tailles et de tous secteurs utilisent l'IA pour améliorer la cybersécurité. Par exemple, toutes sortes d'organisations dans le monde entier utilisent l'IA pour authentifier les identités, des banques aux gouvernements. Les secteurs de la finance et de l'immobilier utilisent l'IA pour détecter les anomalies et réduire le risque de fraude.
Voici comment l'IA bénéficie à la cybersécurité :
1. Détection des cybermenaces
Les logiciels malveillants sophistiqués peuvent contourner les technologies de cybersécurité standard en utilisant différentes techniques d'évasion, y compris la modification du code et de la structure. Cependant, les logiciels antivirus avancés peuvent utiliser l'IA et l'apprentissage automatique pour détecter les anomalies dans la structure, la logique de programmation, et les données d'une menace potentielle.
Les outils de détection de menaces alimentés par l'IA peuvent protéger les organisations en traquant ces menaces émergentes et en améliorant les capacités d'alerte et de réponse. De plus, le logiciel de sécurité des points de terminaison alimenté par l'IA peut protéger les ordinateurs portables, les smartphones, et les serveurs d'une organisation.
2. Modèles prédictifs
Les professionnels de la cybersécurité peuvent passer d'une posture réactive à proactive en utilisant l'IA générative. Par exemple, ils peuvent utiliser l'IA générative pour créer des modèles prédictifs qui identifient de nouvelles menaces et atténuent les risques.
Ces modèles prédictifs aboutiront à :
- Une détection des menaces plus rapide
- Économies de temps
- Réduction des coûts
- Amélioration de la réponse aux incidents
- Meilleure protection contre les risques
3. Détection de phishing
Les emails de phishing sont un vecteur de menace important. Avec peu de risques, les acteurs de la menace peuvent utiliser des campagnes de phishing pour voler des informations sensibles et de l'argent. De plus, les emails de phishing deviennent de plus en plus difficiles à distinguer des vrais emails.
L'IA peut renforcer la cybersécurité en améliorant la protection phishing. Les filtres de messagerie utilisant l'IA peuvent analyser les textes pour signaler les emails aux motifs suspects et bloquer différents types de spam.
4. Identification des robots
Les robots peuvent endommager ou mettre hors ligne des réseaux et des sites Web, impactant négativement la sécurité, la productivité, et les revenus d'une organisation. Les bots peuvent également prendre le contrôle de comptes avec des informations d'identification volées et aider les cybercriminels à se livrer à la fraude et aux escroqueries.
Les logiciels qui exploitent des modèles basés sur l'apprentissage automatique peuvent analyser le trafic réseau et les données pour identifier les modèles de robots et aider les experts en cybersécurité à les neutraliser. Les professionnels des réseaux peuvent également utiliser l'IA pour développer des CAPTCHA plus sécurisés contre les robots.
5. Sécurisation des réseaux
Les attaquants peuvent extraire des données ou infecter des systèmes avec des ransomwares après avoir violé un réseau. Détecter ces menaces précocement est crucial. La détection d'anomalies basée sur l'IA peut scanner le trafic réseau et les journaux système pour détecter des accès non autorisés, un code inhabituel, et d'autres modèles suspects afin de prévenir les violations. De plus, l'IA peut aider à segmenter les réseaux en analysant les besoins et les caractéristiques.
6. Réponse aux incidents
L'IA peut améliorer la chasse aux menaces, la gestion des menaces, et la réponse aux incidents. Elle peut travailler en continu pour réagir aux menaces et prendre des mesures d'urgence même quand votre équipe est déconnectée. De plus, elle peut réduire les temps de réponse aux incidents pour minimiser les dommages causés par une attaque.
7. Atténuation des menaces internes
Les menaces internes doivent être prises au sérieux car elles peuvent coûter à une organisation en termes de revenus, secrets commerciaux, données sensibles, et plus encore. Il existe deux types de menaces internes : malveillantes et involontaires. L'IA peut aider à arrêter les deux types de menaces internes en identifiant les comportements d'utilisateurs risqués et en empêchant la divulgation d'informations sensibles en dehors des réseaux de l'organisation.
8. Renforcement du contrôle d'accès
De nombreux outils de contrôle d'accès utilisent l'IA pour améliorer la sécurité. Ils peuvent bloquer les connexions à partir d'adresses IP suspectes, signaler des événements suspects et demander aux utilisateurs ayant des mots de passe faibles de modifier leurs identifiants de connexion et de passer à l'authentification multi-facteurs.
L'IA aide également à authentifier les utilisateurs. Par exemple, elle peut s'appuyer sur les données biométriques, les informations contextuelles et le comportement des utilisateurs pour vérifier précisément l'identité des utilisateurs autorisés et réduire les risques de mauvais usage.
9 : Identifier les faux positifs
Les faux positifs peuvent être épuisants pour les équipes informatiques à gérer. Le volume élevé de faux positifs peut entraîner des défis pour la santé mentale. Ils peuvent également amener les équipes à manquer des menaces légitimes. Cependant, le volume de faux positifs peut être réduit grâce à des outils de cybersécurité utilisant l'intelligence artificielle pour améliorer la précision de la détection des menaces. Ces outils peuvent aussi être programmés pour gérer automatiquement les menaces à faible probabilité qui consomment le temps et les ressources d'une équipe de sécurité.
10 : Efficacité et coûts du personnel informatique
De nombreuses petites et moyennes entreprises ne peuvent pas se permettre d'investir dans une grande équipe de cybersécurité interne pour gérer des menaces de plus en plus sophistiquées 24/7. Cependant, elles peuvent investir dans une technologie de cybersécurité alimentée par l'IA qui fonctionne en continu pour offrir une surveillance constante, améliorer l'efficacité et réduire les coûts. Cette technologie peut également évoluer de manière rentable avec la croissance d'une entreprise.
De plus, l'IA améliore l'efficacité du personnel car elle ne se fatigue pas. Elle offre la même qualité de service à toute heure du jour, réduisant ainsi le risque d'erreur humaine. L'IA peut également gérer des quantités de données beaucoup plus importantes qu'une équipe de sécurité humaine.