L'Intelligence Artificielle Générative (IAG) a provoqué un changement tectonique dans le domaine de l'informatique, érigeant la cybersécurité en un champ de bataille numérique où la vitesse et la sophistication sont les nouvelles monnaies. Cette technologie est désormais un outil à double tranchant qui, d'un côté, offre des capacités de défense inédites aux organisations et, de l'autre, fournit aux acteurs malveillants des moyens d'attaque massifs et personnalisés.

L'IAG est en train de rendre le cybercrime plus accessible et surtout plus crédible, ce qui constitue le danger le plus immédiat. L'impact est particulièrement visible dans les techniques d'ingénierie sociale et de fraude.

Premièrement, l'IA générative permet d'automatiser l'usurpation d'identité à une échelle industrielle. Des outils sophistiqués créent des deepfakes vocaux et vidéos d'une fidélité bluffante, rendant les fraudes au président ou les tentatives d'extorsion personnelles extrêmement difficiles à distinguer de la réalité. Cette capacité est exploitée par les cybercriminels pour générer des messages et des scénarios très convaincants qui échappent aux contrôles basés sur les erreurs ou les incohérences classiques. Pour l'utilisateur, cela se traduit par une recrudescence du phishing ultra-ciblé (spear-phishing), où les messages sont parfaitement rédigés, sans les fautes d'orthographe qui trahissaient autrefois les escrocs. L'IA peut imiter le style et le ton d'un individu ou d'une institution, augmentant le taux de succès des attaques.

Deuxièmement, l'IAG devient un moteur pour la création de logiciels malveillants (malwares). En utilisant des modèles de langage entraînés sur du code, les attaquants peuvent générer rapidement des fragments de code qui sont polymorphes (changeant de forme) ou fautifs pour contourner les systèmes de détection basés sur les signatures traditionnelles. Le risque est particulièrement marqué lorsque les Large Language Models (LLM) tombent entre de mauvaises mains , offrant aux cybercriminels, même moins expérimentés, une aide précieuse pour perfectionner leurs attaques. Cela démocratise la création de rançongiciels (ransomwares) et d'autres menaces complexes, ce qui augmente considérablement le volume des attaques à l'échelle mondiale.

Enfin, l'utilisation de l'IA pour l'analyse de vastes ensembles de données facilite la recherche et l'exploitation de vulnérabilités “zéro-day” (failles inconnues des développeurs). L'IAG agit comme un scanner accéléré pour détecter des faiblesses dans les systèmes, transformant la surface d'attaque en un territoire mouvant et périlleux. Un aspect critique souligné par l'ANSSI est que l'IA peut non seulement être un outil d'attaque, mais qu'elle introduit elle-même de nouvelles vulnérabilités dans les systèmes qui l'utilisent, notamment si les modèles sont mal sécurisés ou si l'environnement d'exécution est compromis .

Face à cette escalade, l'IAG est également devenue indispensable pour les défenseurs, représentant un puissant multiplicateur de force pour les équipes de sécurité débordées.

Le rôle principal de l'IA défensive est l'automatisation de la détection et de la réponse. Les outils basés sur l'apprentissage automatique (ML) excellent dans l'analyse de l'énorme volume d'événements (logs et trafic réseau) générés par les entreprises. Ils sont capables d'établir une “ligne de base” comportementale normale et de repérer instantanément toute anomalie qui pourrait signaler une intrusion ou une menace émergente. Cette capacité permet de réduire drastiquement le temps entre l'identification d'une menace et la réponse automatisée, comme l'isolation d'un poste infecté ou le blocage d'une adresse IP malveillante via des plateformes SOAR (Security Orchestration, Automation and Response).

De plus, l'IA est de plus en plus utilisée pour sécuriser le code en amont. Les outils d'analyse de code basés sur l'IA peuvent identifier les failles de sécurité potentielles pendant que les développeurs écrivent le code, appliquant les principes de la sécurité “shift-left” pour corriger les problèmes avant le déploiement. L'ANSSI insiste sur la nécessité pour les acteurs de la cybersécurité de maîtriser et d'encadrer ces outils d'IA. Pour les entreprises, l'une des principales solutions pour se protéger réside dans la sensibilisation accrue des employés aux risques du deepfake et du phishing avancé, car l'humain reste la cible la plus facile à exploiter.

En conclusion, l'IAG a forcé la cybersécurité à passer d'un modèle réactif à un modèle proactif et adaptatif. La clé de la résilience ne réside plus dans le simple blocage, mais dans la maîtrise du modèle d'IA lui-même : les organisations doivent impérativement investir dans la formation de leurs équipes pour qu'elles comprennent le fonctionnement de ces outils, à la fois pour se défendre contre les menaces sophistiquées et pour exploiter pleinement les capacités d'anticipation et de détection offertes par l'Intelligence Artificielle.

Mots-clés : IA Générative, Cybersécurité, Deepfake, Ransomware, LLM.

sources :

https://revuefrancaisedecomptabilite.fr/lia-generative-quelles-sont-les-cybermenaces-et-comment-sen-proteger/ https://cyber.gouv.fr/intelligence-artificielle-les-travaux-de-lanssi https://www.solutions-numeriques.com/communiques/ia-generative-et-cybersecurite-offensive-quand-les-llm-tombent-entre-de-mauvaises-mains/