L'IA générative change-t-elle vraiment la menace informatique ?

Le rapport de l’ANSSI (février 2026) dresse un état des lieux lucide : pas d’attaque autonome documentée, mais une montée en puissance réelle des usages malveillants. Phishing assisté, code malveillant, compromission de modèles : voici les enseignements clés et les priorités à activer dès maintenant.

Résumé pour les pressés

• L’ANSSI ne constate pas d’attaques 100 % autonomes pilotées par IA en France à ce stade.

• En revanche, l’IA générative est déjà utilisée massivement pour améliorer la qualité, la vitesse et l’échelle des attaques.

• Hameçonnage multilingue crédible, aide au développement de code malveillant, analyse automatisée de données volées : les usages sont opérationnels.

• Les systèmes d’IA eux-mêmes deviennent une nouvelle surface d’attaque (empoisonnement, backdoors, compromission d’agents).

• Le vrai changement : l’IA abaisse la barrière d’entrée et augmente la productivité des attaquants.

• Priorité : traiter les systèmes d’IA comme des actifs critiques, avec gouvernance, contrôle des accès et traçabilité.

L’ANSSI remet les choses au clair

Le rapport publié en février 2026 adopte une position nuancée et pragmatique.

Non, les modèles génératifs ne sont pas devenus des attaquants autonomes capables de mener des campagnes complexes sans intervention humaine. Mais oui, ils sont déjà des accélérateurs puissants de la menace.

L’IA générative ne remplace pas les attaquants. Elle les rend plus efficaces. Et cela suffit à changer l’équation du risque.

Comment les attaquants utilisent déjà l’IA générative

L’ANSSI documente plusieurs usages concrets :

Ingénierie sociale à grande échelle

Les modèles génératifs permettent de produire :

• des messages d’hameçonnage convaincants, adaptés à la langue et au contexte,

• des faux profils crédibles,

• des sites de façade cohérents.

Résultat : des campagnes plus crédibles, plus personnalisées, plus difficiles à distinguer d’échanges légitimes.

L’IA ne crée pas le phishing. Elle le professionnalise.

Assistance au développement de code malveillant

Les grands modèles de langage peuvent :

• générer ou réécrire des scripts d’exploitation,

• suggérer des variantes pour contourner des mécanismes de détection,

• être sollicités dynamiquement par des logiciels malveillants.

Certains exemples montrent des programmes capables de modifier leur propre code via un modèle externe afin d’échapper aux signatures classiques.

La génération autonome de vulnérabilités « jour zéro » reste limitée. Mais la frontière technique progresse rapidement.

Analyse des données volées

Après une exfiltration, l’IA peut automatiser :

• le tri de volumes massifs de données,

• l’identification d’informations sensibles,

• la priorisation des éléments exploitables.

Ce qui prenait des jours peut désormais être réalisé en quelques heures.

L’attaque ne s’arrête plus à la compromission. Elle s’optimise.

Les systèmes d’IA deviennent eux-mêmes une cible

C’est l’autre versant du rapport. L’IA n’est pas seulement un outil pour l’attaquant. C’est aussi une surface d’attaque supplémentaire.

Empoisonnement des données d’entraînement

L’injection de contenus malveillants dans les jeux d’apprentissage peut altérer le comportement d’un modèle :

• désinformation,

• biais intentionnel,

• sabotage de réponses.

Des travaux montrent qu’un nombre limité de documents malveillants peut suffire à produire un effet mesurable.

Compromission de modèles et d’agents

Backdoors insérées dans des modèles, composants mal sécurisés, serveurs d’agents exposés, dépendances « squattées » dans la chaîne logistique : la menace supply chain s’étend désormais aux briques d’IA.

Un modèle compromis peut devenir un point d’entrée indirect dans le système d’information.

Fuites via usages non contrôlés

Comptes compromis, employés utilisant des IA publiques pour traiter des données sensibles, absence de gouvernance claire : la fuite ne vient pas toujours d’une attaque technique. Parfois, elle vient d’un usage mal cadré.

Ce que cela change pour les entreprises

Trois évolutions majeures ressortent.

1. L’échelle et la crédibilité

L’IA augmente la productivité des attaquants. Multilinguisme, génération de contenu cohérent, automatisation : les campagnes gagnent en volume et en réalisme.

2. La barrière à l’entrée

Des services « débridés » circulent sur des forums spécialisés. Des acteurs moins qualifiés peuvent désormais lancer des opérations plus sophistiquées qu’auparavant.

3. La nécessité de sécuriser l’IA elle-même

Les systèmes d’IA doivent être considérés comme des actifs critiques :

• gouvernance claire,

• traçabilité des données,

• sécurité des environnements,

• revue des fournisseurs.

Le sujet n’est plus expérimental. Il devient structurel.

Ce que recommande l'ANSSI

L’ANSSI renvoie à ses guides de bonnes pratiques. Voici une synthèse opérationnelle :

Mesures immédiates (0–30 jours)

• Recenser tous les usages d’IA internes et externes.

• Nommer un responsable du risque IA.

• Restreindre l’envoi de données sensibles vers des IA publiques

• Imposer une authentification forte sur les comptes liés aux outils d’IA.

• Auditer les accès existants.

Mesures à moyen terme (1–6 mois)

• Vérifier les garanties contractuelles des fournisseurs (données d’entraînement, sécurité).

• Cloisonner les environnements d’entraînement.

• Restreindre l’accès aux modèles critiques.

• Mettre en place des mécanismes de surveillance des comportements anormaux.

Posture durable

• Formaliser des processus de qualité et de traçabilité des jeux de données.

• Intégrer des scénarios IA dans les exercices de crise.

• Prévoir des procédures de mitigation (retrait d’un modèle, rollback, isolement).

Points de vigilance

• Identifier les usages « shadow AI ».

• Mettre en place des contrôles de prévention des fuites vers les interfaces publiques.

• Exiger des garanties de non-réutilisation des données.

• Surveiller les comportements anormaux des modèles et agents.

• Former les équipes aux risques spécifiques : injection de requêtes, contournement de garde-fous, empoisonnement.

Conclusion — ni panique, ni naïveté

Le rapport de l’ANSSI est mesuré. L’IA générative ne produit pas encore des cyberattaques autonomes omnipotentes. Mais elle rend les attaques :

• plus rapides,

• plus crédibles,

• plus accessibles.

La bonne nouvelle : les leviers de protection sont largement connus. Gouvernance, contrôle des accès, surveillance, traçabilité. Ils doivent simplement s’étendre aux systèmes d’IA et à leur chaîne d’approvisionnement.

Sécuriser l’IA ne relève pas de la science-fiction. C’est un sujet de gouvernance, de responsabilité et de priorisation. Et plus tôt ces garde-fous sont posés, plus la fenêtre d’opportunité des attaquants se réduit.

Si vous voulez accéder à l'intégralité du rapport, c'est par ici.