Et l'IA apprit à hacker
La cybersécurité offensive sur le point de faire, elle aussi, sa petite révolution.
Annoncée depuis un certain temps, l'intégration de l'intelligence artificielle dans la cybersécurité offensive tardait à faire son apparition. Mais cette automne quelques signes sont apparus. Une étape est en train d'être franchie, les IA hackeuses sont en préparation.
Depuis 2024, on tâtonnait. La cellule de « Renseignement sur les cyber-menaces » de Microsoft avait donné le ton. Dans un rapport publié en janvier et intitulé « Garder de l'avance sur les cyber-menaces à l'âge de l'AI », l'entreprise affirmait que « les acteurs malveillants explorent et testent les différentes technologies d'IA afin d'évaluer leur valeur potentielle pour leurs opérations ». Des groupes étatiques russes affiliés au renseignement militaire sont observés en train d'essayer de comprendre les protocoles de communication des satellites. Des groupes iraniens explorent des techniques pour éviter les détections par les antivirus. Mais globalement Microsoft annonçait : « Il est important de noter que nos recherches avec OpenAI n'ont pas identifié d'attaques significatives utilisant les LLM que nous surveillons de près ».
À cette époque, c'est surtout le « Phishing » généré par IA qui est massivement adopté par les cyber-criminels. Plus de fautes d'orthographe dans vos spams !
En janvier 2025, c'est Google qui publie son rapport et les choses ne semblent pas avoir radicalement changé. « Les acteurs malveillants expérimentent Gemini pour faciliter leurs opérations, constatant des gains de productivité, mais sans encore développer de nouvelles capacités. À l'heure actuelle, ils utilisent principalement l'IA pour la recherche, le débogage de code, ainsi que la création de contenus sur mesures ». Mais on sent que les choses ne vont pas en rester là. « Nous prévoyons que le paysage des menaces évoluera au fur et à mesure que les acteurs malveillants adopteront de nouvelles technologies d'IA dans leurs opérations ».
Depuis novembre 2025, des signes montrent qu'une étape va être franchie.
C'est d'abord Microsoft qui donne l'alerte le 5 novembre. L'entreprise vient de détecter une nouvelle famille de malware, nommée PROMPTFLUX, mettant en oeuvre, à grande échelle, la capacité régénérer son propre code à l'aide de l'IA « Gémini ». Le malware devient ainsi difficilement détectable par les moyens de défense. Il ne possède plus de code fixe mais peut s'ajouter de nouvelles fonctionnalités au gré des besoins des attaquants.
Puis le 12 novembre, c'est au tour de l'entreprise Anthropic de tirer la sonnette d'alarme. Elle a détecté ce qui semble être une première campagne de piratage réalisée à plus de 80% par son IA « Claude ». Ici les pirates ont donné à l'IA l'accès à des outils d'intrusions open-source et elle s'est chargée d'en orchestrer les détails, les hackers n'intervenant qu'aux moments cruciaux. L'attaque en question a visé plus de trente cibles importantes et semble avoir obtenu des succès. Dans certains cas, Anthropic observe des mouvements latéraux dans les réseaux des victimes, l'extraction des données et leur analyses post-mortem. Une IA « hackeuse » capable de réaliser ces tâches plus rapidement et bientôt plus efficacement qu'un groupe de pirates.
La communauté de la sécurité informatique s'est offusquée de la légèreté du rapport. Pas d'indicateurs de l’infrastructure utilisée, pas de listes d'outils mis en oeuvre, pas d'empreintes des implants générés. Un rapport uniquement pour se faire mousser ?
Il ne faut pas, bien sur, exagérer ces deux alertes récentes. Dans les deux cas, les entreprises signalent que les pirates sont encore en phase d’expérimentation. Et ils sont contraints par les mesures de sécurité mises en place sur les IA publiques. Il leur faut mentir à l'IA, prétendant être des étudiants pour avoir des réponses ou de granulariser leurs questions pour éviter d'être bloqués.
Mais ces signaux sont la marque d'une changement plus profond. Les meilleurs modèles actuels semblent être en mesure de se mettre à pirater. Des modèles alternatifs parfois open-source, ne sont pas loin derrière. L'entreprise « Rapid7 », qui édite la plateforme d'intrusion « Metasploit » à déjà annoncé une version automatisée de son outil.
Dans le darknet, les IA pirates s’affûtent. Les plus gros groupes cyber-criminels doivent être en train de se positionner. Les groupes gouvernementaux, pourront eux, compter sur les IA étatiques, gavées aux fuites de données issues des piratages de ces dernières années. Quand aux script-kiddies, ils se ruent déjà vers les projets libres naissant. Strix, un framework d'« IA Hackeuse » est numéro 1 des tendances sur Github depuis plusieurs jours.
