Quand les modèles d’IA de frontière fracturent la sécurité logicielle

Introduction

Unit 42 a récemment testé des modèles d’IA de frontière en conditions réelles. Qu’il s’agisse de vitesse, d’échelle ou de capacité pure, nos premières observations révèlent une très nette progression dans l’identification des failles logicielles. Au-delà d’un simple assistant de code, le raisonnement autonome dont font preuve certains modèles les rapproche désormais du rôle d’un chercheur en sécurité à part entière. Ces avancées soulèvent toutefois des inquiétudes sur plusieurs points :

• La découverte autonome de failles zero-day
• La réduction de la fenêtre de correction des vulnérabilités N-day
• L’enchaînement de vecteurs d’exploitation complexes
• Le contournement en temps réel des contrôles de sécurité renforcés

L’impact des modèles d’IA de frontière sur le champ des menaces s’étend bien au-delà de la découverte et de l’exploitation de vulnérabilités. À mesure qu’ils se démocratiseront, tout indique que nous assisterons à une augmentation radicale de la vitesse et de l’ampleur des menaces pilotées par IA, et ce à toutes les étapes du cycle d’attaque.

Les modèles de frontière exposent la fragilité de l’écosystème logiciel

Comme l’ont expliqué en détail nos collègues d’Anthropic, les modèles d’IA de frontière représentent une avancée majeure dans les capacités de l’intelligence artificielle. Tout d’abord, ils ne demandent qu’une intervention humaine minime pour identifier les vulnérabilités au sein des systèmes et des logiciels. Ensuite, ils sont capables d’analyser les chemins d’attaque associés, y compris des chaînes d’exploits complexes.

Nos analyses préliminaires indiquent que les modèles d’IA de frontière vont accroître considérablement les risques liés aux failles logicielles zero-day et N-day. En abaissant les barrières à l’entrée, ils permettront à des attaquants novices d’identifier des chaînes d’exploits complexes, accélérant ainsi radicalement le cycle d’attaque – de la découverte jusqu’à l’exploitation.

Risques inhérents à la supply chain et aux logiciels open-source

Les logiciels open-source (OSS) sont particulièrement menacés par les modèles d’IA de frontière, ne serait-ce qu’à court terme. On a longtemps considéré que « plus le code était examiné, plus les bugs devenaient faciles à trouver et à corriger. » Or, l’exposition du code source a donné lieu à des observations saisissantes lors de nos tests.

Quand nous les avons confrontés au code source, les modèles d’IA de frontière ont démontré une forte capacité à identifier les failles et les chaînes d’exploits complexes. Mais face à du code compilé – c’est-à-dire des exécutables –, les progrès restent marginaux par rapport aux modèles d’IA actuellement accessibles au public. C’est pourquoi le risque qui pèse sur les logiciels open-source est plus grand dans l’immédiat.

Dans ce contexte, il est important de rappeler que la quasi-totalité des logiciels commerciaux intègrent des composants open-source dans leur code compilé.

De même, Unit 42 ne considère pas que les logiciels open-source sont intrinsèquement plus vulnérables que les logiciels disponibles dans le commerce. Nous estimons toutefois que l’open-source présente un risque de compromission accru en raison de son écosystème de développement ouvert. Les attaquants ont en effet toute latitude pour examiner le code source public et en tester les failles à l’abri des regards, tandis que la maintenance des projets open-source n’est pas toujours assurée pleinement, tant par manque de personnes que de temps.

Unit 42 anticipe une augmentation des compromissions à grande échelle de la supply chain des projets open-source, à l’image des attaques du groupe TeamPCP ou de celle menée par la Corée du Nord contre la bibliothèque Axios JavaScript.

L’IA élargit la surface d’attaque

Au-delà de l’habituel « cycle de hype » dont l’intelligence artificielle fait l’objet, nous commençons à peine à percevoir l’impact des menaces pilotées par IA. Certes, nous avons déjà constaté à maintes reprises une nette augmentation de la rapidité et de l’envergure de ces attaques, y compris dans les tests menés par nos chercheurs en sécurité. Mais à ce jour, ces incidents ne représentent qu’un très faible pourcentage des menaces globales qu’Unit 42 suit et observe.

Néanmoins, les acteurs malveillants continuent d’investir dans la recherche en IA. Comme nous l’avons indiqué dans notre analyse de certains échantillons de malwares, les attaquants testent les capacités de l’IA dans plusieurs domaines :

• Écriture de malwares
• Prise de décisions à distance (par exemple, en complément ou en remplacement d’un opérateur C2)
• Prise de décisions locales (par exemple, des flux d’attaque agentiques exécutés localement)

En dehors de quelques exceptions notables, comme celles présentées dans le rapport d’Anthropic sur les attaques IA du groupe GTG-1002 – qui ont visé une trentaine d’entreprises – et celui d’Amazon sur des campagnes d’envergure ciblant les équipements informatiques en périphérie, l’heure n’est pas encore à l’adoption massive de l’IA pour déployer des offensives à grande échelle.

Les progrès et la disponibilité publique des modèles d’IA de frontière devraient cependant entraîner une augmentation rapide de la vitesse, de l’ampleur et de la sophistication des cyberattaques, d’autant que nous n’avons pas besoin d’apprendre à ces modèles comment hacker car ils savent d’ores et déjà compromettre des environnements de façon autonome.

Voyons les domaines dans lesquels les attaques par IA devraient, selon nous, se généraliser. Nous prendrons ici l’exemple d’une campagne de spear-phishing lancée pour exfiltrer des données à des fins d’extorsion :

• Reconnaissance – Un attaquant utilise des modèles de frontière pour collecter rapidement des données sur Internet. Ses objectifs :
  • Identifier des dirigeants et trouver leurs coordonnées à travers des communiqués de presse, leur profil LinkedIn ou le site de leur entreprise.
  • Découvrir quels sont les logiciels présents dans l’environnement via des offres d’emploi ou des annonces publiques de partenariat.
  • Trouver d’autres informations pertinentes pour alimenter le grand modèle de langage (LLM) et l’aider à rédiger des e-mails, des SMS ou des scripts audio de spear-phishing très convaincants dans le cadre d’attaques par ingénierie sociale.
• Accès initial – Un membre du groupe cyber consulte les données de reconnaissance et relit les e-mails de phishing, qu’il envoie aux victimes potentielles en prenant soin d’y joindre un malware. Un agent IA déployé sur le serveur de commande et contrôle (C2) attend que le malware se connecte après son déploiement initial.
• Latéralisation et découverte – Un serveur MCP (Model Context Protocol) envoie automatiquement des instructions au malware installé :
  • Scanner le réseau
  • Établir la cartographie des éléments visibles
  • Identifier les versions logicielles installées
  • Recueillir les identifiants exposés sur les terminaux et dans les bases de données
  • Se déplacer d’un appareil à l’autre pour collecter des données sensibles

L’agent teste ensuite automatiquement les identifiants à mesure qu’ils sont découverts, puis énumère les privilèges associés tout en analysant les statistiques de réussite et d’échec.

• Exploitation – Au fil des mouvements et des découvertes, un agent IA recueille les données et les renvoie au serveur C2 MCP. L’agent analyse les services et les applications en cours d’exécution. Il identifie les vulnérabilités, écrit un exploit sur mesure et le transmet au malware déjà déployé. Ce dernier s’exécute automatiquement afin de poursuivre l’escalade des privilèges, le contournement des défenses et la latéralisation entre les différents segments du réseau.
• Exfiltration et documentation – Les données recueillies sont envoyées vers un serveur MCP, puis déposées dans un datastore. Un LLM les analyse ensuite pour fournir aux cybercriminels un résumé des découvertes critiques. Son rapport inclut une estimation de la valeur des jeux de données dérobés en fonction de leur usage prévu.

La figure 1 illustre le chemin d’attaque complet.

Il est important de préciser que nous ne nous attendons pas, pour le moment, à voir apparaître de nouvelles techniques d’attaque entièrement créées par l’IA. Nous constatons plutôt que l’IA permet de mener des attaques autonomes plus véloces et capables de viser plusieurs cibles à la fois.

En tant que défenseurs, nous devons nous préparer à la vitesse et à l’ampleur inédites de ces menaces, et non à des tactiques totalement inconnues.

Nous connaissons déjà les modes opératoires et les traces forensiques que laissent les cyberattaques. Aujourd’hui, nous devons évoluer vers un durcissement de la sécurité, avec des environnements conçus dans une double optique de prévention et de réponse rapide.

Les leviers d’action immédiats

Unit 42 recommande aux équipes de sécurité d’examiner rigoureusement leurs politiques de sécurité afin d’accroître la proactivité en matière de prévention et de réponse. Les mesures de remédiation qui dépendent d’une surveillance et d’une intervention actives avant tout endiguement seront rapidement dépassées par des adversaires dopés à l’IA.

• Présupposez une compromission : étendez la protection des terminaux à tous vos environnements, en privilégiant la prévention par défaut et la surveillance a minima.
• Renforcez la visibilité et la gouvernance du code : établissez une gestion et une traçabilité rigoureuses de l’origine des logiciels open-source, et partez du principe que les registres de packages ne sont plus fiables. Créez une nomenclature des composants (SBOM) de tous vos logiciels afin d’identifier et de patcher rapidement les bibliothèques de code intégrées. Instaurez le verrouillage des versions, la vérification des hachages et des délais de sécurité avant l’application des mises à jour.
• Sécurisez les écosystèmes de développement et de compilation : isolez vos systèmes de build d’Internet, stockez les secrets de développement dans des vaults sécurisés et analysez systématiquement l’environnement de compilation et de production afin de détecter les données sensibles exposées.
• Réduisez la fenêtre de correction : abandonnez les calendriers de maintenance routinière au profit d’un déploiement immédiat des patchs. Activez les mises à jour automatiques et recourez aux versions hors bande pour contrer la menace N-day accélérée par l’IA.
• Automatisez les pipelines de réponse à incident : déployez des modèles d’IA pour trier les alertes, résumer les événements techniques et mener une traque proactive des menaces (threat hunting). Le tri manuel est tout simplement dépassé par le volume de bugs qu’un modèle d’IA de frontière peut détecter.
• Actualisez vos politiques de divulgation des vulnérabilités (VDP) : attendez-vous à traiter un volume de signalements de bugs sans précédent. Implémentez des workflows automatisés afin d’ingérer, de valider et de prioriser les failles.
• Installez des barrières plus robustes : adoptez des langages à sécurité mémoire ainsi que l’isolation matérielle.

Conclusion

La cybersécurité se trouve à l’orée d’une période de forte volatilité. À court terme, les progrès rapides des modèles d’IA de frontière risquent de donner aux adversaires le pouvoir d’exploiter des failles zero-day et N-day non plus en quelques jours, mais en quelques heures seulement. Ils devraient aussi leur permettre de déployer des attaques d’une ampleur, d’une sophistication et d’une vitesse sans précédent. Toutefois, ne perdons pas de vue qu’il s’agit d’une période de transition : de l’autre côté du front, les équipes de sécurité s’adaptent elles aussi à cette nouvelle donne.

Mettons ce temps à profit pour nous fixer une ligne de mire ; celle d’un avenir où le rapport de force est inversé en notre faveur, et où les modèles d’IA permettent aux défenseurs d’identifier et de corriger les bugs avant même que les attaquants ne les détectent. Dans cette optique, Unit 42 aide les équipes de sécurité à garder une longueur d’avance en continuant de traquer et d’analyser activement les menaces, et en documentant ses conclusions dans des rapports CTI de pointe.

Visionnez notre dernier Threat Briefing : Sam Rubin (SVP, Consulting et Threat Intelligence, Unit 42) et Marc Benoit (RSSI, Palo Alto Networks) y expliquent comment les modèles d’IA de frontière détectent et exploitent des failles insoupçonnées à grande échelle et à vitesse machine. Vous y découvrirez également les mesures concrètes que les responsables sécurité doivent adopter dès aujourd’hui pour renforcer leurs défenses et assurer la continuité opérationnelle de leur entreprise. Accédez au replay.

Ressources supplémentaires

• L’intelligence au service des attaques – Nikesh Arora, Palo Alto Networks
• Guide du défenseur sur l’impact de l’IA de pointe sur la cybersécurité – Lee Klarich, Palo Alto Networks
• Présentation de la solution de défense contre l’IA de pointe d’Unit 42 – Sam Rubin, Palo Alto Networks
• Reprendre l’avantage en matière d’IA – Unit 42, Palo Alto Networks
• Unit 42 Breaking Insights : Lutter contre les risques liés aux modèles d’IA de pointe – Briefing sur les menaces à la demande, Unit 42
• Évaluation des capacités de cybersécurité de la préversion de Claude Mythos – Frontier Team Red, Anthropic
• Projet Glasswing : Sécuriser les logiciels critiques à l’ère de l’IA – Anthropic