Pour lutter contre les attaques par IA à l'aide de l'IA, il faut commencer par le réseau et l'identité

Depuis des années, les experts en cybersécurité s’interrogent sur la forme que pourraient prendre les attaques basées sur l’IA. Nous n’avons plus besoin de l’imaginer. Au cours des 90 derniers jours, nous avons vu des attaques assistées par l’IA et de plus en plus autonomes passer des environnements de recherche au monde réel. Nous avons assisté à une campagne de rançongiciel « agentique ». Nous avons vu l’IA utilisée pour modifier à plusieurs reprises l’ malware jusqu’à ce qu’elle parvienne à contourner les défenses. Nous avons vu des agents IA s’échapper des environnements d’évaluation pour atteindre de véritables entreprises et des systèmes gouvernementaux. Nous avons vu des identifiants, des infrastructures d’ cloud , des API, des VPN, des bases de données, du code source et des services de confiance intégrés dans les voies d’attaque.

Notre équipe de recherche en sécurité « Vectra AI » a réalisé un excellent travail en analysant en détail l'incident survenu chez Hugging Face. Mais l'essentiel n'est pas Hugging Face en soi. C'est la tendance qui se dessine autour de cet événement. Rien qu'au cours du dernier trimestre :

• JadePuffer a présenté un agent IA menant une campagne de chantage, depuis la phase de reconnaissance jusqu'au vol d'identifiants, en passant par le déplacement latéral, le chiffrement et la demande de rançon.

• Les activités liées à « Midnight Blizzard » ont montré que l'IA était utilisée en boucle fermée pour tester l'malware e face aux défenses, la modifier dès qu'elle était détectée et la redéployer jusqu'à ce qu'elle fonctionne.

• Les agents d'évaluation d'OpenAI ont été déployés dans des infrastructures réelles, notamment Hugging Face et l'environnement statistique de Medicare en Australie.

• Anthropic, Meta et Google ont chacun révélé des cas où des agents IA avaient dépassé les limites prévues lors des tests et obtenu un accès non autorisé à de véritables organisations.

• D'autres incidents ont montré que des agents IA étaient utilisés pour mener des attaques par paquets, détourner des assistants de programmation et mener des intrusions en plusieurs étapes au sein d'entreprises.

Des incidents différents. Des modèles différents. Des techniques différentes. La même leçon : l'IA modifie la rapidité et l'ampleur des attaques. Elle ne change toutefois pas ce que les attaquants doivent finalement accomplir. Une fois infiltré, un attaquant doit toujours comprendre l'environnement, trouver et utiliser des identifiants, étendre ses privilèges, se déplacer latéralement, communiquer et, au final, mettre la main sur quelque chose de précieux. Les outils changent. Les exploits changent. Les modèles changent. Le comportement, lui, reste le même.

L'IA comportementale révèle comment se déroulent réellement les attaques par IA

C'est là, selon moi, l'aspect le plus important pour les défenseurs. Si l’on examine de près bon nombre des actions individuelles qui composent ces attaques, elles ne sont pas manifestement malveillantes. Un appel à l’API cloud , une demande de jeton, une connexion, l’accès d’un compte de service à une charge de travail, une nouvelle connexion VPN, une requête Kubernetes ou un mot de passe réutilisé peuvent tous être légitimes en soi. La bonne question en matière de sécurité n’est donc pas simplement : « Cette action est-elle malveillante ? », mais plutôt : « Ce comportement est-il cohérent pour cette identité, dans cet environnement, à ce moment précis ? »

C’est là que l’IA comportementale prend toute son importance. Plutôt que d’attendre une signature ou un indicateur connu, l’IA comportementale examine ce qu’une entité fait réellement. Est-elle en train d’explorer l’environnement ? D’utiliser abusivement des identifiants ? D’étendre ses privilèges ? De se déplacer latéralement ? De mettre en place un système de commande et de contrôle ? D’accéder à quelque chose auquel elle n’a normalement pas accès ? De transférer des données d’une manière inhabituelle ? L’objectif n’est pas de connaître toutes les techniques qu’un attaquant utilisant l’IA pourrait inventer à l’avenir. Il s’agit de comprendre à quel moment un comportement commence à ressembler à une attaque.

Et de plus en plus, l'identité qui se cache derrière ce comportement n'est pas nécessairement celle d'une personne. L'entreprise d'IA est gérée par des utilisateurs humains, des comptes de service, des charges de travail, des identités machine, des API, des processus d'automatisation et, désormais, des agents d'IA. Chacun d'entre eux peut être digne de confiance. Chacun d'entre eux peut également faire l'objet d'abus. Les responsables de la sécurité doivent donc comprendre le comportement des identités humaines et non humaines.

Pourquoi le réseau et l'identité sont essentiels à la détection des attaques par IA

C’est pourquoi je pense que « Réseau + Identité » doit devenir le pilier de la défense de l’entreprise face à l’IA. Le réseau vous fournit une vision en temps réel de ce qui se passe réellement : quels systèmes communiquent, où se produisent les mouvements latéraux, quels protocoles sont utilisés, comment les données circulent et comment les comportements évoluent au fur et à mesure que l’attaque progresse. L’identité vous apporte l’autre facette du tableau : qui — ou, de plus en plus souvent, quoi — se cache derrière cette activité. S’agit-il d’une personne, d’un compte de service, d’une charge de travail, d’une identité de machine, d’une identité d’ cloud e ou d’un agent d’IA ? Quels privilèges a-t-elle exercés ? Quelles relations de confiance a-t-elle utilisées ? Cette activité correspond-elle au comportement habituel de cette identité ?

Vous avez besoin des deux, car les attaquants ne se limitent pas à nos catégories de produits de sécurité. Ils ne restent pas strictement confinés aux domaines de l’ endpoint, de l’identité, de l’ cloud, du réseau ou du SaaS. Ils passent de l’identité à l’ cloud, de l’ cloud à la charge de travail, de la charge de travail au réseau, du réseau à l’infrastructure interne, de l’environnement sur site au SaaS, et d’une identité de confiance à une autre. Aucune alerte de type « endpoint » ne permet à elle seule d’avoir une vue d’ensemble de la situation. Il en va de même pour un événement lié à l’identité, une alerte de type « cloud » ou une détection réseau prise isolément. L’attaque réside dans les connexions qui les relient.

C'est là que l'Attack Signal Intelligence e prend toute son importance. Elle relie ces comportements entre les différentes identités, les systèmes, les domaines et dans le temps, afin que les responsables de la sécurité puissent comprendre l'attaque au fur et à mesure qu'elle se déroule.

Cinq alertes peuvent correspondre à une seule attaque

Je pense que les équipes de sécurité ont passé trop de temps à se féliciter du nombre d’éléments qu’elles sont capables de détecter. La détection n’est plus le problème. C’est la compréhension qui l’est. Un système détecte une découverte d’ cloud s inhabituelle. Un autre repère une utilisation suspecte des privilèges. Un autre identifie un nouvel identifiant. Un autre détecte un déplacement latéral. Un autre signale un accès SaaS inhabituel. Cinq produits peuvent générer cinq alertes dans cinq files d’attente différentes, mais cela ne signifie pas nécessairement que vous ayez cinq problèmes. Il se peut qu’un seul attaquant se déplace à travers cinq parties de l’environnement.

L’ Attack Signal Intelligence , pilotée par l’IA, relie ces comportements entre eux. Elle associe l’IA comportementale au contexte du réseau et des identités pour comprendre qui ou quoi est impliqué, comment l’activité s’articule et quelle sera la prochaine étape de l’attaque. Cette distinction est importante, car les attaquants utilisant l’IA n’attendent pas qu’un analyste établisse manuellement des corrélations entre cinq consoles. Ils sont capables d’observer, de raisonner, d’agir, de s’adapter et de réessayer à la vitesse d’une machine. Les défenseurs doivent disposer de la même capacité à comprendre et à agir rapidement.

C'est également là que, selon moi, le débat sur l'IA au sein du SOC devient intéressant. Je suis extrêmement optimiste quant à ce que l'IA peut apporter aux responsables de la sécurité, mais le simple fait de déployer un agent IA sur des milliers d'alertes disparates ne résoudra pas le problème comme par magie. Cela pourrait simplement nous aider à faire le tri parmi le bruit plus rapidement. L'efficacité de l'IA dépend entièrement de la qualité du signal sur lequel elle s'appuie.

Si vous fournissez à un agent IA des alertes hors contexte, des informations contextuelles insuffisantes et des attributions incomplètes, vous lui demandez de donner un sens à une situation désastreuse. Donnez-lui des détections comportementales associées à la bonne identité (humaine ou non humaine), enrichies par le contexte du réseau et de l’identité, et corrélées entre les environnements sur site et ceux d’ cloud , et l’IA peut alors apporter une valeur ajoutée bien plus importante. Elle peut reconstituer le déroulement d’une attaque, identifier les identités et les systèmes affectés, expliquer pourquoi ce comportement est significatif, hiérarchiser les éléments qui méritent une attention particulière, recommander la prochaine action à entreprendre et contribuer à automatiser l’enquête et la réponse.

C'est ainsi que je conçois la lutte contre l'IA à l'aide de l'IA. Pas une IA qui se contente de traiter des alertes, mais une IA qui s'appuie sur des Attack Signal Intelligence s fiables.

C'est pour cette raison que le site Attack Signal Intelligence a été créé

Chez Vectra AI, notre conviction est très simple : l’ Attack Signal Intelligence , pilotée par l’IA et fondée sur le réseau et l’identité, permet aux défenseurs de lutter contre les attaques basées sur l’IA à l’aide de l’IA. Elle applique l’IA comportementale aux identités humaines et non humaines. Elle analyse les comportements dans les environnements sur site et cloud . Elle fonctionne en temps réel, au moment même où l’attaque se déroule. Et surtout, elle établit des liens entre les comportements des différentes identités, des systèmes et des domaines afin que les humains — et, de plus en plus, les agents IA qui travaillent à leurs côtés — puissent comprendre l’attaque suffisamment rapidement pour y remédier.

Car l'objectif n'est pas d'augmenter le nombre d'alertes. Ni même celui des détections. L'objectif est d'apporter une réponse à la question que toute équipe de sécurité se pose inévitablement : sommes-nous en train de subir une attaque en ce moment même ?

Les 90 derniers jours devraient avoir clairement démontré une chose : les attaques basées sur l’IA ne sont pas un risque auquel nous devons nous préparer dans cinq ans. Elles sont déjà là, et elles vont gagner en rapidité. Les modèles vont évoluer. Les vulnérabilités vont évoluer. Les techniques d’attaque vont évoluer. L’IA permettra aux attaquants d’expérimenter, de s’adapter et d’agir à une échelle que les humains ne pouvaient tout simplement pas atteindre auparavant.

Mais les pirates doivent tout de même agir. Ils doivent toujours utiliser des identités. Ils doivent toujours communiquer sur les réseaux. Ils doivent toujours se déplacer dans l'environnement. Et ce comportement en dit long.

C'est pourquoi je ne pense pas que l'avantage, à l'ère de l'IA, viendra de la volonté de prédire chaque nouvelle technique d'attaque basée sur l'IA. Il viendra plutôt de la capacité à comprendre en permanence qui et quoi opère au sein de l'entreprise, comment ces entités se comportent et à quel moment ce comportement se transforme en attaque.

Le réseau nous indique ce qui s'est passé. L'identité nous indique qui ou quoi en est à l'origine. L'IA comportementale nous indique quand cela a de l'importance. Combinez ces éléments et vous obtenez le signal fiable dont les défenseurs — et leur IA — ont besoin pour lutter contre les attaques à la vitesse de l'IA, à la vitesse de l'IA.

Vous pouvez lire d'autres articles de Mark Wojtasiak, ici sur le blog « Vectra AI ».