Distinguer une IA véritablement sécurisée de ce qui n'en est qu'une en apparence

Tous les fournisseurs de solutions de sécurité affirment désormais disposer d’une IA. Pour celui qui doit choisir quel produit acheter, cette affirmation ne constitue pas une information utile. Dans le rapport « État des lieux 2026 de la détection et de la réponse aux menaces » publié par Vectra AI, une étude menée auprès de 1 450 professionnels et responsables de la sécurité, 95 % des personnes interrogées utilisent déjà des assistants ou des agents basés sur l’IA, mais 58 % d’entre elles se disent frustrées par les promesses vaines des fournisseurs.

Cet ebook de Lucie Cardiet, responsable de la recherche sur les cybermenaces chez Vectra AI, commence par présenter le contenu de la « boîte ». Il explique tout l’éventail de significations que recouvre le terme « IA », des règles fixes aux agents agissant de manière autonome, avec un petit glossaire et sans aucune formule mathématique. Il aborde ensuite la manière dont les pirates exploitent l’IA, en s’appuyant sur des cas avérés :

• Malware qui demande à un modèle linguistique quelles sont ses prochaines commandes.
• Une campagne financée par l'État (GTG-1002) dans le cadre de laquelle Claude Code a assuré, selon les estimations, entre 80 et 90 % du travail tactique.
• Attaques visant les services d'IA déployés par votre propre équipe.

Cet ebook s'appuie sur l'analyse réalisée par Anthropic en juin 2026 portant sur 832 comptes suspendus. Les préparatifs, très bruyants et faisant largement appel à l'IA, se déroulent sur les machines de l'attaquant, où vous ne pouvez pas les voir. La partie dangereuse se déroule au sein de votre environnement, sous la forme d'un comportement que vous pouvez détecter.

C'est ce qui déterminera le type de test que vous présenterez lors de votre prochain entretien avec un fournisseur :

• L'IA allège-t-elle la charge de travail de mon équipe ou, au contraire, l'alourdit-elle ?
• Est-ce qu'il relie le réseau, l'identité et l'cloud, ou se concentre-t-il sur un seul aspect ?
• Pouvez-vous le mesurer, et allez-vous le démontrer dans mon environnement ?

Vous disposez également d'un test d'une page destiné aux fournisseurs d'IA, dont vous pouvez faire une capture d'écran, ainsi que de deux questions supplémentaires permettant d'évaluer une affirmation relative à la conscience d'agent (SOC) : l'agent est-il capable de démontrer son raisonnement, et un humain garde-t-il le contrôle des actions ayant des conséquences importantes ?