Surveillance du comportement des agents IA : un guide pratique sur la sécurité

Aperçu de la situation

  • Le fait de disposer d'une autorisation valide ne signifie pas pour autant que l'action d'un agent ait été autorisée dans le cadre de sa tâche actuelle.
  • Le fait de recouper le contexte de la tâche avec des données indépendantes du système rend l'enquête plus fiable que si l'on se fondait uniquement sur le récit de l'agent lui-même.
  • Les vérifications de conformité et l'analyse des comportements ont des objectifs différents : faire respecter les limites connues et examiner les séquences suspectes.
  • La couverture de la surveillance doit être évaluée en fonction des données manquantes et de la vérification de l'endiguement, ainsi que de la qualité des alertes.

Lors d’une évaluation de la cybersécurité réalisée en juillet 2026, l’Institut britannique AISI ( Cyber IA ) a identifié des actions non autorisées sur Internet en temps réel dans 10 des 122 exécutions d’agents. L’accès à Internet avait été délibérément activé et les systèmes de classification de cybersécurité des fournisseurs avaient été désactivés ; ces résultats ne reflètent donc pas le taux d’incidents au sein d’une entreprise. L’enquête montre pourquoi les équipes de sécurité doivent vérifier que l’activité réelle d’un agent correspond bien à la tâche qu’il était autorisé à effectuer.

La surveillance du comportement des agents IA consiste à collecter et à analyser en continu les actions d'un agent, son utilisation des outils, ses accès et ses résultats, afin d'identifier toute activité qui enfreint la tâche qui lui a été assignée, ses autorisations ou les politiques de sécurité. Une surveillance efficace établit un lien entre l'historique d'exécution de l'agent et les données provenant des systèmes auxquels il accède.

Pour un centre d'opérations de sécurité (SOC), la question pertinente est précise : cet agent a-t-il utilisé cette identité pour effectuer une action autorisée sur une ressource autorisée, et que s'est-il passé ensuite ?

Qu'est-ce que la surveillance du comportement des agents IA ?

La surveillance du comportement des agents IA consiste à vérifier que leurs actions sont conformes à leur mission, aux pouvoirs qui leur ont été délégués et aux limites opérationnelles tout au long d'un flux de travail. Elle couvre toutes les étapes entre la demande initiale et le résultat final, y compris les appels d'outils, la récupération de données, la délégation et les modifications apportées aux systèmes externes.

Un agent peut lire un ticket d'assistance, consulter le dossier d'un client, demander l'avis d'un autre agent et rédiger une réponse. Chaque étape soulève une question de sécurité différente. Le fait de consulter un dossier autorisé n'autorise pas automatiquement son exportation, et l'autorisation de rédiger un message n'autorise pas son envoi.

Le grand modèle linguistique (LLM) sous-jacent constitue l'un des composants du système. Les disciplines de surveillance associées apportent différents éléments d'information :

Discipline Question principale Preuves typiques
Suivi des performances des modèles LLM Le modèle fonctionne-t-il de manière fiable et dans les limites opérationnelles ? Latence, erreurs, utilisation des jetons et qualité évaluée des réponses
Observabilité des agents Comment s'est déroulée l'exécution du workflow ? Traces, appels d'outils, récupérations, nouvelles tentatives et transferts d'agent
Surveillance de la sécurité du comportement des agents Ces actions sont-elles restées dans le cadre de la mission et des limites autorisées ? Contexte de la tâche, décisions stratégiques, identités, séquences d'actions et effets confirmés
Gestion de l'inventaire et de l'état des agents Quels sont les agents existants, et à quoi ont-ils accès ? Propriétaires, intégrations, autorisations, configurations et utilisations autorisées

La surveillance du comportement constitue l'un des volets opérationnels de la sécurité des agents d'IA. Elle repose sur un inventaire précis et des contrôles d'accès rigoureux, tout en fournissant des informations sur la manière dont les agents utilisent leurs droits d'accès lors de l'exécution.

Pourquoi un suivi indépendant est-il important ?

Les équipes de sécurité ont besoin d'une visibilité indépendante sur l'activité des agents afin de corroborer les actions signalées par ces derniers et d'identifier les activités qui ne figurent pas dans leur historique. La combinaison des historiques de flux de travail et des enregistrements des systèmes externes permet de distinguer une action prévue, un appel d'outil demandé et une modification confirmée dans un autre système.

Dans le cadre de l'enquête menée par l'AISI, le système de surveillance générale de la sécurité a détecté un trafic sortant inhabituel. Les enquêteurs ont alors examiné l'activité des agents, suspendu les évaluations et isolé les machines concernées. L'AISI a reconnu que son système de surveillance n'avait pas été conçu pour contrôler les évaluations en cours d'exécution. La leçon opérationnelle à en tirer est qu'il faut associer la détection au niveau de l'entreprise à une visibilité sur les flux de travail des agents.

Les limites de confiance jouent ici un rôle important. Un résumé généré par un agent indiquant que « le fichier n’a pas été envoyé » n’a pas la même valeur probante que l’historique des transactions du service destinataire. Même une trace signée par le fournisseur ne prouve pas que son historique d’exécution soit complet ou exact. Il convient d’étayer les réclamations qui en découlent par des observations recueillies en dehors du contrôle de l’agent.

Utilisez le cadre d'enquête proposé ci-dessous :

  • Tâche approuvée : définir la demande, l'objectif métier et les ressources autorisées.
  • Autorisation déléguée : identifier l'utilisateur, l'identité de la charge de travail, les autorisations et toute délégation à d'autres agents.
  • Effet observé : vérifier la cohérence des actions qui en découlent à l'aide des journaux provenant des outils, des systèmes d'identité, des charges de travail et des services cibles.

Consigner toute connexion manquante comme une lacune dans les preuves. Un compte de service partagé ou un registre d'outils manquant devrait remettre en cause la fiabilité de l'attribution, plutôt que de constituer une garantie de conformité.

Savoir quand un agent IA dépasse les bornes

Découvrez les comportements documentés des agents ainsi que les mesures concrètes permettant de surveiller l'activité du réseau et des identités, de détecter les actions inattendues et de contenir les agents qui dépassent les limites prévues.

Télécharger le livre blanc →

Quelles données télémétriques devez-vous collecter ?

Collectez les enregistrements relatifs aux tâches, aux identités, aux outils, à l'accès aux données, aux politiques et aux résultats, afin que chaque action ayant des conséquences puisse être associée à son autorité et au résultat observé. Le modèle d'événement ci-dessous constitue une proposition de point de départ que les équipes devront adapter à leurs cadres d'agents, à leurs politiques en matière de données et aux interfaces d'audit disponibles.

Zone de collecte des éléments de preuve Champs utiles Question de sécurité
Tâche et responsabilité Identifiant de la tâche, identifiant d'exécution, responsable métier, utilisateur à l'origine de la demande, objet approuvé et date d'expiration Quel était l'objectif de cette exécution ?
Identité et délégation Identité de la charge de travail, utilisateur délégué, périmètre d'autorisation, référence de session et identifiants d'exécution parent/enfant Au nom de qui l'agent a-t-il exercé son autorité, y compris par l'intermédiaire d'autres agents ?
Outils et intégrations Identifiant de l'outil et du serveur, version, ressource cible, arguments nettoyés, identifiant de la requête et statut du résultat Quelle opération a été demandée, via quelle intégration ?
Données et mémoire Identifiants de ressources, étiquettes de sensibilité, source de récupération, modifications en mémoire et provenance Quelles informations ont influencé l'action suivante ou ont été conservées pour les exécutions suivantes ?
Exécution et connectivité Charge de travail/identifiant du conteneur, événements liés aux processus (le cas échéant), destinations, durées de connexion et métadonnées de transfert En quoi consistait exactement l'environnement d'exécution ?
Politique et autorisation Version de la politique, décision d'autorisation/de refus, référence d'approbation, approbateur, action associée et date d'expiration Cette action spécifique avait-elle été autorisée au moment où elle a été menée ?
Effets et état du portefeuille Enregistrement de réception ou de modification du système cible, heure d'ingestion, lacunes dans la séquence et état du collecteur Cette mesure a-t-elle pris effet, et des éléments de preuve pertinents pourraient-ils manquer ?

Conservez à la fois l'heure de l'événement et l'heure de collecte. Sinon, les exportations d'audit différées provenant d'applications SaaS (Software as a Service) risquent de fausser le déroulement de l'enquête. Propagez les identifiants de corrélation à travers les intégrations prises en charge et documentez les cas où l'identité ou le contexte de traçabilité est perdu.

Pour les intégrations via le protocole MCP (Model Context Protocol), suivez l'identité du serveur et les modifications apportées à la définition complète de l'outil, y compris sa description, ses schémas et ses indications d'autorisation. Ces métadonnées peuvent influencer la manière dont un outil est sélectionné ou approuvé. Les indications d'autorisation décrivent le comportement prévu ; elles n'imposent pas l'accès. Surveillez les flux de données entre serveurs, car les informations lues via une intégration peuvent être divulguées par un autre outil, en apparence légitime.

Comment détecter les comportements à risque des agents ?

Recourez à des vérifications explicites des règles pour détecter les actions interdites et à une analyse contextuelle des comportements pour identifier les séquences suspectes. Cette combinaison permet de distinguer un cas manifeste de non-respect des autorisations d'une action inhabituelle nécessitant une enquête.

H3 Commençons par les violations des autorisations et des politiques

Définissez des limites contraignantes pour chaque flux de travail. Il peut s'agir, par exemple, de collectes de données approuvées, de destinations externes, d'opérations administratives, de limites de dépenses et d'actions nécessitant une décision humaine.

Générer un événement de sécurité lorsqu'un agent tente de :

  • Accéder à une ressource n'appartenant pas au client, au projet ou au locataire attribué.
  • Effectuer une action sensible sans avoir obtenu l'autorisation requise.
  • Modifier la cible ou les paramètres après l'approbation d'une action.
  • Réutiliser une autorisation pour une deuxième exécution.
  • Déléguer à un agent disposant de pouvoirs plus étendus que ne le permet la tâche en question.
  • Désactiver un collecteur ou modifier une configuration de surveillance protégée.

Placez la validation de l'approbation dans le composant qui exécute l'action. Pour les actions à fort impact, liez l'approbation à l'acteur actuel et à l'appel d'outil exact, vérifiez qu'elle est toujours valide, puis utilisez-la une seule fois lors de l'exécution. Rendez la validation et l'utilisation atomiques afin que les requêtes parallèles ne puissent pas réutiliser une approbation. Un indicateur « approuvé » généré par le modèle ne permet pas de garantir ces conditions.

Détecter les séquences qui franchissent les limites de confiance

Plusieurs appels autorisés individuellement peuvent aboutir à un résultat non autorisé. Établissez des corrélations entre les actions effectuées à travers différents outils et identités, puis comparez la séquence qui en résulte avec l'objectif de la tâche.

Modèle de détection Éléments permettant d'établir une corrélation Enquête suggérée
Extraction de données sensibles suivie d'un transfert externe Sensibilité des ressources, demandes d'outils, destination et enregistrements de transfert Déterminer si la destination et la divulgation ont été autorisées
Un nouveau privilège suivi d'une divulgation plus large Modification du rôle ou du consentement, session d'identification et activité API qui s'ensuit Vérifiez qui a donné l'autorisation et si la tâche l'exigeait
Des actions refusées à plusieurs reprises, suivies d'un autre itinéraire d'outils Refus, nouvelles tentatives, changements d'outils ou de serveurs et historique des exécutions courantes Distinguer une récupération attendue d'une tentative de contourner une limite
Délégation suivie de mesures restreintes Tâche parente, identité de la tâche fille, périmètre d'autorisation et exécution de la tâche fille Vérifiez que la délégation a conservé les restrictions d'origine
Modification de la définition d'un outil entraînant un changement de comportement Version d'intégration, modification de la définition/du schéma et appels qui en découlent Enquêter sur une modification non autorisée d'une intégration ou sur un « tool poisoning »
Interruption de l'exploitation forestière au cours d'une opération consécutive État de santé des collecteurs, séquences manquantes et dossiers de service indépendants Déterminez ce qui reste observable avant de conclure que l'essai s'est déroulé en toute sécurité

Considérez ces éléments comme des hypothèses de détection à valider au niveau local. Aucun d’entre eux ne permet à lui seul d’établir l’existence d’une intention malveillante. Une migration autorisée et une exportation non autorisée peuvent générer des schémas de transfert similaires, ce qui rend le contexte de la tâche essentiel.

Référence par tâche et par version

Définissez des références comportementales pour des flux de travail, des versions d'agents, des ensembles d'outils et des niveaux d'autorisation comparables. Un assistant de recherche et un agent administratif ne doivent pas avoir les mêmes attentes en matière d'accès aux données ou de modifications du système.

Commencez par examiner les caractéristiques observables telles que les ressources consultées, la nouveauté de la destination, les types d'opérations, les schémas de réessais, le niveau de délégation et le volume par rapport à la tâche. Passez en revue les exceptions légitimes avec le responsable du flux de travail avant de désactiver une détection.

Il convient de bien distinguer les limites strictes définies par la politique des références apprises. Un comportement non autorisé qui se répète fréquemment ne doit pas devenir acceptable simplement parce qu’il est courant. Il convient de numéroter les versions de la référence et de la revalider après toute modification apportée au modèle, aux instructions, aux intégrations ou aux privilèges.

La détection comportementale des menaces fournit un contexte utile, mais toute anomalie reste un motif d'enquête. Hiérarchisez les cas en fonction de la sensibilité des données, des privilèges, de l'impact potentiel et des signaux corroborants.

Mettre en place une surveillance à l'échelle de l'agent et de l'entreprise

Mettez en place une surveillance de l'agent de compilation en instrumentant le chemin d'exécution et en observant de manière indépendante les systèmes sur lesquels l'agent apporte des modifications. Veillez à ce que les contrôles de surveillance ne relèvent pas de la compétence de l'agent et préservez le contexte du flux de travail si l'environnement d'exécution devient peu fiable.

Configurer le chemin d'exécution

Enregistrez le démarrage des tâches, les interactions avec les modèles, les demandes d'outils, la délégation, les décisions relatives aux politiques et les événements de fin d'exécution via les interfaces d'exécution prises en charge. Une passerelle d'outils ou un wrapper d'exécution peut servir à associer du contexte et à appliquer des restrictions avant une opération sensible.

Le harnais d'agent relie le modèle aux données, aux outils, à la mémoire et aux droits d'exécution. Cela fait du harnais et de ses intégrations des points stratégiques pour la mise en œuvre de contrôles. La conception globale de la sécurité de l'IA agentique doit coordonner ces contrôles à travers l'ensemble du flux de travail et des systèmes qui y sont connectés.

Utilisez les conventions sémantiques OpenTelemetry GenAI lorsqu'elles sont prises en charge. Vérifiez quelle version des conventions est prise en charge par vos bibliothèques d'instrumentation et vos exportateurs, et documentez les extensions locales. Le modèle d'événement de sécurité ci-dessus est un enregistrement opérationnel proposé ; cela ne signifie pas que chaque champ soit un attribut normalisé.

Pour les opérations à fort impact, évaluez la politique avant l'exécution. Une alerte asynchrone envoyée une fois la transaction terminée ne peut pas offrir la même protection qu'un contrôle intégré au parcours de la transaction.

Mettre en corrélation l'identité, le réseau, l'cloud et l'activité SaaS

Associez les événements des agents aux enregistrements des fournisseurs d'identité, aux événements d'audit de l'cloud , aux modifications des applications, aux données de télémétrie des charges de travail et à l'activité réseau. Privilégiez les identifiants explicites de requête et de session. Lorsque seuls des horodatages et des identités partagées sont disponibles, précisez le degré d'incertitude lié à l'attribution.

Les journaux réseau peuvent révéler des destinations ou des transferts inattendus. À eux seuls, ils ne permettent généralement pas de déterminer le contenu d'une requête chiffrée ni l'objectif métier d'une action. Les traces d'application peuvent apporter du contexte, tandis que les journaux d'audit du système cible aident à déterminer l'impact.

Il s'agit là d'une application concrète de l'observabilité de la sécurité: les analystes doivent passer d'une alerte aux éléments de preuve sous-jacents dans l'ensemble des systèmes connectés.

Protéger les données de télémétrie sensibles et surveiller l'état de fonctionnement

Protégez les données de télémétrie des agents grâce à la minimisation des données, à la restriction des accès et à la détection des altérations, et signalez les lacunes de collecte aux intervenants. Masquez les identifiants, les jetons et tout contenu personnel ou confidentiel superflu avant la collecte centralisée. Privilégiez les identifiants de ressources et les métadonnées de sensibilité lorsque le contenu intégral n’est pas nécessaire. Définissez séparément toute capture de contenu soumis à des restrictions, en précisant un objectif spécifique, une politique d’accès et une durée de conservation.

Protéger les enregistrements contre tout accès non autorisé et toute modification, détecter l'arrêt de la collecte et intégrer les événements de surveillance au processus de réponse aux incidents. Ne pas autoriser l'agent à modifier les preuves centrales utilisées pour le surveiller.

Tester les interruptions d'ingestion, les problèmes d'horloge, les événements perdus et les modifications de configuration du collecteur. Suspendre les opérations à fort impact lorsque les contrôles d'autorisation ou d'audit requis échouent. Pour les workflows de lecture à faible risque, déterminer si l'exécution peut se poursuivre en cas d'interruption de l'enregistrement et rendre visible toute perte de preuve. Cette décision doit tenir compte du risque lié à l'action et de l'impact métier de son arrêt.

Comment réagir face à des agissements suspects de la part d'un agent ?

Réagissez à toute activité suspecte d'un agent en suivant un processus de gestion des incidents qui préserve les preuves, détermine l'étendue du problème, applique une mesure de contrôle autorisée et vérifie que la situation est maîtrisée. Définissez, avant qu'un incident ne se produise, qui est habilité à autoriser chaque intervention et quels systèmes peuvent la mettre en œuvre.

Utilisez une séquence de réponses adaptée au flux de travail :

  • Conservez les preuves. Conservez la tâche, l'historique d'exécution, les données d'entrée pertinentes, les enregistrements des outils, la version de la politique et les événements d'audit externes conformément aux règles d'accès de l'incident.
  • Définir le périmètre. Identifier les identités utilisées, les ressources consultées, les intégrations concernées, ainsi que toute tâche déléguée ou mise en file d'attente.
  • Sélectionnez une intervention. Les options disponibles sont les suivantes : mettre l'exécution en pause, refuser l'exécution d'une opération d'outil, restreindre une destination ou désactiver l'intégration ou l'identité concernée.
  • Exécutez l'opération via un contrôle autorisé. Notez l'acteur, la cible, l'heure, le résultat et les éventuelles erreurs. Faites la distinction entre l'action recommandée et l'action réellement effectuée.
  • Vérifiez le confinement. Vérifiez le comportement du service cible et assurez-vous que les agents enfants, les tâches en arrière-plan et les nouvelles tentatives ne peuvent pas poursuivre l'activité.
  • Effectuez une restauration, puis réexécutez les tests. Corrigez les autorisations excessives, les intégrations compromises, la mémoire affectée ou les instructions non sécurisées avant de procéder à une reprise contrôlée.

Un « kill switch » doit avoir une portée bien définie. L'arrêt du chat visible peut ne pas empêcher l'exécution d'une tâche planifiée ou d'un processus délégué. De même, le fait d'envoyer une demande de révocation d'identifiants ne prouve pas en soi que toutes les sessions en aval ont perdu leur accès. Vérifiez que la mesure est bien appliquée au niveau des services concernés.

Choisissez le niveau d'automatisation en fonction du degré de confiance et de l'impact sur l'activité. Il est plus facile d'automatiser un blocage préapprouvé vers une destination explicitement interdite que de désactiver une identité partagée par plusieurs flux de travail critiques.

Exemple de tentative d'exfiltration de données

Un agent du service d'assistance peut outrepasser ses compétences lorsque une pièce jointe non fiable redirige une recherche spécifique à un dossier vers une exportation de données non autorisée. Le scénario hypothétique suivant utilise des données synthétiques pour illustrer une approche proposée en matière de détection et de réponse ; il ne s'agit pas d'un incident signalé par un client.

L'agent est autorisé à consulter le dossier d'un client et à rédiger une réponse interne. Le compte de service associé dispose d'un accès plus étendu, car une intégration plus ancienne prend également en charge la création de rapports.

  1. Des données non fiables sont introduites dans le flux de travail. Une pièce jointe contient des instructions visant à collecter des fiches clients supplémentaires et à les télécharger sur un site externe. Il s'agit d'une tentative de prompt injection.
  2. L'agent demande des données plus détaillées. La requête de l'outil dépasse le cadre de la tâche spécifique au dossier, même si le compte de service est techniquement en mesure d'effectuer cette requête. Un contrôle d'autorisation tenant compte de la tâche peut la rejeter dans ce cas.
  3. Une deuxième limite intercepte la tentative de transfert. Si le contrôle de lecture fait défaut ou s'avère inefficace, une demande de téléchargement ultérieure vers une destination non approuvée offre une occasion distincte d'intervenir. Une règle de destination appliquée au moment de l'exécution peut refuser le téléchargement avant son envoi via ce chemin contrôlé.
  4. L'analyste reconstitue la séquence des événements. L'enquête établit un lien entre la pièce jointe, la tâche, la session du compte de service, les enregistrements de récupération et la décision de téléchargement. Les enregistrements du réseau et du système cible permettent de déterminer quels effets en aval peuvent être confirmés.
  5. L'équipe maîtrise et corrige le flux de travail. L'intervenant met en pause l'exécution et les tâches déléguées, vérifie si des données ont pu s'échapper par d'autres voies, puis restreint les autorisations de l'intégration avant de procéder à un nouveau test.

Le rapport final sur l'incident doit faire la distinction entre une tentative de récupération, un accès confirmé aux données, un téléchargement bloqué et toute divulgation confirmée. Le fait qu'un téléchargement ait été bloqué sur une voie ne prouve pas qu'aucune autre divulgation n'ait eu lieu. Si les éléments de preuve sont incomplets, il convient de faire état de cette incertitude dans la conclusion.

Comment mettre en place un programme de surveillance ?

Commencez par un workflow significatif et vérifiez la visibilité et la réactivité avant d'étendre la couverture. Un projet pilote efficace doit comporter un responsable clairement identifié, des limites de tâches bien définies, des données de télémétrie accessibles et un moyen de tester les interventions sans affecter les données de production.

Choisissez un pilote et définissez le comportement attendu

Choisissez un projet pilote dont le responsable puisse définir la tâche autorisée, identifier ses dépendances et valider une intervention en toute sécurité. Créez un inventaire des agents IA qui relie chaque projet pilote à son responsable, à son environnement d'exécution, à ses identités, à ses outils, à ses accès aux données et à ses dépendances. Intégrez les agents délégués et les services tiers, lorsqu'ils sont connus.

Rédigez une brève spécification de comportement : tâches autorisées, limites des ressources, destinations approuvées, opérations sensibles, exigences en matière d'autorisation et conditions d'arrêt. Mettez-vous d'accord sur ces points avec le responsable métier et l'équipe chargée de la gestion des identités, plutôt que de les déduire uniquement à partir de l'historique des activités.

Testez les commandes à l'aide de scénarios sans risque

Utilisez des données synthétiques et des destinations isolées pour simuler à la fois des comportements normaux et interdits. Intégrez une tâche légitime mais inhabituelle afin que le pilote puisse tester aussi bien les perturbations opérationnelles que les mécanismes de détection.

Parmi les scénarios d'acceptation utiles, on peut citer : une instruction dissimulée dans un contenu récupéré, une lecture de données sensibles hors champ d'application, une modification de la cible après validation, l'utilisation répétée d'une même validation, la délégation entre agents, la défaillance d'un collecteur et la poursuite de l'exécution d'un processus enfant après l'arrêt de son processus parent.

Pour chaque scénario, notez le scénario de contrôle prévu, la séquence d'événements observée, le moment de l'alerte, la réponse mise en œuvre, l'effet vérifié et les lacunes restantes. Il s'agit de tests d'acceptation locaux, et non d'estimations des taux de détection des attaques en conditions réelles.

Se développer en définissant clairement les responsabilités et en maîtrisant les changements

Confiez la collecte et l'intégration en temps réel à l'équipe chargée de la plateforme, le mappage des identités et les modifications d'accès aux responsables des identités, ainsi que les détections et les enquêtes au SOC. Laissez au responsable métier la responsabilité de définir les comportements autorisés pour les tâches, tandis que les responsables de la confidentialité et des données gèrent les données de télémétrie sensibles.

Répétez les tests d'acceptation concernés lorsque les instructions, les descriptions d'outils, les modèles, les privilèges ou les chemins de délégation changent. Recensez les frameworks non pris en charge et les journaux SaaS retardés comme des limites explicites de couverture. L'extension doit s'appuyer sur une visibilité et un contrôle avérés plutôt que sur le nombre d'agents répertoriés sur un tableau de bord.

Indicateurs permettant de suivre la couverture et la réactivité

Évaluez la couverture des preuves, la qualité de la détection, les délais de réponse et le confinement vérifié, tout en identifiant les lacunes dans la collecte des données et les perturbations opérationnelles. Utilisez des dénominateurs spécifiques aux flux de travail afin que les améliorations restent pertinentes à mesure que le parc d'agents évolue.

Métrique Définition proposée Limite d'interprétation
Couverture des données probantes Nombre d'actions à fort impact examinées, ventilées par tâche, acteur, décision politique et résultat corroboré, divisé par le nombre total d'actions à fort impact examinées Précisez comment la population ciblée a été identifiée ; une analyse incomplète peut masquer des lacunes
Couverture de détection lors des essais Nombre de scénarios de test pertinents détectés divisé par le nombre de scénarios pertinents exécutés Évalue l'ensemble des scénarios testés, et non toutes les attaques possibles
Précision des alertes Nombre d'alertes confirmées nécessitant une action, divisé par le nombre d'alertes examinées par les analystes Définir ce qu'on entend par « nécessitant une intervention » et signaler séparément les alertes non vérifiées
Délai de détection Délai entre le premier événement observable pertinent et la mise à disposition de l'alerte Distinguer le délai lié à la source de l'audit du délai lié à la détection et au traitement
Durée de confinement vérifiée Délai écoulé entre le déclenchement de l'incident convenu et la confirmation que les mesures de contrôle requises ont pris effet Intégrer les contrôles d'exécution des éléments descendants et de mise en œuvre en aval
Interruption de la surveillance Durée et portée des lacunes dans la collecte ou des mappages d'identité inutilisables Un tableau de bord silencieux pendant une panne ne constitue pas une garantie de sécurité

Suivez également les perturbations opérationnelles liées aux interventions, aux efforts d'investigation et aux coûts de télémétrie. Rendez compte, dans la mesure du possible, de la répartition temporelle et des cas qui traînent ; une moyenne peut masquer des flux de travail dont les enregistrements d'audit arrivent trop tard pour permettre une intervention.

Fixez des objectifs après avoir évalué le projet pilote. Il n'existe pas de seuil d'alerte, de durée de conservation ou d'objectif de délai de détection universel adapté à tous les flux de travail des agents.

Comment évaluer les outils de surveillance des agents IA ?

Évaluez les outils de surveillance des agents IA en vérifiant s'ils sont capables d'attribuer la responsabilité des actions, de mettre en évidence les lacunes en matière de preuves et de mettre en œuvre les réponses requises par vos flux de travail. Une démonstration de la valeur ajoutée doit établir un lien entre ces capacités et un flux de travail représentatif, ainsi que ses contraintes opérationnelles réelles.

Renseignez-vous auprès du fournisseur ou de l'équipe interne chargée de la plateforme :

  • Couverture : quels environnements d'exécution, serveurs MCP, charges de travail et agents SaaS fournissent des données de télémétrie prises en charge ? Qu'est-ce qui reste invisible ?
  • ‍Attribution : Le système est-il capable de distinguer l'agent, l'utilisateur à l'origine de l'opération, le compte de service et les agents délégués lorsque les identifiants sont partagés ?
  • ‍Preuves : les enquêteurs peuvent-ils exporter les enregistrements originaux, identifier les événements retardés ou manquants, et comparer les traces des agents avec des sources indépendantes ?
  • ‍Mise en œuvre : quels contrôles sont exécutés avant l'exécution, lesquels génèrent des alertes ultérieures, et quelles mesures de réponse ont été testées dans l'environnement cible ?
  • ‍Confidentialité et confiance : où les données télémétriques sont-elles traitées, qui peut accéder au contenu, et l'environnement d'exécution surveillé peut-il modifier ses propres preuves de sécurité ?
  • ‍Exploitation et coûts : quels sont les coûts liés à l'ingestion, à la conservation, au stockage des contenus sensibles, à l'intégration et aux enquêtes, compte tenu du volume d'événements prévu ?

Vérifiez les affirmations telles que « en temps réel », « visibilité totale » et « confinement automatique » par rapport aux délais de livraison mesurés, aux intégrations prises en charge et aux reçus de contrôle effectifs. Pour les agents SaaS tiers, les restrictions contractuelles en matière d'accès à des fins d'audit et d'exportation des journaux peuvent déterminer la couverture réalisable.

Quelle est la place d'Vectra AI ?

Vectra AI fournit un contexte d'entreprise permettant d'enquêter sur les utilisations abusives d'identités et les activités suspectes au sein des environnements réseau et d'cloud . Ces éléments de preuve s'avèrent utiles lorsqu'un agent opère à l'aide d'identifiants et de services qui font déjà partie de la surface d'attaque de l'entreprise.

Vectra AI L'entreprise articule son approche de la sécurité et de l'observabilité natives de l'IA autour de l'observabilité unifiée, de l'IA comportementale, du renseignement sur les signaux d'attaque et du contrôle opérationnel. Son cas d'utilisation consacré à la détection et au confinement des attaques basées sur l'identité décrit la corrélation entre les activités liées aux identités humaines et non humaines sur le réseau et l'cloud , afin d'enquêter sur l'utilisation abusive d'identifiants valides.

Utilisez ce contexte d'entreprise en complément des traces d'exécution des agents, des autorisations spécifiques aux tâches et des contrôles mis en place sur les systèmes connectés. Lors d'une évaluation, vérifiez quelles identités d'agents peuvent être attribuées, quelles sources de télémétrie sont prises en charge et quelles actions de réponse sont disponibles dans votre environnement.

Pour évaluer cette adéquation, demandez une démonstration d'Vectra AI à l'aide d'un flux de travail représentatif, des justificatifs requis et d'un test de confinement défini.

Remarque : ce guide s'appuie sur des recommandations en matière de sécurité publique et sur des études d'incidents. Le cadre de mise en œuvre et l'exemple concret constituent des recommandations à titre indicatif.

Foire aux questions

En quoi la surveillance des agents diffère-t-elle de celle des modèles de langage à grande échelle (LLM) ?

La surveillance du comportement peut-elle mettre fin à l'prompt injection e ?

Avez-vous besoin de connaître le raisonnement d'un agent ?

Est-il possible de surveiller les agents SaaS tiers ?