À mesure que l'IA s'intègre dans l'ensemble de l'entreprise, les discussions sur la sécurité se concentrent souvent sur les modèles, les capacités et les nouvelles catégories de risques techniques. Ce qui est beaucoup moins abordé, c'est le problème de conception que cela pose : comment les humains sont-ils censés comprendre, faire confiance et agir sur la base de signaux produits par des systèmes qui fonctionnent de manière probabiliste et à la vitesse d'une machine ?
Pour ceux d'entre nous qui travaillent dans le domaine de l'expérience utilisateur en cybersécurité, ce problème n'est pas nouveau.
Depuis plus d'une décennie, l'équipe UX de Vectra se concentre sur un seul défi permanent : comment mettre en évidence les comportements complexes des attaquants de manière compréhensible, exploitable et fiable pour les humains. Bien avant que l'IA ne devienne une préoccupation majeure pour les entreprises, Vectra était déjà confrontée à des systèmes opaques, des signaux incertains et la nécessité de prendre des décisions cruciales sous pression.
Cette expérience devient particulièrement pertinente alors que l'IA elle-même fait son entrée dans le paysage des menaces.
Des résultats obscurs de l'IA aux comportements compréhensibles des attaquants
Les réseaux modernes génèrent d'énormes volumes de signaux que les humains ne peuvent pas facilement interpréter par eux-mêmes. Les outils qui s'ajoutent à cela compliquent souvent la tâche, produisant des scores, des alertes et des détections isolées qui manquent du contexte dont les analystes ont besoin pour agir en toute confiance.
Au fil du temps, l'expérience utilisateur efficace en matière de sécurité a évolué, passant de la présentation de résultats bruts à la lisibilité des comportements:
- Comment l'activité se déroule au fil du temps
- Quelles identités et quels systèmes sont concernés ?
- Quelles séquences d'actions créent un risque ?
- Pourquoi quelque chose est important aujourd'hui, et pas seulement parce que cela s'est produit
L'objectif n'a jamais été d'atteindre une certitude parfaite. Il s'agissait plutôt d'aider le jugement humain en présence d'ambiguïté. Cela nécessite de traduire des données probabilistes, souvent désordonnées, en récits cohérents que les gens peuvent évaluer et sur lesquels ils peuvent agir.
Il est essentiel de noter que ces données sont rarement claires ou bien structurées. Elles ne ressemblent pas à des feuilles de calcul ou à des formulaires. Elles se présentent sous forme de fragments qui n'ont de sens que lorsqu'ils sont reliés, contextualisés et interprétés.
L'UX est la couche qui effectue cette traduction.
Les attaquants IA modifient la vitesse, pas le comportement
L'introduction d'attaquants pilotés par l'IA modifie considérablement l'ampleur et le rythme des attaques. Les systèmes autonomes peuvent aider les attaquants à opérer en continu, à s'adapter rapidement et à se déplacer à des vitesses qui dépassent de loin les capacités humaines.
Ce qu'ils ne font pas, c'est inventer des catégories entièrement nouvelles de comportements malveillants.
Les attaquants IA auront une apparence différente, mais leur comportement restera le même. Ils continueront à :
- Rechercher les faiblesses dans les environnements
- Abus d'identité et d'accès
- Se déplacer latéralement à travers les systèmes
- Élargir les privilèges
- Recherchez la persévérance et l'impact
Ils le font au sein d'infrastructures conçues par et pour les humains : fournisseurs d'identité, applications, réseaux et flux de travail. Même si le rythme s'accélère, les comportements sous-jacents restent reconnaissables.
C'est pourquoi la conception centrée sur le comportement est importante. Les interfaces construites autour de règles statiques ou d'hypothèses fragiles rencontrent des difficultés lorsque les acteurs s'adaptent plus rapidement que ces règles ne peuvent évoluer. Le comportement reste une abstraction stable, car il reflète l'intention plutôt que la mise en œuvre.
L'UX comme couche de traduction
Alors que la détection et l'analyse s'effectuent de plus en plus à la vitesse des machines, les humains restent chargés de comprendre ce qui se passe et de décider comment réagir. Le fossé entre les systèmes automatisés et le jugement humain continue de se creuser.
Security UX existe pour combler cette lacune.
Son rôle n'est pas d'éliminer l'incertitude ou d'automatiser la prise de décision à la place des personnes, mais de rendre la complexité intelligible :
- Rendre le raisonnement probabiliste compréhensible sans le simplifier à l'excès
- Afficher des modèles plutôt que submerger les utilisateurs d'alertes
- Fournir un contexte qui explique pourquoi l'activité est importante
- Soutenir l'enquête et le raisonnement, pas seulement la réaction
Cette couche de traduction devient plus critique, et non moins, à mesure que les systèmes deviennent plus autonomes.
Pourquoi est-ce important aujourd'hui ?
Alors que les organisations s'efforcent de sécuriser les entreprises utilisant l'IA, beaucoup découvrent que des modèles plus avancés ne suffisent pas à résoudre le problème. Dans certains cas, une sophistication accrue peut accroître l'opacité et éroder la confiance.
Les enseignements tirés au fil des ans par l'équipe UX de Vectra AI une perspective utile dans le contexte actuel. Concevoir pour l'IA implique d'accepter que :
- Les résultats seront non structurés et probabilistes.
- Les systèmes s'adapteront en permanence
- L'action se déroulera à la vitesse de la machine.
- Le jugement humain restera l'autorité ultime.
Dans ce contexte, le comportement devient l'interface la plus fiable entre les machines et les personnes.
Concevoir pour juger
L'avenir de la sécurité dans les entreprises utilisant l'IA ne dépendra pas uniquement des capacités de détection. Il dépendra également de la capacité des humains à comprendre et à agir efficacement sur la base des informations fournies par les systèmes automatisés.
C'est dans l'expérience utilisateur que cette compréhension prend forme.
Alors que l'IA devient une force plus rapide et plus adaptative dans les attaques, la capacité à mettre en évidence les comportements de manière claire, cohérente et crédible pourrait être l'un de nos moyens de défense les plus importants.