Une étude met en lumière les risques liés à la gouvernance des identités des agents IA

Une nouvelle étude décrit une technique baptisée « GhostJacking », dans laquelle des attaquants pourraient exploiter les alertes de sécurité et les événements bloqués pour influencer le comportement des agents IA. Ces travaux mettent en évidence des faiblesses dans la gouvernance des identités, des autorisations et des signaux de sécurité des agents.

Les agents IA accèdent de plus en plus à des applications, des données et des workflows automatisés. Par conséquent, les systèmes qui surveillent leur activité peuvent devenir un élément important du périmètre de sécurité. Selon l’étude, un attaquant pourrait tenter d’utiliser des alertes ou des actions refusées comme des entrées modifiant les décisions d’un agent, créant potentiellement une opportunité de manipuler ou de détourner son fonctionnement.

Pourquoi ce problème est important

Les contrôles d’identité traditionnels sont généralement conçus pour les utilisateurs humains et les comptes de service de longue durée. À l’inverse, les agents IA peuvent prendre des décisions dynamiquement, appeler plusieurs outils et réagir aux événements en temps réel. Si leurs identités et leurs autorisations ne sont pas gérées avec rigueur, un agent pourrait obtenir davantage d’accès que nécessaire ou réagir de manière imprévisible à des signaux malveillants.

L’étude souligne qu’une activité bloquée ne doit pas être considérée comme un simple bruit de fond inoffensif. Les événements de sécurité peuvent également être traités par l’agent lui-même, par des systèmes d’orchestration connectés ou par d’autres composants automatisés. En l’absence d’une séparation claire entre les instructions de confiance et les données d’événements non fiables, des attaquants pourraient être en mesure d’influencer le contexte ou les actions d’un agent.

Considérations de sécurité

• Attribuer à chaque agent une identité distincte et strictement limitée, et restreindre son accès aux seuls outils et données dont il a besoin.
• Séparer les données de télémétrie de sécurité des instructions que les agents sont autorisés à suivre.
• Vérifier comment les alertes, les requêtes refusées et autres entrées externes sont validées avant de parvenir à un agent.
• Surveiller l’activité des agents afin de détecter toute utilisation inattendue des autorisations, toute répétition d’actions bloquées ou tout changement soudain de comportement.
• Maintenir une validation humaine pour les opérations sensibles, en particulier celles qui concernent l’identité, les accès ou les modifications irréversibles.

Ces résultats s’ajoutent aux préoccupations croissantes selon lesquelles la sécurisation des agents IA exige davantage que des mesures de protection des modèles. Les organisations doivent également appliquer une gouvernance des identités, des contrôles fondés sur le principe du moindre privilège et une surveillance continue aux agents ainsi qu’aux systèmes qui les dirigent.