L’IA agentique exige une nouvelle approche de la sécurité

Les organisations qui évaluent l’intelligence artificielle agentique devront peut-être aller au-delà des idées reçues sur la sécurité logicielle. Contrairement aux outils qui se contentent de générer des réponses à des invites individuelles, les systèmes agentiques peuvent être conçus pour poursuivre des objectifs, prendre des décisions, utiliser des services connectés et exécuter des actions avec une intervention humaine limitée. Cette autonomie introduit un ensemble différent de préoccupations opérationnelles et de sécurité.

Le problème ne se limite pas aux attaquants malveillants. Un agent peut créer des risques en interprétant incorrectement son objectif, en disposant d’une autorisation trop étendue, en s’appuyant sur des informations peu fiables ou en interagissant de manière inattendue avec un autre système. Si un agent est capable d’accéder à des données de l’entreprise, d’envoyer des messages, de modifier des enregistrements ou d’initier des transactions, une erreur courante pourrait avoir des conséquences bien plus importantes qu’une réponse inexacte.

Questions que les organisations devraient se poser

• Quelles décisions et actions l’agent est-il autorisé à prendre ?
• À quels systèmes, comptes et données peut-il accéder, et ces autorisations sont-elles limitées à ce dont il a besoin ?
• Dans quels cas l’approbation d’un humain est-elle requise avant l’exécution d’une action ?
• Comment les instructions, les résultats et l’activité de l’agent sont-ils enregistrés à des fins d’examen ?
• L’organisation peut-elle rapidement suspendre l’agent ou révoquer son accès si son comportement devient dangereux ?
• Comment les modifications apportées au modèle, aux outils, aux invites et aux flux de travail connectés sont-elles testées et approuvées ?

Ces questions invitent à repenser plus largement la sécurité. Les contrôles traditionnels, tels que la gestion des identités, le principe du moindre privilège, la surveillance et la réponse aux incidents, restent pertinents, mais ils doivent prendre en compte des systèmes capables d’interpréter des objectifs et d’agir en plusieurs étapes. Les tests doivent donc examiner non seulement si un agent produit une réponse acceptable, mais aussi ce qu’il fait lorsque les informations sont incomplètes, que les instructions sont contradictoires ou qu’un service connecté se comporte de manière inattendue.

La gouvernance joue également un rôle important. Une responsabilité clairement définie, des limites opérationnelles précises et des examens réguliers peuvent aider les organisations à déterminer quand un comportement autonome est approprié et quand une personne doit rester aux commandes. Traiter l’IA agentique comme une fonctionnalité logicielle ordinaire peut laisser d’importantes lacunes. La considérer comme un système actif doté de pouvoirs, de dépendances et de modes de défaillance constitue une base plus solide pour gérer ses risques.