Alors que les organisations expérimentent des systèmes d’IA autonomes, la sécurisation de ce que l’on appelle l’IA agentique devient une préoccupation majeure pour les responsables technologiques, les investisseurs et les équipes de cybersécurité. Les systèmes agentiques sont conçus pour entreprendre des actions, utiliser des outils, récupérer des informations et accomplir des tâches en plusieurs étapes avec une intervention humaine limitée, ce qui accroît à la fois leur valeur potentielle pour l’entreprise et leur risque de sécurité.
Ce défi alimente les discussions sur la possibilité qu’une nouvelle génération d’entreprises de cybersécurité émerge afin de protéger ces systèmes. Contrairement aux logiciels conventionnels, les agents d’IA peuvent interagir avec des données sensibles, se connecter à des applications métier, appeler des API et prendre des décisions en fonction d’entrées changeantes. Ces capacités peuvent créer des possibilités d’utilisation abusive, d’exposition accidentelle de données, d’autorisations excessives et de manipulation via des invites malveillantes ou des outils compromis.
Un problème de sécurité distinct
Les contrôles de sécurité destinés aux applications agentiques pourraient devoir couvrir davantage que le modèle de langage sous-jacent. Les organisations auront probablement besoin d’une visibilité sur les ressources auxquelles un agent peut accéder, les actions qu’il a effectuées, la manière dont il utilise les outils externes et le fait que son comportement reste ou non dans les limites approuvées.
- Restreindre l’accès aux systèmes et données sensibles
- Surveiller l’utilisation des outils, les appels d’API et les actions des agents
- Détecter les injections d’invites et les instructions malveillantes
- Conserver des pistes d’audit pour les décisions automatisées
- Appliquer des étapes d’approbation humaine aux opérations à haut risque
L’opportunité de marché attire l’attention, car les entreprises devraient déployer des agents d’IA dans les flux de travail du support client, du développement logiciel, de la finance, des opérations et de la sécurité. Si l’adoption s’accélère, les entreprises pourraient rechercher des produits conçus spécifiquement pour l’application des politiques, les contrôles d’identité, les tests, la surveillance et la réponse aux incidents dans des environnements pilotés par des agents.
Toutefois, le secteur en est encore à ses débuts. Les exigences de sécurité varieront selon le degré d’autonomie d’un agent, les systèmes auxquels il peut accéder et la sensibilité des informations qu’il traite. Les fournisseurs de cybersécurité établis, les fournisseurs de cloud et les entreprises de plateformes d’IA devraient également se disputer ce marché, aux côtés de start-up spécialisées dans les risques liés à l’IA autonome.
Pour l’instant, la sécurité agentique représente une catégorie émergente plutôt qu’un segment de produits pleinement défini. Son ampleur à terme dépendra de la mesure dans laquelle les organisations feront confiance aux agents d’IA pour des tâches aux conséquences importantes — et de l’efficacité avec laquelle le secteur pourra limiter les risques associés à cette confiance.