Le NCSC appelle les organisations à adopter une approche prudente vis-à-vis de l’IA agentique

Le Centre national britannique de cybersécurité exhorte les organisations à faire preuve de prudence lors de l’introduction de systèmes d’IA agentique, en affirmant que cette technologie doit être adoptée progressivement et uniquement après une compréhension approfondie des risques de sécurité.

Dans de nouvelles recommandations élaborées avec des partenaires internationaux, le NCSC explique que l’IA agentique peut être utile, car elle est capable de planifier des tâches, de prendre des décisions et d’exécuter des actions avec une intervention humaine limitée. Mais cette même autonomie peut aussi rendre les erreurs plus difficiles à détecter et accroître l’impact potentiel d’un incident de sécurité.

Pourquoi cette technologie est différente

Contrairement aux outils d’IA générative classiques, qui produisent principalement du texte ou des prédictions, les systèmes agentiques peuvent interagir avec des données, utiliser des outils externes, conserver le contexte et poursuivre des objectifs en plusieurs étapes. Dans certains cas, ils peuvent même créer des sous-agents chargés de gérer certaines parties d’une tâche. Cette portée élargie peut créer de nouveaux défis opérationnels et de cybersécurité.

Le NCSC indique que bon nombre des dangers sont bien connus, notamment les contrôles d’accès insuffisants, les pratiques de développement non sécurisées, les risques liés à la chaîne d’approvisionnement et la surveillance inadéquate. Toutefois, l’indépendance accrue de l’IA agentique peut rendre son comportement plus difficile à prévoir, à tester et à encadrer.

Principaux risques mis en évidence

• Un accès plus étendu aux systèmes, aux outils et aux données que celui d’une IA non agentique
• Des actions inattendues causées par des objectifs ambigus ou des instructions peu claires
• Des problèmes qui évoluent trop rapidement pour permettre un examen humain à temps
• Une plus grande difficulté à expliquer pourquoi un système a effectué une action donnée

Un déploiement axé sur la sécurité

Les recommandations préconisent aux organisations de commencer par de petits projets pilotes axés sur des tâches à faible risque. Elles conseillent également aux équipes de déterminer si l’IA est réellement nécessaire et si une approche d’automatisation plus simple ou moins risquée serait préférable.

Lorsque l’IA agentique est utilisée, le NCSC recommande de la limiter dès sa conception, de la surveiller en continu et de ne jamais lui accorder un accès sans restriction aux données sensibles ou aux systèmes critiques. L’utilisation d’identifiants temporaires, de droits fondés sur le principe du moindre privilège et de paramètres sécurisés par défaut figure parmi les mesures recommandées.

L’organisme souligne également que la responsabilité humaine ne peut pas être externalisée à un logiciel. Les personnes doivent rester responsables de l’approbation des accès, de la supervision du comportement, de l’examen des incidents et de l’arrêt du système si nécessaire.

Selon le NCSC, si une organisation ne peut pas comprendre, contenir ou surveiller les actions d’un agent, elle n’est pas prête à le déployer.