Selon le rapport décrivant le problème, une vulnérabilité désormais corrigée dans AWS Bedrock AgentCore aurait pu permettre à un attaquant de compromettre un ensemble plus large d’agents d’IA connectés au cloud au moyen d’une seule invite malveillante.
La faille, appelée « AgentCorruption », met en évidence les préoccupations de sécurité entourant les systèmes d’IA capables d’effectuer des actions pour le compte d’utilisateurs ou d’organisations. Au lieu de limiter un chatbot d’IA à répondre à des questions, les systèmes agentiques peuvent être connectés à des outils, des sources de données, des API et des services cloud. Ces capacités peuvent créer un risque supplémentaire si un attaquant est en mesure d’influencer les instructions ou le comportement de l’agent.
Impact potentiel
Dans le scénario rapporté, une attaque réussie aurait pu permettre à un chatbot d’IA compromis d’affecter l’ensemble plus vaste des agents d’une organisation. La description disponible ne détaille pas le chemin technique précis, les configurations concernées ni si le problème a été exploité dans la nature.
Néanmoins, cette découverte souligne un défi central pour les organisations qui déploient des agents d’IA dans des environnements cloud : une invite ne doit pas être considérée comme une instruction de confiance simplement parce qu’elle atteint un système autorisé. Les entrées provenant d’utilisateurs, de documents, de sites web, d’applications connectées et d’autres agents peuvent toutes contenir du contenu non fiable.
Considérations défensives
- Appliquez les mises à jour de sécurité AWS et vérifiez l’état actuel des correctifs des déploiements Bedrock AgentCore.
- Limitez les autorisations des agents au moyen de contrôles d’accès fondés sur le principe du moindre privilège et utilisez des identités distinctes pour les différentes charges de travail.
- Exigez une validation et une approbation pour les actions sensibles, en particulier celles impliquant des identifiants, des modifications d’infrastructure ou l’accès à des données organisationnelles.
- Surveillez l’activité des agents, les appels d’outils et les comportements inhabituels entre agents afin de détecter les signes d’une utilisation abusive.
- Testez les flux de travail d’IA face aux risques d’injection d’invites et d’instructions indirectes avant leur déploiement en production.
Les organisations utilisant des agents d’IA basés sur le cloud devraient également maintenir des frontières claires entre les interfaces conversationnelles et les systèmes opérationnels privilégiés. Limiter les outils disponibles pour un agent et veiller à ce que les actions à fort impact nécessitent des contrôles indépendants peut réduire les conséquences d’une attaque réussie fondée sur une invite.