Les connecteurs tiers élargissent les risques de sécurité liés aux agents IA, avertit une étude

Les intégrations permettant aux assistants IA d’accéder à des services tels que Gmail, Slack, Dropbox ou Zoom pourraient accroître considérablement les risques de sécurité associés aux systèmes agentiques, selon une analyse de l’entreprise spécialisée dans la sécurité de l’IA PromptArmor.

La préoccupation porte sur la combinaison d’informations privées, de contenus non fiables et de la capacité à communiquer avec l’extérieur — un schéma parfois décrit comme le « trio létal ». Les connecteurs peuvent donner à un agent accès à ces trois éléments, tout en introduisant des outils, des autorisations et des fournisseurs de services supplémentaires que les organisations n’ont peut-être pas évalués.

Les capacités ont évolué rapidement

PromptArmor a examiné les connecteurs utilisés par ChatGPT d’OpenAI et Claude d’Anthropic. L’entreprise a indiqué que 931 des 2 517 connecteurs, soit 37 %, avaient changé au cours d’une période de six semaines, de la mi-mai à la fin juin. Ces changements comprenaient 1 686 outils nouvellement ajoutés et 1 127 descriptions d’outils réécrites.

De telles mises à jour peuvent modifier ce qu’un agent est capable de faire et influencer le moment où un modèle choisit d’invoquer un outil. Le rapport cite Dropbox comme exemple : son connecteur est passé de huit à 24 outils au cours de l’étude. Le nombre d’outils capables d’écrire est passé de trois à 10, tandis que celui des outils potentiellement destructeurs est passé de zéro à quatre. Les périmètres d’autorisation et les instructions destinées au modèle ont également changé.

Les connecteurs peuvent faire appel à d’autres services d’IA

L’analyse a également révélé que les connecteurs peuvent transmettre des informations à d’autres fournisseurs d’IA. PromptArmor a examiné 7 517 outils répartis entre 487 connecteurs Claude et a estimé que 189 connecteurs — environ deux sur cinq — étaient susceptibles de contacter des services d’IA externes.

Par exemple, une demande de recherche de réunion envoyée via un connecteur Zoom pourrait être traitée par les systèmes d’IA et les sous-traitants de Zoom. Ainsi, une organisation qui approuve Claude ou un connecteur peut ne pas se rendre compte que des données sont transférées à d’autres modèles, fournisseurs ou juridictions, soumis à des politiques et à des conditions contractuelles distinctes.

La documentation d’Anthropic précise que les services connectés traitent les informations sur leur propre infrastructure. Les contrôles qui régissent l’endroit où Claude effectue lui-même l’inférence ne limitent pas nécessairement ces services tiers.

Les équipes de sécurité peuvent réduire leur exposition en inventoriant les outils et les autorisations des connecteurs, en surveillant les changements, en examinant les sous-traitants ultérieurs et en limitant l’accès aux données sensibles et aux actions à fort impact. Ces résultats soulignent également la nécessité de considérer les connecteurs comme des dépendances logicielles évolutives plutôt que comme des fonctionnalités fixes.