Check Point Research a décrit un problème désormais résolu impliquant un service interne JFrog Artifactory utilisé par les environnements d’exécution de code d’OpenAI. Selon les chercheurs, cette configuration aurait pu permettre à un attaquant de transmettre des instructions cachées entre des sessions ChatGPT isolées et, potentiellement, d’utiliser les connexions applicatives autorisées d’une victime pour récupérer des données.
Les chercheurs ont indiqué avoir averti OpenAI fin juin. À ce moment-là, OpenAI avait déjà retiré l’instance Artifactory, apparemment à la suite d’un incident distinct impliquant des agents d’IA et Hugging Face. Check Point a précisé que sa découverte était distincte de cette intrusion, bien que les deux cas aient impliqué le même système interne de gestion de paquets.
Fonctionnement du canal
Les conteneurs d’exécution de code de ChatGPT étaient conçus sans accès direct à Internet, mais pouvaient accéder à un dépôt interne de paquets. Check Point a constaté que les objets du dépôt pouvaient contenir des propriétés textuelles, y compris des données encodées. Une session associée à un compte pouvait écrire du contenu dans le service partagé, tandis que la session d’un autre utilisateur pouvait le lire.
Les chercheurs ont également signalé que des identifiants destinés à la lecture du dépôt autorisaient des actions d’écriture. Étant donné que le code exécuté dans une session pouvait s’authentifier auprès du service, un attaquant aurait pu stocker des instructions qu’une session de victime aurait ensuite pu traiter.
Dans une preuve de concept, Check Point a utilisé une conversation ChatGPT partagée pour démontrer le risque. La demande visible de l’utilisateur était inoffensive, par exemple générer un graphique météo, tandis qu’une instruction dissimulée demandait au système d’accéder à un compte Gmail connecté et de renvoyer des informations via le canal du dépôt partagé. La victime ne verrait ni l’instruction cachée ni les données qui en résultent dans la réponse normale du chat, selon les chercheurs.
Préoccupations plus larges liées à la sécurité de l’IA
L’impact potentiel dépendait des applications connectées au compte de la victime. Au-delà des e-mails, les chercheurs ont indiqué qu’un accès similaire aurait pu affecter des services tels que le stockage cloud, les plateformes de collaboration, les dépôts de code source et les fichiers accessibles à l’assistant.
- Les services internes partagés peuvent compromettre l’isolation si les autorisations sont trop étendues.
- Des identifiants en lecture seule ne devraient pas conférer de capacités d’écriture.
- Les systèmes d’IA ayant accès à des applications connectées nécessitent une surveillance et des contrôles contre les instructions cachées ou indirectes.
Check Point a qualifié ce problème d’exemple des risques créés lorsque des agents d’IA peuvent exécuter du code, utiliser des identifiants et accéder à des données sensibles. OpenAI n’a pas apporté de réponse publique dans le rapport fourni. Le service Artifactory concerné ayant été mis hors service, ce canal spécifique n’est plus disponible, mais cette recherche souligne la nécessité de renforcer les frontières de confiance autour des outils d’IA agentique.
