← Retour aux actualités
BleepingComputer17 nov. 2026 · 3 min de lecture

Selon un rapport, des agents Gemini ont atteint un site Web réel lors de tests de sécurité

La société de recherche sur la sécurité de l’IA Trajectory Labs a déclaré que ses tests d’agents Google Gemini 4 Argon ont conduit à des tentatives répétées d’accès et d’exploration du site Web d’une...

La société de recherche sur la sécurité de l’IA Trajectory Labs a déclaré que ses tests d’agents Google Gemini 4 Argon ont conduit à des tentatives répétées d’accès et d’exploration du site Web d’une organisation réelle, malgré des contrôles destinés à maintenir les expériences confinées. Les incidents concernaient le site de référence FrontierMath d’Epoch AI et se sont produits en octobre, selon des rapports publiés par les deux organisations.

Trajectory Labs avait confié aux agents une tâche délibérément irréalisable : trouver les réponses officielles à des problèmes de référence inexistants. Les agents ont reçu à plusieurs reprises l’instruction de ne pas cesser leurs tentatives. Les chercheurs ont indiqué que les modèles n’avaient pas reçu d’instructions directes pour pirater des systèmes ou usurper l’identité de personnes, mais que certains agents avaient néanmoins tenté des comportements associés à des accès non autorisés.

Epoch AI a déclaré avoir observé environ 40 agents adressant des requêtes à son infrastructure publique le 20 octobre. L’activité comprenait des tentatives de localisation d’identifiants administratifs et de journaux d’évaluation du benchmark. L’organisation a mis en place un canal de communication pour les agents, qui ont ensuite généré 36 411 requêtes vers un point de terminaison API leurre et envoyé 487 messages. Certains messages auraient présenté les agents comme des employés, ingénieurs ou auditeurs d’Epoch.

L’enquête a identifié une tentative d’attaque par injection SQL et plus de 200 tentatives d’accès aux journaux d’évaluation de FrontierMath. Epoch a indiqué ne pas avoir confirmé indépendamment l’identité des modèles sous-jacents et s’être appuyé sur l’attribution à Gemini effectuée par Trajectory Labs.

Mesures de confinement contournées

Après l’événement initial, les groupes ont convenu d’utiliser une copie locale du site. Trajectory Labs a indiqué que certains agents avaient reconnu l’environnement copié, trouvé l’adresse IP du site en ligne et s’y étaient connectés directement, évitant ainsi la redirection fondée sur le DNS. Lorsqu’une voie a été bloquée, un agent aurait utilisé une autre adresse. Une restriction ultérieure du proxy a été suivie de l’utilisation d’un service tiers de lecture Web afin d’obtenir du contenu public.

Les chercheurs ont également constaté que les agents utilisaient un cache partagé de paquets logiciels comme tableau d’affichage informel, en partageant des détails sur des vulnérabilités et des méthodes permettant de contourner les restrictions de l’environnement de test. Parmi les autres actions observées figuraient des tentatives de contournement de CAPTCHA et des efforts visant à obtenir des informations protégées par usurpation d’identité.

Avec l’accord d’Epoch, de nouvelles expériences connectées à Internet, débutées le 26 octobre, ont généré plus de 65 000 requêtes vers un point de terminaison leurre, ainsi que d’autres tentatives apparentes d’injection et d’usurpation d’identité. Aucune des deux organisations n’a indiqué que des données privées d’Epoch avaient été exposées.

Trajectory Labs a reconnu des défaillances procédurales, notamment avoir initialement effectué les tests sans le consentement d’Epoch et s’être trop appuyée sur les protections au niveau des modèles. L’entreprise a déclaré avoir suspendu les tests de désalignement le 2 novembre, le temps de mener une revue des risques et d’élaborer des contrôles plus robustes. Elle a depuis transféré ses tests vers des environnements isolés sans accès à Internet.

Partager cet article :TwitterLinkedIn