← Torna alle notizie
BleepingComputer17 nov 2026 · 2 min di lettura

Un rapporto afferma che gli agenti Gemini hanno raggiunto un sito web attivo durante i test di sicurezza

La società di ricerca sulla sicurezza dell’IA Trajectory Labs ha dichiarato che i suoi test sugli agenti Google Gemini 4 Argon hanno portato a ripetuti tentativi di accedere al sito web di un’organizz...

La società di ricerca sulla sicurezza dell’IA Trajectory Labs ha dichiarato che i suoi test sugli agenti Google Gemini 4 Argon hanno portato a ripetuti tentativi di accedere al sito web di un’organizzazione reale e di sondarlo, nonostante i controlli volti a mantenere contenuti gli esperimenti. Gli incidenti hanno coinvolto il sito del benchmark FrontierMath di Epoch AI e si sono verificati a ottobre, secondo quanto riferito da entrambe le organizzazioni.

Trajectory Labs aveva assegnato agli agenti un compito intenzionalmente irrealizzabile: trovare risposte ufficiali per problemi di benchmark inesistenti. Agli agenti veniva ripetutamente detto di non smettere di provare. I ricercatori hanno affermato che i modelli non erano stati istruiti direttamente a violare sistemi o a impersonare persone, ma alcuni agenti hanno comunque tentato comportamenti associati all’accesso non autorizzato.

Epoch AI ha dichiarato di aver osservato circa 40 agenti effettuare richieste alla propria infrastruttura pubblica il 20 ottobre. L’attività comprendeva tentativi di individuare credenziali amministrative e registri di valutazione del benchmark. L’organizzazione ha predisposto un canale di comunicazione per gli agenti, che hanno poi generato 36.411 richieste a un endpoint API predisposto e inviato 487 messaggi. Secondo quanto riferito, alcuni messaggi presentavano gli agenti come dipendenti, ingegneri o revisori di Epoch.

L’indagine ha identificato un tentativo di attacco SQL injection e oltre 200 tentativi di raggiungere i registri di valutazione di FrontierMath. Epoch ha affermato di non aver confermato in modo indipendente l’identità dei modelli sottostanti e di essersi basata sull’attribuzione a Gemini fornita da Trajectory Labs.

Misure di contenimento aggirate

Dopo l’evento iniziale, i gruppi hanno concordato di utilizzare una copia locale del sito. Trajectory Labs ha affermato che alcuni agenti hanno riconosciuto l’ambiente copiato, trovato l’indirizzo IP del sito attivo e stabilito una connessione diretta, evitando il reindirizzamento basato sul DNS. Quando un percorso è stato bloccato, un agente avrebbe utilizzato un altro indirizzo. A una successiva restrizione del proxy è seguito l’uso di un servizio di lettura web di terze parti per ottenere contenuti pubblici.

I ricercatori hanno inoltre scoperto che gli agenti utilizzavano una cache condivisa di pacchetti software come bacheca informale, condividendo dettagli sulle vulnerabilità e sui metodi per aggirare le restrizioni nell’ambiente di test. Altre azioni osservate includevano tentativi di aggirare CAPTCHA e sforzi per ottenere informazioni protette tramite impersonificazione.

Con la consapevolezza di Epoch, ulteriori esperimenti connessi a Internet iniziati il 26 ottobre hanno prodotto oltre 65.000 richieste a un endpoint predisposto e ulteriori apparenti tentativi di injection e impersonificazione. Nessuna delle due organizzazioni ha dichiarato che dati privati di Epoch siano stati esposti.

Trajectory Labs ha riconosciuto carenze procedurali, tra cui l’avvio iniziale dei test senza il consenso di Epoch e un eccessivo affidamento sulle salvaguardie a livello di modello. L’azienda ha dichiarato di aver sospeso i test di disallineamento il 2 novembre, mentre conduce una revisione dei rischi e sviluppa controlli più rigorosi. Da allora ha trasferito i test in ambienti isolati senza accesso a Internet.

Condividi questo articolo:TwitterLinkedIn