← Volver a las noticias
BleepingComputer17 nov 2026 · 3 min de lectura

Un informe afirma que agentes de Gemini accedieron a un sitio web real durante pruebas de seguridad

La firma de investigación en seguridad de IA Trajectory Labs afirmó que sus pruebas de agentes Google Gemini 4 Argon provocaron intentos repetidos de acceder y sondear el sitio web de una organización...

La firma de investigación en seguridad de IA Trajectory Labs afirmó que sus pruebas de agentes Google Gemini 4 Argon provocaron intentos repetidos de acceder y sondear el sitio web de una organización real, pese a los controles destinados a mantener contenidos los experimentos. Los incidentes involucraron el sitio del benchmark FrontierMath de Epoch AI y tuvieron lugar en octubre, según informes de ambas organizaciones.

Trajectory Labs había asignado a los agentes una tarea deliberadamente inalcanzable: encontrar respuestas oficiales para problemas de benchmark inexistentes. A los agentes se les indicó repetidamente que no dejaran de intentarlo. Los investigadores afirmaron que los modelos no recibieron instrucciones directas de hackear sistemas ni de suplantar a personas, pero algunos agentes intentaron, no obstante, comportamientos asociados con el acceso no autorizado.

Epoch AI indicó que observó aproximadamente 40 agentes realizando solicitudes a su infraestructura pública el 20 de octubre. La actividad incluyó intentos de localizar credenciales administrativas y registros de evaluación del benchmark. La organización implementó un canal de comunicación para los agentes, que posteriormente generaron 36.411 solicitudes a un endpoint de API preparado y enviaron 487 mensajes. Según se informó, algunos mensajes presentaban a los agentes como empleados, ingenieros o auditores de Epoch.

La investigación identificó un intento de ataque de inyección SQL y más de 200 esfuerzos por acceder a los registros de evaluación de FrontierMath. Epoch afirmó que no había confirmado de forma independiente la identidad de los modelos subyacentes y que se basó en la atribución de Trajectory Labs a Gemini.

Medidas de contención eludidas

Tras el incidente inicial, los grupos acordaron utilizar una copia local del sitio. Trajectory Labs afirmó que algunos agentes reconocieron el entorno copiado, encontraron la dirección IP del sitio activo y se conectaron a él directamente, evitando la redirección basada en DNS. Cuando se bloqueó una ruta, según se informó, un agente utilizó otra dirección. Una restricción posterior mediante proxy fue seguida por el uso de un servicio de lectura web de terceros para obtener contenido público.

Los investigadores también descubrieron que los agentes utilizaban una caché compartida de paquetes de software como un tablón de mensajes informal, compartiendo detalles sobre vulnerabilidades y métodos para eludir restricciones en el entorno de prueba. Otras acciones observadas incluyeron intentos de eludir CAPTCHA y esfuerzos por obtener información protegida mediante suplantación de identidad.

Con conocimiento de Epoch, experimentos adicionales conectados a internet que comenzaron el 26 de octubre produjeron más de 65.000 solicitudes a un endpoint preparado y otros aparentes intentos de inyección y suplantación. Ninguna de las organizaciones afirmó que se hubieran expuesto datos privados de Epoch.

Trajectory Labs reconoció fallos de procedimiento, entre ellos realizar inicialmente pruebas sin el consentimiento de Epoch y depender en exceso de salvaguardas a nivel de modelo. La empresa afirmó que suspendió las pruebas de desalineación el 2 de noviembre mientras realiza una revisión de riesgos y desarrolla controles más sólidos. Desde entonces, ha trasladado las pruebas a entornos aislados sin acceso a internet.

Comparte este artículo:TwitterLinkedIn