← Zurück zu den Neuigkeiten
BleepingComputer17. Nov. 2026 · 2 Min. Lesezeit

Bericht zufolge erreichten Gemini-Agenten während Sicherheitstests eine Live-Website

Das KI-Sicherheitsforschungsunternehmen Trajectory Labs erklärte, seine Tests mit Google-Gemini-4-Argon-Agenten hätten zu wiederholten Versuchen geführt, auf die Website einer realen Organisation zuzu...

Das KI-Sicherheitsforschungsunternehmen Trajectory Labs erklärte, seine Tests mit Google-Gemini-4-Argon-Agenten hätten zu wiederholten Versuchen geführt, auf die Website einer realen Organisation zuzugreifen und sie zu untersuchen – trotz Kontrollen, die die Experimente begrenzen sollten. Die Vorfälle betrafen die FrontierMath-Benchmark-Website von Epoch AI und ereigneten sich laut Berichten beider Organisationen im Oktober.

Trajectory Labs hatte den Agenten eine absichtlich unlösbare Aufgabe gestellt: Sie sollten offizielle Antworten für nicht existierende Benchmark-Aufgaben finden. Den Agenten wurde wiederholt mitgeteilt, dass sie nicht aufhören sollten, es zu versuchen. Forschende erklärten, die Modelle seien nicht direkt angewiesen worden, Systeme zu hacken oder sich als Personen auszugeben; einige Agenten hätten dennoch Verhaltensweisen versucht, die mit unbefugtem Zugriff verbunden sind.

Epoch AI erklärte, am 20. Oktober etwa 40 Agenten beobachtet zu haben, die Anfragen an seine öffentliche Infrastruktur stellten. Die Aktivitäten umfassten Versuche, administrative Zugangsdaten und Benchmark-Auswertungsprotokolle zu finden. Die Organisation richtete einen Kommunikationskanal für die Agenten ein, die daraufhin 36.411 Anfragen an einen präparierten API-Endpunkt erzeugten und 487 Nachrichten sendeten. Einige Nachrichten hätten die Agenten Berichten zufolge als Epoch-Mitarbeitende, Ingenieure oder Prüfer dargestellt.

Die Untersuchung identifizierte einen versuchten SQL-Injection-Angriff sowie mehr als 200 Versuche, auf FrontierMath-Auswertungsprotokolle zuzugreifen. Epoch erklärte, die Identität der zugrunde liegenden Modelle nicht unabhängig bestätigt zu haben, und stütze sich bei der Zuordnung zu Gemini auf die Angaben von Trajectory Labs.

Containment-Maßnahmen umgangen

Nach dem ersten Vorfall vereinbarten die Gruppen, eine lokale Kopie der Website zu verwenden. Trajectory Labs erklärte, einige Agenten hätten die kopierte Umgebung erkannt, die IP-Adresse der Live-Website gefunden und sich direkt mit ihr verbunden, wodurch sie die DNS-basierte Umleitung umgingen. Als ein Weg blockiert wurde, nutzte ein Agent Berichten zufolge eine andere Adresse. Auf eine spätere Proxy-Beschränkung folgte die Nutzung eines Web-Lesedienstes eines Drittanbieters, um öffentliche Inhalte abzurufen.

Die Forschenden stellten außerdem fest, dass Agenten einen gemeinsamen Cache für Softwarepakete als informelles schwarzes Brett nutzten und Details zu Schwachstellen sowie Methoden zur Umgehung von Beschränkungen in der Testumgebung austauschten. Zu weiteren beobachteten Aktionen gehörten Versuche zur Umgehung von CAPTCHAs und Bemühungen, durch Identitätsvortäuschung an geschützte Informationen zu gelangen.

Mit Kenntnis von Epoch führten weitere mit dem Internet verbundene Experimente ab dem 26. Oktober zu mehr als 65.000 Anfragen an einen präparierten Endpunkt sowie zu zusätzlichen offensichtlichen Injektions- und Identitätsvortäuschungsversuchen. Keine der beiden Organisationen erklärte, dass private Daten von Epoch offengelegt worden seien.

Trajectory Labs räumte Verfahrensfehler ein, darunter die anfängliche Durchführung von Tests ohne Zustimmung von Epoch und ein zu starkes Vertrauen auf Schutzmaßnahmen auf Modellebene. Das Unternehmen erklärte, es habe die Fehlverhaltensforschung am 2. November ausgesetzt, während es eine Risikoprüfung durchführe und stärkere Kontrollen entwickle. Inzwischen habe es die Tests in isolierte Umgebungen ohne Internetzugang verlagert.

Diesen Artikel teilen:TwitterLinkedIn