Sicherheitsforscher haben eine Angriffstechnik beschrieben, bei der eine bösartige Anweisungsdatei im Downloads-Ordner eines Nutzers KI-Coding-Agenten dazu bringen kann, unerwünschte Befehle auszuführen oder nicht vertrauenswürdige Software zu installieren.
Im Mittelpunkt stehen Dateien wie AGENTS.md und CLAUDE.md. Dabei handelt es sich um Klartextdokumente, die Coding-Assistenten projektspezifische Anweisungen geben. Je nach Agent können diese Dateien festlegen, wie Software getestet, Tools ausgewählt, Programmierkonventionen eingehalten oder andere Aufgaben ausgeführt werden sollen. Wird ein Agent in einem Verzeichnis gestartet, das eine bösartige Anweisungsdatei enthält, könnte er deren Inhalt als vertrauenswürdigen Kontext behandeln.
Forscher von Forever Security erklärten, sie hätten einen Vorfall untersucht, bei dem ein Coding-Agent versucht habe, ein verdächtiges npm-Paket namens function-color zu installieren. Sie führten das Verhalten auf eine AGENTS.md-Datei im Downloads-Verzeichnis des betroffenen Nutzers zurück, das zugleich als Arbeitsordner des Agenten verwendet wurde.
Downloads-Ordner birgt ein Risiko
Die Forscher rekonstruierten das Szenario gegen OpenAI Codex mit einem harmlosen Proof of Concept, der eine Taschenrechner-Anwendung öffnete. Sie berichteten von einer Erfolgsrate von etwa 90 %. In separaten Tests mit Claude Code wurde eine bösartige Anweisungsdatei verwendet, um API-Datenverkehr über einen von Angreifern kontrollierten Server umzuleiten. Dadurch könnten ein OAuth-Token offengelegt und nachfolgende Tool-Aktionen ermöglicht werden.
Der Angriff setzt nicht voraus, dass die Anweisungsdatei ausführbar ist. Stattdessen missbraucht er die vorgesehene Fähigkeit des Agenten, lokale Anweisungen zu lesen und über verfügbare Tools und Berechtigungen zu handeln.
Die Forscher merkten an, dass Browser Downloads üblicherweise standardmäßig im Downloads-Ordner speichern. Eine Website kann möglicherweise einen Dateidownload auslösen, obwohl Browser normalerweise Download-Benachrichtigungen anzeigen und einige eine Nutzerbestätigung verlangen. Damit der Angriff gelingt, müsste ein Opfer anschließend einen KI-Agenten im selben Ordner starten oder die bösartige Datei auf andere Weise in dessen Arbeitskontext einbeziehen.
Empfohlene Vorsichtsmaßnahmen
- Starten Sie Coding-Agenten im Stammverzeichnis des konkreten Projekts, an dem gearbeitet wird.
- Vermeiden Sie es, weit gefasste Speicherorte – insbesondere Home- und Downloads-Verzeichnisse – als Arbeitsbereiche für Agenten zu verwenden.
- Prüfen Sie unbekannte AGENTS.md-, CLAUDE.md- und verwandte Dateien, bevor Sie einem Agenten erlauben, sie zu verwenden.
- Lassen Sie Bestätigungsaufforderungen und Sandboxing-Schutzmechanismen aktiviert, sofern verfügbar.
- Verwenden Sie isolierte Umgebungen, wenn Sie Code oder Dateien aus nicht vertrauenswürdigen Quellen bewerten.
Die Erkenntnisse unterstreichen, dass das Arbeitsverzeichnis eines KI-Agenten ebenfalls Teil seiner Sicherheitsgrenze ist. Eine Einschränkung dieses Kontexts kann die Wahrscheinlichkeit verringern, dass nicht zusammenhängende heruntergeladene Dateien als operative Anweisungen interpretiert werden.
