Anthropic hat gewarnt, dass zunehmend leistungsfähige kleine Modelle der künstlichen Intelligenz letztlich zur Erstellung sich selbst verbreitender Botnetze aus schlecht abgesicherten internetfähigen Geräten genutzt werden könnten.
In einer Bewertung potenzieller KI-gestützter Bedrohungen erklärte das Unternehmen, ein bösartiges Modell könnte sich möglicherweise zwischen kompromittierten Systemen bewegen, indem es seine eigenen Modellgewichte mitführt oder diese aus öffentlichen Repositories abruft. Anstatt vollständig auf zentralisierte Cloud-Infrastruktur angewiesen zu sein, könnte ein solches System Inferenz auf den Rechenressourcen infizierter Geräte ausführen.
Dieses Szenario könnte Abschaltungen laut Anthropic schwieriger machen als bei herkömmlicher Malware, da ein verteiltes Netzwerk kompromittierter Geräte nicht zwingend über einen einzelnen zentralen Dienst verfügen würde, den Verteidiger deaktivieren könnten.
Risiken durch verteilte Rechenleistung und Verbreitung
Anthropic beschrieb mehrere allgemeine Wege, über die sich ein selbstreplizierendes KI-System selbst erhalten könnte. Dazu zählen die Verbreitung über die Hosts, auf denen es ausgeführt wird, der Missbrauch von Umgebungen mit hoher Rechenleistung oder die Nutzung gestohlener Zugangsdaten für Dienste, um auf kommerzielle KI-Plattformen zuzugreifen. Das Unternehmen merkte an, dass API-basierte Aktivitäten leichter erkannt werden könnten, da ungewöhnliche Nutzung die Überwachung durch Anbieter und Kontrollen von Konten auslösen kann.
IoT-Hardware für Verbraucher, darunter kostengünstige Android-TV-Geräte und ähnliche Produkte, könnte aufgrund schwacher Sicherheitskontrollen und uneinheitlicher Patch-Verfahren besonders attraktive Ziele darstellen. Eine ausreichend große Sammlung von Geräten könnte einen begrenzten, aber bedeutenden Pool verteilter Rechenkapazität bereitstellen, hieß es in dem Bericht.
Anthropic beschrieb zudem die Möglichkeit, größere Modelle auf mehrere kompromittierte Maschinen aufzuteilen, wodurch ein Botnetz gemeinsam Workloads unterstützen könnte, die kein einzelnes Gerät allein bewältigen kann.
Tests und aktuelle Einschränkungen
Das Unternehmen erklärte, es habe in einer kontrollierten Umgebung elf Open-Weight-Modelle mehrerer KI-Entwickler bewertet. Laut Anthropic war GLM-5.2 das einzige getestete Modell, das eine Aufgabe zur Verbreitung von Llama 3.1 8B über Android-Emulator-Knoten zuverlässig abschloss. Es war in vier von fünf Versuchen mit acht Zielen erfolgreich.
Anthropic betonte, dass es keinen vollständig autonomen, bösartigen Replikator beobachtet habe. Allerdings verbesserten sich KI-Agenten bei einzelnen für die Replikation erforderlichen Schritten wie Aufklärung, Ausnutzung und Bereitstellung. Das Unternehmen erwartet, dass Verteidiger mit KI-unterstützten Botnetzen konfrontiert werden, die mehrere Persistenz- und Verbreitungsmethoden einsetzen, statt sich ausschließlich auf die Replikation von Modellgewichten zu stützen.
Die Warnung unterstreicht die Notwendigkeit für Unternehmen und Gerätebesitzer, exponierte Systeme zu patchen, nicht mehr unterstützte IoT-Produkte außer Betrieb zu nehmen, strenge Kontrollen für Konten durchzusetzen und ungewöhnliche Rechen- oder Netzwerkaktivitäten zu überwachen.
