CISA nutzt Berichten zufolge Anthropics Mythos zur Suche nach Softwarefehlern

Die US-Behörde für Cybersicherheit und Infrastruktursicherheit (CISA) nutzt Berichten zufolge das KI-Modell Mythos von Anthropic, um staatliche Software auf Sicherheitslücken zu überprüfen. Das berichtet Reuters unter Berufung auf mit den Vorgängen vertraute Personen.

Die gemeldete Initiative konzentriert sich auf das Durchsuchen von Code-Repositorien in Bundesbehörden, um Schwachstellen zu finden, bevor sie von ausländischen Nachrichtendiensten oder kriminellen Gruppen ausgenutzt werden können. Laut Reuters wird die Arbeit vom Team für die Bewertung der Angriffsfläche der CISA geleitet, einer Einheit, die auf digitale Bewertungen und simulierte offensive Tests spezialisiert ist.

Erste Erkenntnisse und wenige Details

Zwei der von Reuters zitierten Quellen erklärten, dass die KI-gestützten Prüfungen bereits eine „große Zahl“ an Schwachstellen zutage gefördert hätten. Der Bericht nannte jedoch weder die betroffenen Behörden noch den Schweregrad der Probleme oder den Umfang der bislang untersuchten Software.

• Der Umfang der Scans wurde nicht veröffentlicht.
• Die betroffenen staatlichen Systeme wurden nicht genannt.
• Der Schweregrad der Schwachstellen wurde nicht offengelegt.

Weder die CISA noch Anthropic gaben Reuters gegenüber eine offizielle Stellungnahme zu dem gemeldeten Programm ab.

Anthropics wachsende Rolle im Regierungsbereich

Der gemeldete Einsatz von Mythos erfolgt zu einem Zeitpunkt, an dem das Modell offenbar in US-amerikanischen Verteidigungs- und Nachrichtendienstkreisen zunehmend an Bedeutung gewinnt. Im vergangenen Monat erklärte ein Behördenvertreter gegenüber der Associated Press, dass eines der Modelle von Anthropic während einer Testübung Schwachstellen in hochsensiblen staatlichen Systemen entdeckt habe. Laut dem Bericht soll auch die NSA das Modell in gewissem Umfang einsetzen.

Gleichzeitig ist Anthropic mit Bundesbehörden darüber aneinandergeraten, wie seine Tools kontrolliert werden sollten. Anfang dieses Jahres wies das Unternehmen den Druck zurück, Schutzvorkehrungen zu entfernen, die den Einsatz seiner Modelle für autonome Waffen und die Überwachung der eigenen Bevölkerung einschränkten. Dieser Streit soll das Pentagon dazu veranlasst haben, Anthropic als Lieferkettenrisiko einzustufen. Als Anthropic Anfang Juni eine öffentliche Version seines Modells startete, äußerten Behörden zudem Bedenken hinsichtlich des Zugriffs aus dem Ausland. Dies führte zu einer vorübergehenden weltweiten Abschaltung, die erst vergangene Woche aufgehoben wurde.

Die gemeldete CISA-Initiative spiegelt einen umfassenderen Wandel in der Art und Weise wider, wie Behörden den Einsatz von KI für Cybersicherheitsaufgaben bewerten – insbesondere für die Softwareprüfung und das Auffinden von Schwachstellen. Vorerst bleiben die Details des operativen Einsatzes jedoch weitgehend undurchsichtig.