Wie KI die Sicherheit der Software-Lieferkette verändert

Bei der Sicherheit der Software-Lieferkette ging es lange darum, was in einer Anwendung landet: Pakete, Abhängigkeiten und die Wege, die diese Komponenten bis in die Produktion nehmen. Da KI-Programmierwerkzeuge Teil der alltäglichen Entwicklung werden, erweitert sich dieser Blickwinkel. KI-Systeme helfen inzwischen dabei, Code zu schreiben, Bibliotheken auszuwählen und Tools innerhalb von Build-Pipelines auszulösen. Dadurch entstehen neue Stellen, an denen Vertrauen beeinträchtigt werden kann.

Sicherheitsteams haben bereits erlebt, wie Drittanbietersoftware durch Vorfälle wie SolarWinds, Log4Shell, XZ Utils und jüngst die Kampagne mit dem Schadpaket Shai-Hulud missbraucht werden kann. Die aufkommende Sorge besteht darin, dass KI eine weitere Abhängigkeitsebene einführt. Das Modell, der Agent, die von ihm verarbeiteten Prompts und die von ihm aufgerufenen Tools können allesamt beeinflussen, was erstellt und ausgeliefert wird.

Warum sich das Risiko verlagert

Analysten zufolge reicht es nicht mehr aus, von KI generierte Ausgaben wie gewöhnlichen Code zu behandeln und sie nachträglich zu scannen. Ein in ein Modell eingeschleuster Prompt, ein von einem autonomen Agenten vorgeschlagenes Tool oder ein über MCP angebundener Dienst, auf den ohne angemessene Kontrollen zugegriffen wird, kann die Software-Lieferkette beeinflussen, bevor überhaupt Code committet wird.

Damit hat sich auch die Frage nach der Herkunft ausgeweitet. Teams müssen nun nicht nur fragen, woher ein Paket stammt, sondern auch, wie ein Modell konfiguriert war, welcher Agent eine Entscheidung getroffen hat und welche Tools zu diesem Zeitpunkt verfügbar waren.

Was Unternehmen verändern

Sicherheitsprogramme, die sich an die KI-gestützte Entwicklung anpassen, konzentrieren sich zunehmend auf zwei Hauptbereiche:

• Durchgängige Nachverfolgbarkeit: Modelle, Agenten, Konfigurationen, Prompts und andere Eingaben zusammen mit den herkömmlichen Codeabhängigkeiten erfassen.
• Priorisierung auf Grundlage der Ausnutzbarkeit: Den Laufzeitkontext nutzen, um zu bestimmen, welche Befunde tatsächlich erreichbar sind, anstatt lediglich die Zahl der Warnungen zu erhöhen.

Die Herausforderung besteht nicht in einem Mangel an Daten, sondern in ihrer schieren Menge. Noch mehr Scans in bereits überlastete Sicherheitsprozesse zu integrieren, kann den Rückstand vergrößern, ohne die Resilienz zu verbessern. Das übergeordnete Ziel besteht darin zu verstehen, welchen KI-bezogenen Komponenten vertraut wird, welche sichtbar sind und welche sich zur Laufzeit kontrollieren lassen.

Das Thema hat auch die Aufmerksamkeit des Marktes auf sich gezogen. Im Juni veröffentlichte Gartner seinen ersten Magic Quadrant für die Sicherheit von Software-Lieferketten, was die wachsende Nachfrage nach strukturierten Ansätzen in diesem Bereich widerspiegelt. Unabhängig davon sollen OX-Forscher in einem Webinar am 22. Juli über die Auswirkungen von KI auf die Sicherheit der Lieferkette sprechen. Dabei geht es unter anderem um erste Erkenntnisse zu MCP-Servern in freier Wildbahn und darum, wie Unternehmen ihre Kontrollen anpassen.