Studie zeigt: Die meisten Unternehmen melden KI-Sicherheitsprobleme, während die Governance hinterherhinkt

Eine neue Umfrage von DigiCert legt nahe, dass viele Unternehmen ihre KI-Einführung schneller vorantreiben, als sie entsprechende Kontrollen dafür einrichten.

Nach Angaben des Anbieters für digitale Identitäten gaben 78 % der 1.001 von dem Unternehmen in den USA, im Vereinigten Königreich und in Australien befragten IT- und Cybersicherheitsverantwortlichen an, dass sie entweder einen KI-bezogenen Sicherheitsvorfall erlebt oder eine KI-bezogene Schwachstelle entdeckt hatten. Das Unternehmen erklärte, die Ergebnisse deuteten eher auf ein umfassenderes Governance-Problem als auf einen Fehler im von KI generierten Code hin.

Von den Befragten meldeten 27,7 % einen einzelnen Vorfall, 21,9 % gaben an, mit mehreren Vorfällen konfrontiert gewesen zu sein, und 28,4 % hatten keinen direkten Vorfall erlebt, aber Schwachstellen festgestellt. DigiCert zufolge standen die Probleme mit KI-Agenten in Verbindung, die nicht ordnungsgemäß autorisiert oder falsch konfiguriert waren.

Die Governance hinkt weiterhin hinterher

Die Umfrage zeigt ein starkes Bewusstsein auf Führungsebene, aber eine schwächere Umsetzung im Bereich der alltäglichen Kontrollen. DigiCert zufolge haben 90 % der Unternehmen auf Vorstandsebene über KI-Governance gesprochen, doch nur die Hälfte verfügt über eigene Budgets und formelle Governance-Programme.

Diese Lücke scheint zu Problemen bei der Nachvollziehbarkeit zu führen. Nur 53 % der Befragten gaben an, dass ihre Unternehmen KI-Entscheidungen auf die dahinterstehenden Modelle und Quelldaten zurückführen können. DigiCert erklärte, dies werde besonders riskant, wenn ein KI-System ein unerwartetes oder umstrittenes Ergebnis liefert und Stakeholder eine Erklärung verlangen.

CEO Amit Sinha erklärte, KI-Agenten sollten denselben Identitäts- und Verifizierungsstandards unterliegen wie menschliche Mitarbeiter. Das Unternehmen argumentierte, dass Organisationen ihren Mitarbeitern nicht erlauben würden, ohne verifizierte Identitäten zu arbeiten, und dass dies auch für KI-Systeme gelten sollte.

Ein wiederkehrendes Thema in der aktuellen Forschung

Der Bericht deckt sich mit anderen aktuellen Umfrageergebnissen, die darauf hindeuten, dass Unternehmen KI einführen, bevor sie klare Schutzmaßnahmen etabliert haben. Eine separate, zwei Wochen zuvor veröffentlichte Studie von Spacelift ergab, dass 93 % der Unternehmen KI-bezogene Infrastrukturvorfälle erlebt hatten, während nur 19 % über einen Governance-Plan verfügten.

Gleichzeitig betonen Anbieter weiterhin die geschäftlichen Vorteile von KI. Die Daten von DigiCert zeichnen ein vorsichtigeres Bild: Unternehmen erzielen mit KI einen operativen Mehrwert, stellen aber auch fest, dass Sicherheit, Aufsicht und Verantwortlichkeit nicht Schritt gehalten haben.

Die Botschaft der Umfrage ist vorerst eindeutig: Unternehmens-KI verbreitet sich schnell, doch die Kontrollen rund um Identität, Autorisierung und Nachvollziehbarkeit sind weiterhin unvollständig.