← Zurück zu den Neuigkeiten
Dark Reading7. Sept. 2026 · 2 Min. Lesezeit

Versicherer und Sicherheitsverantwortliche bewerten Risiken autonomer KI-Systeme

Versicherungsanbieter und Chief Information Security Officers prüfen, wie sich Schäden im Zusammenhang mit autonomen KI-Systemen bewältigen lassen, die unerwartet oder schädlich handeln. Während Unter...

Versicherungsanbieter und Chief Information Security Officers prüfen, wie sich Schäden im Zusammenhang mit autonomen KI-Systemen bewältigen lassen, die unerwartet oder schädlich handeln. Während Unternehmen KI-Agenten zur Automatisierung von Geschäfts-, Kundenservice- und Sicherheitsaufgaben einsetzen, wachsen die Bedenken darüber, wer verantwortlich ist, wenn diese Systeme schädliche Entscheidungen treffen.

Das Thema ist besonders kompliziert, wenn ein KI-Agent berechtigt ist, auf interne Daten zuzugreifen, mit Diensten Dritter zu interagieren, Transaktionen zu genehmigen oder Cloud-Umgebungen zu verändern. Fehler bei der Konfiguration, fehlerhafte Anweisungen, manipulierte Eingaben und unzureichende Zugriffskontrollen können dazu führen, dass ein automatisiertes System finanzielle, operative oder datenschutzbezogene Folgen in großem Umfang verursacht.

Fragen zu Versicherungsschutz und Verantwortlichkeit

Herkömmliche Cyberversicherungen können einige daraus resultierende Ereignisse abdecken, etwa Datenschutzverletzungen, Betriebsunterbrechungen oder Kosten für die Reaktion auf Sicherheitsvorfälle. Versicherer werden jedoch wahrscheinlich genau prüfen, ob ein KI-bezogener Ausfall unter bestehende Vertragsbedingungen fällt, ob die menschliche Aufsicht ausreichend war und ob das Ereignis durch Fahrlässigkeit, einen Softwarefehler oder böswillige Manipulation verursacht wurde.

Unternehmen könnten zudem mit Unsicherheit hinsichtlich der Haftung konfrontiert sein, die zwischen Anbietern von KI-Modellen, Softwareherstellern, Systemintegratoren und dem Unternehmen, das den Agenten betreibt, geteilt wird. Vertragsbedingungen, Prüfprotokolle und technische Beweise könnten bei der Bestimmung der Verantwortung nach einem Vorfall wichtig werden.

Überprüfte Schutzmaßnahmen

Von Sicherheitsteams wird zunehmend erwartet, Governance-Maßnahmen anzuwenden, bevor sie KI-Agenten weitreichende Berechtigungen erteilen. Zu den gängigen Schutzmaßnahmen gehören:

  • Begrenzung des Agentenzugriffs durch Berechtigungen nach dem Prinzip der minimalen Rechtevergabe und segmentierte Umgebungen.
  • Vorgabe einer menschlichen Genehmigung für Maßnahmen mit hoher Auswirkung, einschließlich Zahlungen, Änderungen in Produktionsumgebungen und Datenexporten.
  • Protokollierung der Agentenaktivitäten und Aufbewahrung von Nachweisen zu Prompts, Tool-Aufrufen und Entscheidungen.
  • Tests von Systemen auf Prompt Injection, Datenabfluss und unsichere Tool-Nutzung.
  • Einrichtung klarer Verfahren zur Reaktion auf Sicherheitsvorfälle, um automatisierte Workflows zu deaktivieren oder einzudämmen.

Für Versicherer könnten stärkere Kontrollen zu einem Faktor bei Risikoprüfung und Preisgestaltung werden, wenn die Nutzung autonomer KI zunimmt. Für CISOs besteht die Herausforderung darin, Produktivitätsgewinne zu ermöglichen und zugleich sicherzustellen, dass KI-Systeme beobachtbar, begrenzt und rechenschaftspflichtig bleiben.

Diesen Artikel teilen:TwitterLinkedIn