Sicherheitsforscher sollen Angriffe demonstriert haben, bei denen Anthropics KI-System Claude eingesetzt wurde und die auf ChatGPT-Konten von OpenAI-Mitarbeitern abzielten. Die verfügbaren Angaben zu der Untersuchung enthalten nur begrenzte technische Details. Daher ließen sich Umfang der Tests, die erlangten Zugriffe und die Frage, ob Produktivsysteme betroffen waren, nicht unabhängig klären.
Der Bericht verdeutlicht ein weitergehendes Problem für Unternehmen, die generative KI-Tools einsetzen: Angreifer können KI-Assistenten nutzen, um Aufgaben wie das Formulieren überzeugender Nachrichten, die Analyse öffentlich verfügbarer Informationen oder die Entwicklung von Proof-of-Concept-Material für Angriffe zu beschleunigen. Das bedeutet nicht zwangsläufig, dass der KI-Dienst eigenständig in ein System eingedrungen ist; menschliche Akteure steuern die Aktivitäten üblicherweise und treffen operative Entscheidungen.
Kontosicherheit bleibt ein wichtiges Angriffsziel
Mitarbeiterkonten können wertvolle Ziele sein, da sie Zugang zu interner Kommunikation, Cloud-Anwendungen oder administrativen Arbeitsabläufen ermöglichen können. Sicherheitsteams versuchen im Allgemeinen, dieses Risiko durch phishingresistente Multi-Faktor-Authentifizierung, Geräte- und Sitzungsüberwachung, Zugriffskontrollen nach dem Least-Privilege-Prinzip sowie Verfahren zur schnellen Sperrung bei verdächtigen Anmeldungen zu verringern.
Unternehmen, die ChatGPT oder ähnliche Dienste verwenden, sollten zudem berücksichtigen, wie eine Kontoübernahme Gespräche, hochgeladene Dateien oder verbundene Drittanbieteranwendungen offenlegen könnte. Die Trennung privater und geschäftlicher Konten, die Beschränkung sensibler Integrationen und die Überprüfung von Freigabeeinstellungen können die Folgen eines einzelnen Diebstahls von Zugangsdaten begrenzen.
KI-unterstützte Angriffe sind ein sich entwickelndes Thema
Die berichtete Untersuchung trägt zur laufenden Diskussion darüber bei, wie generative KI den Zeit- und Fachwissensaufwand für einige Social-Engineering- und Sicherheitstestaufgaben verringern kann. Gleichzeitig haben KI-Anbieter Schutzmaßnahmen eingeführt, die Anfragen nach schädlichen Aktivitäten blockieren sollen; die Wirksamkeit dieser Maßnahmen bleibt ein aktives Feld für Tests und Debatten.
Ohne zusätzliche Informationen von den Forschern oder OpenAI bleibt unklar, ob die Arbeit eine konkrete Schwachstelle in ChatGPT identifizierte, auf herkömmlichen Techniken zur Kontoübernahme beruhte oder in einer kontrollierten Umgebung durchgeführt wurde. Unternehmen sollten die Behauptung als Anlass verstehen, ihren Identitätsschutz zu überprüfen, und nicht als Beleg für eine bestätigte Kompromittierung von OpenAI-Systemen.