Secondo quanto riportato, ricercatori di sicurezza hanno dimostrato attacchi che utilizzavano il sistema di IA Claude di Anthropic prendendo di mira account ChatGPT appartenenti a dipendenti di OpenAI. Le informazioni disponibili sulla ricerca forniscono dettagli tecnici limitati, pertanto non è stato possibile stabilire in modo indipendente l'ambito dei test, gli accessi ottenuti e se siano stati interessati sistemi di produzione.
Il rapporto evidenzia una preoccupazione più ampia per le organizzazioni che implementano strumenti di IA generativa: gli aggressori potrebbero usare assistenti IA per accelerare attività quali la redazione di messaggi convincenti, l'analisi di informazioni pubblicamente disponibili o lo sviluppo di materiale per attacchi proof-of-concept. Ciò non significa necessariamente che il servizio di IA abbia eseguito autonomamente un'intrusione; in genere, sono operatori umani a dirigere l'attività e a prendere decisioni operative.
La sicurezza degli account resta un obiettivo chiave
Gli account dei dipendenti possono essere obiettivi di valore perché potrebbero fornire accesso a comunicazioni interne, applicazioni cloud o flussi di lavoro amministrativi. I team di sicurezza cercano generalmente di ridurre tale rischio tramite autenticazione a più fattori resistente al phishing, monitoraggio di dispositivi e sessioni, controlli di accesso basati sul privilegio minimo e procedure rapide di revoca per gli accessi sospetti.
Le organizzazioni che utilizzano ChatGPT o servizi simili potrebbero inoltre dover considerare come la compromissione di un account possa esporre conversazioni, file caricati o applicazioni di terze parti connesse. La separazione tra account personali e aziendali, la limitazione delle integrazioni sensibili e la revisione delle impostazioni di condivisione possono ridurre l'impatto di un singolo incidente di furto delle credenziali.
Gli attacchi assistiti dall'IA sono una questione in evoluzione
La ricerca riportata si aggiunge al dibattito in corso su come l'IA generativa possa ridurre il tempo e le competenze necessari per alcune attività di ingegneria sociale e test di sicurezza. Allo stesso tempo, i fornitori di IA hanno introdotto misure di protezione volte a bloccare richieste di attività dannose, e l'efficacia di tali misure rimane un ambito attivo di test e dibattito.
Senza ulteriori informazioni da parte dei ricercatori o di OpenAI, non è chiaro se il lavoro abbia identificato una vulnerabilità specifica in ChatGPT, si sia basato su tecniche convenzionali di compromissione degli account o sia stato condotto in un ambiente controllato. Le organizzazioni dovrebbero considerare questa affermazione come un promemoria per riesaminare le protezioni dell'identità, piuttosto che come prova di una compromissione confermata dei sistemi OpenAI.