Des chercheurs en sécurité auraient démontré des attaques utilisant le système d’IA Claude d’Anthropic tout en ciblant des comptes ChatGPT appartenant à des employés d’OpenAI. Les informations disponibles sur ces recherches fournissent peu de détails techniques ; il n’a donc pas été possible d’établir de manière indépendante l’ampleur des tests, les accès obtenus ni de déterminer si des systèmes de production ont été affectés.
Le rapport met en lumière une préoccupation plus large pour les organisations déployant des outils d’IA générative : les attaquants peuvent utiliser des assistants d’IA pour accélérer des tâches telles que la rédaction de messages convaincants, l’analyse d’informations accessibles au public ou le développement de matériel de preuve de concept pour des attaques. Cela ne signifie pas nécessairement que le service d’IA a mené une intrusion de manière autonome ; des opérateurs humains dirigent généralement l’activité et prennent les décisions opérationnelles.
La sécurité des comptes reste une cible majeure
Les comptes des employés peuvent constituer des cibles précieuses, car ils peuvent donner accès aux communications internes, aux applications cloud ou aux processus administratifs. Les équipes de sécurité cherchent généralement à réduire ce risque grâce à une authentification multifacteur résistante au phishing, à la surveillance des appareils et des sessions, à des contrôles d’accès selon le principe du moindre privilège et à des procédures de révocation rapide pour les connexions suspectes.
Les organisations utilisant ChatGPT ou des services similaires doivent également réfléchir à la manière dont la compromission d’un compte pourrait exposer des conversations, des fichiers téléversés ou des applications tierces connectées. La séparation des comptes personnels et professionnels, la restriction des intégrations sensibles et l’examen des paramètres de partage peuvent limiter l’impact d’un incident individuel de vol d’identifiants.
Les attaques assistées par l’IA constituent un enjeu en évolution
Les recherches rapportées s’ajoutent aux discussions en cours sur la manière dont l’IA générative peut réduire le temps et le niveau d’expertise nécessaires à certaines tâches d’ingénierie sociale et de test de sécurité. Dans le même temps, les fournisseurs d’IA ont mis en place des garde-fous destinés à bloquer les demandes liées à des activités malveillantes, et l’efficacité de ces protections demeure un sujet actif de tests et de débats.
En l’absence d’informations supplémentaires des chercheurs ou d’OpenAI, il n’est pas clair si ces travaux ont identifié une vulnérabilité spécifique dans ChatGPT, se sont appuyés sur des techniques classiques de compromission de comptes ou ont été menés dans un environnement contrôlé. Les organisations devraient considérer cette affirmation comme un rappel de réexaminer leurs protections d’identité, plutôt que comme la preuve d’une compromission confirmée des systèmes d’OpenAI.