L’intelligence artificielle semble aider les acteurs malveillants à créer et à modifier des malwares plus rapidement, mais une analyse récente suggère qu’elle n’a pas encore entraîné une augmentation significative des infections réussies.
Unit 42 de Palo Alto Networks a examiné 405 échantillons de malwares associés à l’IA. L’ensemble de données comprenait des logiciels malveillants qui auraient été développés avec l’aide de grands modèles de langage, ainsi que des charges utiles conventionnelles déguisées en programmes d’installation d’applications d’IA populaires. Les chercheurs ont comparé les échantillons aux données de télémétrie des terminaux, à l’activité réseau en sandbox et aux alertes de sécurité internes.
Seuls 12 des 405 hachages de fichiers ont été observés sur des terminaux protégés en activité. Un nombre plus important — environ 15 à 20 — est apparu dans le trafic des sandboxes. Chacun des 12 échantillons détectés sur des systèmes de production a généré une alerte de sécurité, ce qui a conduit Unit 42 à conclure qu’environ 97 % des échantillons n’avaient pas dépassé les environnements de recherche, de test ou d’analyse isolée.
Contenu de l’ensemble d’échantillons
Unit 42 a regroupé la plupart des échantillons non présents en production en trois catégories. Certains étaient des projets de preuve de concept conçus pour démontrer des techniques et incluaient des artefacts de test peu susceptibles d’apparaître dans des malwares opérationnels. D’autres étaient téléversés à plusieurs reprises par des organisations testant leurs contrôles de défense. Une troisième catégorie utilisait l’image de marque liée à l’IA comme appât d’ingénierie sociale, sans contenir de fonctionnalités d’IA significatives.
Les 12 échantillons observés sur des terminaux représentaient cinq familles de malwares dans trois pays. Le rançongiciel FunkSec était la famille la plus fréquemment identifiée et présentait des schémas de développement que les chercheurs ont jugés cohérents avec une itération rapide assistée par prompts.
Un échantillon particulièrement répandu se faisait passer pour une application de recettes appelée Recipe Lister. Bien que signé numériquement, il lançait une porte dérobée après l’installation et est apparu dans plus de 50 organisations, générant environ 6 500 enregistrements sur les terminaux et 9 600 alertes. Parmi les autres exemples figuraient une porte dérobée Oyster déguisée en Dropbox, une charge utile de vol d’informations Rhadamanthys et un malware usurpant l’identité d’un composant de 360 Total Security.
Les défenses conventionnelles sont restées efficaces
Unit 42 a indiqué que les contrôles existants détectaient les échantillons grâce à l’exécution en sandbox, à l’analyse comportementale, à des informations de signature suspectes et à des indicateurs tels qu’un empaquetage ou un chiffrement intensifs. Aucun n’a nécessité de nouvelle technique de détection.
Ces conclusions indiquent que l’effet actuel de l’IA sur les malwares est avant tout opérationnel : elle peut réduire le temps de développement et rendre les variations moins coûteuses, tandis que les technologies de sécurité établies restent capables d’identifier les menaces qui en résultent.
