Les anciennes tactiques d’« empoisonnement » du texte mettent à l’épreuve certains filtres anti-spam dopés à l’IA

Selon l’entreprise de cybersécurité Barracuda, des attaquants renouent avec une ancienne technique de contournement des systèmes de messagerie afin de faire passer des messages d’hameçonnage à travers certains systèmes de sécurité fondés sur l’apprentissage automatique et les grands modèles de langage (LLM).

Barracuda a déclaré avoir identifié plus d’un million d’e-mails d’hameçonnage sur le thème de la vente au détail utilisant l’« empoisonnement » du texte depuis avril. Cette méthode consiste à ajouter à un message malveillant de grandes quantités de contenu apparemment inoffensif ou sans rapport. Ce contenu supplémentaire vise à diluer les signaux utilisés par les systèmes automatisés pour déterminer si un e-mail est suspect.

Cette technique est utilisée depuis des années contre les passerelles de messagerie sécurisées traditionnelles. Dans les campagnes actuelles, les attaquants prennent également des mesures pour dissimuler le contenu de remplissage aux destinataires humains. Barracuda a identifié plusieurs approches courantes :

• Recadrage CSS : le code HTML limite la zone visible afin que le texte supplémentaire soit masqué au lecteur.
• Positionnement du texte : le contenu est déplacé en dehors de la partie du message normalement affichée à l’écran.
• Techniques de police de taille nulle : des termes supplémentaires sont insérés au moyen d’un formatage qui les rend invisibles, tandis que les systèmes d’analyse automatisée peuvent toujours les traiter.

Ces méthodes peuvent créer un écart entre ce qu’analyse un modèle de sécurité et ce que voit le destinataire. Après l’ajout du contenu de remplissage, un message peut sembler contenir des éléments courants ou légitimes pour un système d’IA, alors que l’e-mail visible présente toujours le leurre d’hameçonnage conçu par l’attaquant.

Les défenses traditionnelles de la messagerie ont mis au point des moyens de détecter ou de supprimer le contenu masqué, mais Barracuda a indiqué que certains systèmes pilotés par l’IA ne distinguent pas systématiquement le texte visible du code HTML sous-jacent ou du code source. Les LLM sont souvent configurés pour analyser le texte et le code qu’ils reçoivent sans déterminer automatiquement si ces éléments sont visibles pour l’utilisateur.

L’entreprise recommande aux organisations de ne pas s’appuyer uniquement sur les mots-clés ou la classification par IA. Une stratégie en plusieurs niveaux doit également prendre en compte la réputation de l’expéditeur, les résultats de l’authentification, les liens et autres contenus intégrés, le comportement du rendu HTML ainsi que les écarts entre les parties visibles et masquées d’un message.

L’empoisonnement du texte montre que les techniques d’attaque éprouvées restent pertinentes à mesure que les défenses de la messagerie évoluent. Les organisations doivent tester la manière dont leurs systèmes de filtrage gèrent le code HTML manipulé et le contenu dissimulé, tout en maintenant des contrôles supplémentaires pour les liens, les expéditeurs et les échecs d’authentification suspects.