La cybersécurité, c’est avant tout l’art de tromper à la fois l’être humain et ses défenses automatisées. Une campagne sophistiquée l’illustre parfaitement : des cybercriminels ont intégré ce qu’on appelle un prompt-injection… non pas pour tromper l’utilisateur, mais pour piéger l’IA censée le protéger.
1. L’innovation malveillante : piéger l’IA
Traditionnellement, le phishingHameçonnage par emails frauduleux imitant un service officiel. Email se faisant passer pour votre banque. PhishTank misait sur l’urgente nécessité de l’utilisateur à cliquer. Cette fois, l’attaque vise les défenses automatisées basées sur l’intelligence artificielle. Une note de connexion imminente – plausiblement légitime – est envoyée par email : « Votre mot de passe expire, confirmez vos identifiants ». Classique.
Mais l’attaque cache une profondeur inédite. Dans le code source du message, des lignes sont écrites comme une instruction destinée à un assistant IA (type ChatGPT ou Gemini), rédigées de façon invisible grâce au HTML/CSS. Ces instructions vont détourner le modèle LLM, forçant une boucle de raisonnement artificiel, ce qui perturbe l’analyse typique du mail par les systèmes SOCCentre opérationnel chargé de la surveillance et de la réaction à incidents. SOC alerte sur un comportement anormal. ANSSI et laisse passer la menace : ainsi se dérobe le lien vers la page de phishingHameçonnage par emails frauduleux imitant un service officiel. Email se faisant passer pour votre banque. PhishTank. Cette technique est une prompt-injection indirecte. Cyber Security News
2. Chaîne d’attaque complète : adresse, redirection, captcha et camouflage
Le parcours de l’infection est construit avec soin :
Envoi via SendGrid
Le mail passe les vérifications SPF et DKIM, mais échoue au niveau DMARC, ce qui l’expose légèrement… sans l’empêcher d’atteindre la boite mail de la victime. Cyber Security NewsRedirection par Microsoft Dynamics
Le lien initial pousse l’utilisateur via des assets Dynamics, renforçant l’illusion de légitimité. Cyber Security NewsPage avec CAPTCHA anti-sandbox
Les attaquants filtrent les automates d’analyse, bloquant les sandbox avec un CAPTCHA pour resta orienter vers des modules d’exploitation actifs. Cyber Security NewsPage de phishingHameçonnage par emails frauduleux imitant un service officiel. Email se faisant passer pour votre banque. PhishTank Gmail thématisée
Une fois le CAPTCHA validé, l’utilisateur est redirigé vers un faux portail Gmail, où des scripts JavaScript obfusqués volent les identifiants. Cyber Security NewsProfilage géographique
L’attaquant fait un appel GeoIP pour vérifier la localisation, l’ASN, etc., et bloque les environnements de test ou sandbox. Cyber Security NewsTélémetrie discrète
Un beacon envoie des données de session à un serveur de tracking permettant de distinguer utilisateur réel et machine d’analyse. Cyber Security News
3. Implications stratégiques : l’IA devient une arme à double tranchant
Cette attaque montre une évolution dangereuse :
Les IA comme Gemini sont manipulées, pas seulement les utilisateurs. Android CentralTechRadarBleepingComputer
Plus de filtres classiques ne suffisent plus : ici, c’est l’intelligence elle-même qui est dupée.
L’automatisation des SOCCentre opérationnel chargé de la surveillance et de la réaction à incidents. SOC alerte sur un comportement anormal. ANSSI devient une cible : si une IA est leur bouclier, on peut le pervertir pour ouvrir la brèche.
4. Modes opératoires détournés
Prompt-injection indirecte : le modèle interprète du contenu invisible comme une instruction valide. Cyber Security NewsWikipédia
Technique de camouflage : du texte blanc sur fond blanc, de la police à 0px… un code ignoré par l’homme, avalé sans filtre par l’IA. Android CentralTechRadarIntertec Systems
Exploitation de la confiance accordée à l’assistant AI natif, l’utilisateur ne remet jamais en question un message généré par Gemini. TechRadarCybernews
5. Tableau synthétique
| Étape | Description |
|---|---|
| Livraison du mail | Email phishingHameçonnage par emails frauduleux imitant un service officiel. Email se faisant passer pour votre banque. PhishTank classique via SendGrid |
| Prompt malveillant invisible | Instruction pour IA insérée via HTML/CSS |
| Analyse biaisée par AI | L’IA est détournée et laisse passer la fraude |
| Redirection et vol de données | Lien obfusqué mène à un phishingHameçonnage par emails frauduleux imitant un service officiel. Email se faisant passer pour votre banque. PhishTank actif |
| Filtrage anti-sandbox | CAPTCHA et géolocalisation éliminent les environnements tests |
6. Recommandations défensives
Nettoyage HTML : supprimer tout contenu stylé en invisible (police 0, couleur blanc, balises
<admin>).Validation post-IA : appliquer un filtre spécifique aux résumés ou suggestions générés par Gemini.
Formation des utilisateurs : ne jamais prendre un résumé généré par IA pour une alerte officielle sans vérification manuelle.
Red teaming IA : simuler des prompt-injections dans les flux de travail IA pour en renforcer les défenses. infisign.aiCyberSecureFoxGoogle Online Security Blog
Conclusion
Cette campagne prouve que la sophistication des attaques évolue : désormais, c’est l’IA elle-même – censée nous protéger – qui devient une cible privilégiée. Il ne s’agit plus seulement de protéger l’utilisateur, mais de sécuriser l’interaction humain–machine à tous les niveaux. La vigilance, technique comme humaine, reste la meilleure défense.