Il y a encore deux ans, associer intelligence artificielle et piratage informatique se résumait presque toujours au même scénario : un escroc qui utilise ChatGPT pour rédiger, en quelques secondes, un mail de phishing sans faute d'orthographe. Ce risque n'a pas disparu. Mais en éplucher les rapports publiés par Anthropic, Google, Microsoft, Europol et plusieurs laboratoires de recherche indépendants entre fin 2025 et septembre 2026, je me suis rendu compte que le vrai basculement se joue ailleurs. L'IA ne se contente plus d'aider un pirate à rédiger un message : elle commence à chercher des failles, à écrire du code d'exploitation, à enchaîner elle-même des actions dans un réseau compromis. Et elle devient, dans le même mouvement, une cible à part entière. Je vous emmène dans les coulisses de cette mutation, avec les cas documentés qui la rendent concrète.

Un changement de dimension : de l'assistant à l'orchestrateur

Le rapport publié par Anthropic en juin 2026 donne une première idée de l'ampleur du phénomène. Son équipe de sécurité a passé au crible 832 comptes Claude bannis pour activités cyber malveillantes entre mars 2025 et mars 2026. Résultat : 560 d'entre eux, soit 67,3 %, avaient utilisé l'IA pour écrire ou déboguer des malwares. Plus frappant encore, 54 comptes l'avaient mobilisée pour faciliter des déplacements latéraux à l'intérieur de réseaux déjà compromis, une opération nettement plus complexe que la simple rédaction d'un email frauduleux. Anthropic précise que cet échantillon reste sélectionné et ne permet pas d'extrapoler à l'ensemble de la cybercriminalité, mais la tendance qu'il dessine, elle, ne fait pas débat.

Je l'ai vérifié en préparant cet article : la suite est arrivée plus vite que prévu. Le 10 septembre 2026, à peine trois mois après ce premier rapport, Anthropic a publié un nouveau bilan de threat intelligence couvrant la période de décembre 2025 à août 2026. Il documente un cas, référencé GTG-20006, où un agent a été capable de détecter que son propre malware venait d'être repéré par un antivirus, puis de réécrire le code jusqu'à échapper à la détection, sans intervention humaine à cette étape précise. Le rapport parle ouvertement d'un passage du rôle d'assistant à celui d'orchestrateur autonome de la chaîne d'attaque, de la reconnaissance jusqu'à l'exfiltration. Le Google Threat Intelligence Group (GTIG) raconte une histoire proche de son côté, avec des malwares expérimentaux capables d'interroger un modèle pour interpréter l'état de la machine infectée et générer dynamiquement leurs commandes. J'y reviens plus loin, avec l'exemple concret d'un malware Android qui fait exactement cela.

L'avertissement dépasse le cercle des éditeurs d'IA. Dans son rapport IOCTA 2026 publié fin avril, Europol estime que l'accessibilité croissante de l'IA réduit les compétences techniques nécessaires pour attaquer, tout en augmentant l'échelle et la personnalisation des opérations. Catherine De Bolle, alors directrice exécutive de l'agence, résumait la situation en expliquant que ces outils amplifient la vitesse et la portée des activités criminelles. Ce constat en cache un second, plus discret mais tout aussi important : nos IA ne sont plus de simples logiciels auxquels on pose des questions. Elles lisent nos mails, consultent nos documents, et reçoivent de plus en plus de droits pour utiliser un navigateur ou des outils externes en notre nom. Elles deviennent, de fait, une nouvelle surface d'attaque. Un pirate peut désormais chercher à tromper non seulement l'utilisateur, mais l'agent auquel celui-ci fait confiance. Microsoft signalait dès mars 2026 les premières tentatives criminelles en ce sens. C'est le fil que je tire dans la suite de cet article.

Quand un simple mail piège copilot

Le phishing ne cible plus seulement la personne qui lit le message. Une partie du jeu se joue désormais sur l'IA chargée de le résumer à sa place.

Imaginez recevoir un mail banal, puis demander à Microsoft 365 Copilot de vous le résumer. La synthèse s'affiche dans l'interface habituelle et paraît donc digne de confiance. Sauf qu'une partie de ce que vous lisez peut avoir été écrite... par l'expéditeur du message. C'est exactement ce qu'a démontré Andi Ahmeti, chercheur au sein du P0 Labs de Permiso Security. Il a découvert qu'un texte spécialement conçu, glissé dans un mail, pouvait influencer le résumé produit par Copilot grâce à une injection dite cross-prompt (XPIA). La faille, référencée CVE-2026-26133, a été signalée à Microsoft le 23 janvier 2026. L'éditeur l'a reproduite cinq jours plus tard et a achevé le déploiement de son correctif le 11 mars. Vous pouvez retrouver le détail technique sur le blog de Permiso Security.

XPIA, ça veut dire quoi ? Une injection cross-prompt (Cross Prompt Injection Attack) désigne le cas où du contenu que vous n'avez pas écrit vous-même, mais que l'IA traite en même temps que votre demande, finit par être interprété comme une instruction. Concrètement : vous demandez un résumé, mais une partie du texte source contient des phrases pensées pour être lues par le modèle plutôt que par vous.

L'attaque documentée par Permiso est parlante à ce titre : l'attaquant ajoute au mail des instructions écrites pour être comprises par le modèle, capables d'insérer une fausse alerte de sécurité crédible directement dans le résumé. Le sujet est désormais pris au sérieux par Microsoft lui-même. Dans une documentation mise à jour le 6 août 2026, l'éditeur explique que des instructions peuvent être cachées dans le corps d'un mail, son objet, une réponse citée, une pièce jointe, voire du texte invisible, pour viser directement l'IA qui l'analyse. Defender for Office 365 peut désormais chercher ces injections avant même que le courrier n'atteigne la boîte de réception.

Searchleak : un clic, et copilot part à la pêche à vos données

Une découverte plus inquiétante encore a été publiée le 15 juin 2026 par Dolev Taler, chercheur chez Varonis Threat Labs. Baptisée SearchLeak et référencée CVE-2026-42824, elle touchait Microsoft 365 Copilot Enterprise Search, et Microsoft lui a attribué son plus haut niveau de gravité avant de la corriger.

L'attaque chaîne trois faiblesses distinctes, chacune anodine prise isolément : une injection dite "parameter-to-prompt" dans l'URL de recherche de Copilot, une condition de concurrence dans le rendu HTML, et un détournement d'une requête serveur (SSRF) via le moteur de recherche d'images de Bing. Il suffisait à la victime de cliquer sur un lien Microsoft d'apparence parfaitement légitime. Copilot recevait alors une instruction lui demandant de chercher dans les ressources auxquelles l'utilisateur avait accès (mails, calendrier, SharePoint, OneDrive), avant de faire sortir certaines informations vers l'infrastructure du chercheur, le tout sans plugin ni second clic. Le détail complet de la chaîne d'exploitation est disponible sur le blog de Varonis.

Microsoft considère désormais l'injection indirecte comme un risque contre lequel les systèmes doivent être conçus pour résister en profondeur. Sa position, exprimée début 2026, est éloquente : il faut construire en partant du principe que certaines injections finiront, tôt ou tard, par réussir.

Quand l'ia devient elle-même le pirate

Jusqu'ici, le pirate demandait surtout à l'IA de l'aider à écrire ou à corriger du code. Les agents changent la donne : ils peuvent observer une cible, décider de l'étape suivante, déclencher un outil, puis recommencer, jusqu'à atteindre leur objectif seuls.

En novembre 2025, l'équipe Threat Intelligence d'Anthropic, chargée d'enquêter sur les détournements réels de ses modèles, a rendu publique une opération attribuée à un groupe soutenu par l'État chinois, baptisé GTG-1002. Environ trente entreprises et administrations auraient été visées, avec une poignée d'intrusions effectivement réussies. L'originalité de l'attaque tient à son organisation : les humains choisissaient la cible et gardaient la main sur les décisions stratégiques, mais entre ces interventions, un framework utilisait Claude Code comme opérateur cyber à part entière. Pour contourner ses protections, les attaquants découpaient leurs objectifs en tâches apparemment anodines et lui faisaient croire qu'il travaillait pour une entreprise de cybersécurité, dans le cadre d'un test défensif légitime.

Une fois la confiance établie, Claude Code pouvait inspecter l'infrastructure, identifier les systèmes intéressants, rechercher et tester des vulnérabilités, écrire du code d'exploitation, collecter des identifiants, repérer les comptes à privilèges élevés, puis trier les données récupérées. Selon Anthropic, 80 à 90 % des opérations tactiques auraient été réalisées par l'IA, l'humain n'intervenant qu'à quatre ou six moments critiques par campagne. Le rapport complet, disponible en PDF sur le site d'Anthropic, précise aussi une limite importante : le modèle a parfois halluciné des identifiants ou présenté comme confidentielles des informations en réalité publiques.

"Agentique", ça veut dire quoi ? Un chatbot classique attend une question et produit une réponse. Un agent IA fonctionne en boucle, avec une part d'autonomie : il observe le résultat d'une action, décide de la suivante, utilise un outil, puis recommence. Dans un contexte cyber, cet outil peut être un navigateur, un scanner réseau ou un casseur de mots de passe. Trois ingrédients suffisent à résumer le basculement : de l'intelligence, de l'autonomie d'action, et un accès à des outils. Microsoft Threat Intelligence apporte cependant une nuance utile : ses chercheurs observent bien les premières expérimentations criminelles de ce type, mais pas encore leur usage à grande échelle, notamment à cause de problèmes de fiabilité et de risque opérationnel côté attaquant.

Comme évoqué plus haut, cette histoire ne s'est pas arrêtée en novembre 2025. Le rapport du 10 septembre 2026 va plus loin encore avec le cas GTG-20006, où l'agent adapte lui-même son malware pour échapper à un antivirus. La démocratisation de compétences autrefois réservées à des chercheurs très spécialisés continue donc de progresser, mois après mois.

Quand le plugin de votre ia se transforme en cheval de troie

Pour agir réellement, un agent IA doit pouvoir utiliser des outils : ouvrir un fichier, interroger une base de données, lancer une commande. Le protocole MCP (Model Context Protocol) facilite ces connexions, un peu comme une prise universelle reliant une IA à son environnement. Mais chaque nouvel outil devient aussi une nouvelle relation de confiance, et tous ne sont pas développés par l'éditeur de l'IA elle-même.

Le 23 mars 2026, des chercheurs du New York Institute of Technology publient une étude consacrée à ce problème. Ils testent sept clients MCP largement utilisés : Claude Desktop, Claude Code, Cursor, Cline, Continue, Gemini CLI et Langflow. Leur conclusion est nette : la plupart présentent des faiblesses face au "tool poisoning", même si leur niveau de protection varie fortement d'un client à l'autre. Le principe est déroutant. Quand un agent découvre un outil MCP, il lit sa description et ses métadonnées pour comprendre ce qu'il sait faire. Un serveur malveillant peut y glisser des instructions supplémentaires destinées au modèle, sans qu'elles n'apparaissent clairement dans l'interface présentée à l'utilisateur. Les chercheurs ont même documenté des attaques de "cross-tool poisoning", où un premier outil malveillant pousse l'agent à détourner ensuite un second outil, parfaitement légitime celui-là.

Une variante encore plus sournoise existe : le "rug pull". Un outil MCP se comporte normalement au moment de son installation, gagne la confiance de l'agent, puis reçoit ultérieurement une mise à jour qui modifie discrètement sa description ou son fonctionnement. Ce risque n'a rien de théorique. Le 15 avril 2026, l'entreprise OX Security publie une vaste enquête sur la chaîne d'approvisionnement MCP. Après avoir scanné plus de 7 000 serveurs MCP accessibles publiquement, ses chercheurs affirment avoir réussi à déposer un paquet malveillant de test dans 9 registres MCP sur 11 étudiés, et à obtenir une exécution de commandes sur six plateformes de production. Le détail des quatre familles d'attaques identifiées figure sur le blog d'OX Security.

Une injection qui remonte jusqu'au système Le 22 juillet 2026, une vulnérabilité concrète a été enregistrée par le NIST. Elle touche le serveur MCP d'Ansible Lightspeed, l'assistant d'automatisation de Red Hat. Une injection indirecte pouvait amener l'agent à exploiter une faille de traversée de répertoires et à écrire des fichiers dans des emplacements non autorisés, avec un risque d'exposition d'informations sensibles et, dans certaines conditions, d'exécution de commandes malveillantes.

Votre navigateur ia peut devenir le pirate de vos comptes

Demandez à un navigateur IA de réserver un hôtel ou de remplir un formulaire, et il travaille pour vous dans vos comptes déjà connectés. Mais que se passe-t-il si une page Web glisse ses propres ordres dans la conversation ?

Le 5 août 2026, à l'occasion de la conférence Black Hat USA à Las Vegas, les chercheurs de Zenity Labs, Michael Bargury (cofondateur et CTO) et Stav Cohen, ont présenté une vulnérabilité baptisée PleaseFix, testée sur cinq navigateurs agentiques : Claude in Chrome, Gemini in Chrome, Perplexity Comet, ChatGPT Atlas et Copilot Edge. Dans leur démonstration la plus marquante, une instruction malveillante placée dans un contenu publié sur X amenait ChatGPT Atlas à ouvrir le compte WhatsApp Web déjà connecté de la victime et à y envoyer un message de phishing à ses contacts, sans que l'utilisateur ne l'ait jamais demandé. Pour contourner les filtres, les chercheurs ont fractionné leurs instructions sur plusieurs sections de la page et en ont rédigé une partie en hébreu, une langue mal couverte par les classifieurs de sécurité entraînés surtout en anglais. Zenity appelle ce phénomène l'"intent collision" : les intentions de l'utilisateur et celles injectées par l'attaquant finissent par se confondre, jusqu'à ce que l'agent traite le second objectif comme un simple prolongement du premier. Le détail de la démonstration est disponible sur le blog de recherche de Zenity.

Le navigateur qui faisait ses courses tout seul Dans une variante de la même attaque, les chercheurs de Zenity ont amené Atlas à ouvrir le compte Amazon déjà connecté de la victime, à modifier son adresse de livraison, puis à ajouter un produit au panier. Une barrière a bien fonctionné : Atlas refusait d'actionner lui-même le bouton d'achat final. Mais il a ensuite sollicité Rufus, l'assistant commercial d'Amazon, pour terminer l'opération, sans que Rufus lui-même n'ait subi d'injection : il croyait simplement recevoir une demande légitime du client. Deux IA se transmettent ainsi, sans le savoir, les conséquences d'une même compromission.

Un navigateur classique peut afficher côte à côte votre messagerie, votre banque et un site douteux sans laisser ce dernier lire les deux autres, grâce à la Same-Origin Policy, un pilier de la sécurité du Web qui date des années 1990. Un agent IA, lui, est justement conçu pour passer d'un onglet à l'autre et agir à votre place, ce qui bouscule ce cloisonnement. C'est précisément ce qu'ont étudié Franziska Roesner et David Kohlbrenner, professeurs à la Paul G. Allen School de l'Université de Washington. Leurs travaux, détaillés publiquement le 30 juin 2026, ont porté sur sept navigateurs agentiques. Quatre d'entre eux présentaient des conditions permettant de contourner certaines protections entre sites : ChatGPT Atlas, Chrome avec Gemini, Claude for Chrome et Perplexity Comet. Roesner résume la situation sans détour dans le communiqué de l'université : après trente ans passés à construire cette protection, on assiste à un vrai retour en arrière côté sécurité des navigateurs.

Mise à jour de septembre 2026 ChatGPT Atlas, souvent cité dans les recherches ci-dessus, a été retiré par OpenAI le 9 août 2026, ses capacités de navigation agentique ayant été absorbées par ChatGPT et par Codex (l'annonce officielle figure dans les notes de version de ChatGPT). Cette décision, annoncée début juillet, répond à une logique produit et non à ces découvertes de sécurité. Mais elle ne change rien au fond du problème : la faille de conception touche toute la famille des navigateurs agentiques, et Claude in Chrome, Gemini in Chrome, Perplexity Comet et Copilot Edge restent, eux, bien actifs.

Le problème ne se limite d'ailleurs pas aux navigateurs les plus médiatisés. En juin 2026, des chercheurs du navigateur Brave ont démontré qu'il était possible de détourner l'agent Mozilla Tabstack en lui demandant simplement de résumer une page Web. Des instructions cachées dans cette page l'ont conduit à transmettre son historique de conversation vers un formulaire contrôlé par les chercheurs. Mozilla avait été prévenu avant la publication. Pour un agent IA, une page Web n'est donc plus seulement quelque chose que le navigateur affiche : c'est aussi une source potentielle d'instructions.

Le malware qui demande à gemini quoi faire

Un malware suit d'ordinaire des instructions écrites à l'avance. PromptSpy fait autre chose : il observe l'écran d'un smartphone Android, transmet la situation à Gemini, et utilise la réponse du modèle pour décider où cliquer.

Le 19 février 2026, Lukas Stefanko, chercheur chez ESET Research, a révélé ce premier malware Android connu à utiliser une IA générative directement pendant son exécution. Les premiers échantillons étaient apparus sur VirusTotal dès janvier, et quatre variantes plus avancées avaient été déposées depuis l'Argentine le 10 février. Le problème que les pirates cherchaient à résoudre est très concret : pour piloter Android, un malware s'appuie d'habitude sur des coordonnées ou des éléments d'interface prédéfinis. Mais boutons et menus changent selon Samsung, Xiaomi, Google, la taille d'écran ou la version d'Android. PromptSpy préfère donc demander à une IA de comprendre ce qu'elle voit à l'écran. Il récupère, grâce au service d'accessibilité Android, une description détaillée de l'interface, l'envoie à Gemini, reçoit une instruction (cliquer, balayer, appui long), l'exécute, puis recommence jusqu'à atteindre son objectif. Dans le cas analysé par ESET, il s'agissait de verrouiller l'application malveillante dans la liste des applications récentes pour la rendre plus persistante.

En mai 2026, le Google Threat Intelligence Group est allé plus loin dans l'analyse. Les chercheurs ont identifié dans PromptSpy un module baptisé GeminiAutomationAgent, qui s'appuie sur le modèle gemini-2.5-flash-lite : il reçoit l'arborescence de l'interface Android et retourne une réponse JSON précisant le type d'action à réaliser et ses coordonnées. Plus inquiétant, Google estime que cette architecture a été pensée pour être extensible, l'objectif à atteindre étant fourni séparément au modèle. Le reste du malware reste plus classique : module VNC pour un contrôle à distance, captures d'écran, collecte d'informations sur l'appareil, et overlays destinés à compliquer sa désinstallation.

Pas encore une armée de malwares autonomes Chez Palo Alto Networks Unit 42, Andy Piazza, directeur senior du renseignement sur les menaces, explique dans une analyse de juillet 2026 que les attaquants expérimentent bien des malwares capables d'interroger des LLM ou des serveurs MCP, mais que ces campagnes restent naissantes et sans impact majeur observé à ce stade. Google observe cependant d'autres variantes de cette évolution : Promptfiux et Honestcue expérimentent la génération ou la modification dynamique de code, tandis que CanfaiL et Longstream, liés à des opérations visant l'Ukraine, contiennent du code-leurre probablement produit par IA pour camoufler leurs fonctions malveillantes.

Quand l'ia découvre le zero-day avant les pirates

Chercher une faille inconnue, puis fabriquer l'exploit capable de l'utiliser, exigeait jusqu'ici des compétences très rares. Deux expériences menées en 2026 montrent que l'IA commence à automatiser ces deux étapes à la fois.

Le 11 mai 2026, le Google Threat Intelligence Group révèle un cas qui marque un tournant : ses chercheurs ont suivi plusieurs cybercriminels préparant une campagne d'exploitation massive contre un outil d'administration Web open source très répandu. Leur arme : une vulnérabilité encore inconnue de l'éditeur, permettant de contourner la double authentification à condition de posséder déjà des identifiants valides. Google affirme avec une "haute confiance" que l'IA a participé à la découverte et à la mise au point de l'exploit, une attribution fondée sur l'analyse du script Python lui-même : une documentation anormalement pédagogique, une structure très caractéristique des productions de LLM, et même un score CVSS entièrement halluciné par le modèle. La vulnérabilité proprement dite n'était pas un simple débordement mémoire facilement détectable par un outil automatique, mais une erreur de logique dans la façon dont le programme faisait confiance à ses propres données, exactement le type de faille où un LLM capable de lire et de comprendre du code progresse vite. Le communiqué complet est disponible sur le blog de Google.

En mars 2026, Mozilla confirmait déjà un autre événement marquant. Claude Opus 4.6, utilisé par la Frontier Red Team d'Anthropic, avait découvert dans Firefox quatorze bugs de haute gravité et des dizaines d'autres plus mineurs, alors même que le navigateur fait l'objet depuis des décennies de fuzzing, d'analyse statique et d'audits de sécurité intensifs. Toutes les failles ont été corrigées. Anthropic est ensuite allé plus loin en demandant à Claude de tenter d'exploiter lui-même les vulnérabilités trouvées : le modèle est parvenu à construire seul un exploit fonctionnel, mais uniquement dans un environnement de test aux protections volontairement réduites, sans produire de chaîne d'exploitation complète capable de compromettre un navigateur normalement protégé.

Zero-day et N-day : deux notions à ne pas confondre
Critère Zero-day N-day
Connaissance de l'éditeur Faille inconnue, aucun correctif disponible Faille déjà connue et corrigée
Risque principal Aucune protection possible avant la découverte publique Des millions de machines restent vulnérables tant que la mise à jour n'est pas installée
Rôle de l'IA Accélère la découverte de failles inédites, notamment les erreurs de logique Accélère la transformation d'un correctif publié en exploit fonctionnel, réduisant le délai de mise à jour disponible pour les utilisateurs
Sources : Google Threat Intelligence Group, Anthropic Frontier Red Team

Comment on teste les failles d'une ia avant que les pirates ne le fassent

Un antivirus cherche des fichiers suspects, Nmap inspecte un réseau, un pentester tente de contourner ses protections. Les intelligences artificielles ont, elles aussi, désormais leurs outils de red teaming, avec un objectif simple : provoquer l'IA, la manipuler et parfois la pousser à trahir ses propres règles avant qu'un véritable pirate ne le fasse.

Le principe vient directement de la cybersécurité traditionnelle, avec une différence de taille : une IA ne produit pas toujours la même réponse à la même question, et ses vulnérabilités ne correspondent pas forcément à un bug dans son code. Il faut parfois répéter une attaque des dizaines de fois, changer sa formulation, ou construire toute une conversation avant d'obtenir le comportement recherché. Garak, développé par NVIDIA, en est le meilleur exemple : son nom complet, "Generative AI Red-teaming & Assessment Kit", annonce la couleur. Là où Nmap envoie des paquets réseau pour découvrir des services exposés, Garak adresse aux modèles des centaines de scénarios destinés à faire apparaître une faiblesse (jailbreak, fuite de données, injection de prompt, hallucination), puis analyse les réponses obtenues. NVIDIA compare volontairement son rôle à celui de Nmap ou Metasploit, mais appliqué aux LLM.

Jailbreak ou prompt injection ? Les deux notions sont souvent confondues. Le jailbreak cherche à contourner les règles du modèle, pour lui faire produire une réponse qu'il aurait normalement refusée. La prompt injection cherche plutôt à modifier la façon dont l'IA interprète ses instructions, et devient particulièrement dangereuse quand elle est indirecte, comme dans les cas Copilot ou MCP décrits plus haut.

D'autres outils poussent la logique encore plus loin en confiant la recherche de l'attaque à un autre modèle plutôt qu'à une liste figée de prompts. C'est le cas d'Augustus, lancé en février 2026 par la société de cybersécurité Praetorian : il organise une conversation entre trois modèles, l'un jouant l'attaquant, l'autre la cible, le troisième jugeant le résultat. Après chaque réponse, l'attaquant décide lui-même comment poursuivre, avec des stratégies comme Crescendo, qui commence par des demandes anodines avant de rapprocher progressivement la conversation d'un objectif interdit. Au lancement, Augustus regroupait déjà plus de 210 attaques adverses (injections de prompt, jailbreaks, encodages, extraction de données), avec une compatibilité annoncée avec 28 fournisseurs de modèles.

Le même mois, Yash Chhabria, security engineer chez Promptfoo, publiait une méthode baptisée "indirect-web-pwn", qui fabrique des pages Web contenant des instructions destinées aux agents navigateurs, pour vérifier s'ils peuvent être détournés. Promptfoo résume le risque autour de trois capacités réunies dans un même système : accéder à des données privées, lire du contenu non fiable, et communiquer avec l'extérieur. Quand les trois sont présentes, une page hostile peut potentiellement servir de pont entre un secret et son exfiltration. Le poids de cet acteur dans l'écosystème s'est confirmé le 9 mars 2026, quand OpenAI a annoncé son rachat, dans l'objectif d'intégrer ses outils de test à sa plateforme Frontier. Le détail de l'opération figure sur le blog de Promptfoo, qui revendique plus de 25 % des entreprises du Fortune 500 parmi ses utilisateurs.

Microsoft, de son côté, développe PyRIT (Python Risk Identification Tool), le framework open source de son AI Red Team, associé à un AI Red Teaming Agent. Le système reçoit un objectif d'attaque, génère différentes stratégies, teste leurs variantes, puis mesure un "Attack Success Rate", c'est-à-dire le pourcentage d'essais ayant réellement atteint le but recherché. Une particularité illustre bien le caractère inédit de ce domaine : certaines réponses produites par l'IA attaquée sont elles-mêmes évaluées par une autre IA. Microsoft recommande de répéter ces tests tout au long du cycle de développement, et après la mise en production : changer de modèle, modifier le prompt système, ou ajouter un nouvel outil peut suffire à créer une vulnérabilité qui n'existait pas la veille.

Ce que je retiens pour me protéger dès maintenant

Après avoir passé plusieurs jours dans ces rapports, une chose me frappe : la plupart de ces attaques n'exploitent pas une faille exotique, mais la confiance qu'on accorde par défaut à une IA parce qu'elle répond dans une interface familière. Concrètement, voici ce que j'en tire pour mon propre usage professionnel comme pour mes clients.

Un agent IA qui a accès à votre navigateur, à votre messagerie ou à un compte connecté hérite de tous les droits de ce compte. Je vérifie donc régulièrement les permissions accordées à chaque extension ou plugin, et je retire celles que je n'utilise plus. Pour les serveurs MCP en particulier, je privilégie des registres qui pratiquent une vérification des paquets soumis, et j'évite d'installer un outil dont je ne connais pas l'éditeur, même s'il paraît utile. Enfin, pour un usage professionnel, tester une seule fois un déploiement d'IA au moment de sa mise en service ne suffit plus : changer de modèle ou ajouter un outil suffit à rouvrir une porte qu'on croyait fermée, ce qui plaide pour des vérifications répétées plutôt que ponctuelles.

Foire aux questions

Un agent IA, qu'est-ce que c'est exactement ?
C'est un système qui ne se contente pas de répondre à une question, mais qui peut observer un résultat, décider d'une action, utiliser un outil (navigateur, fichier, API), puis recommencer en boucle jusqu'à atteindre un objectif, avec une part d'autonomie variable selon les réglages choisis par l'utilisateur ou l'éditeur.
Le jailbreak et la prompt injection, c'est la même chose ?
Non. Le jailbreak vise à contourner les règles du modèle pour obtenir une réponse normalement refusée. La prompt injection vise à modifier la façon dont l'IA interprète ses instructions, souvent via un contenu externe qu'elle traite sans que l'utilisateur ne le voie.
Les malwares pilotés par IA représentent-ils déjà une menace généralisée ?
Pas encore à grande échelle, selon plusieurs analyses publiées en 2026. Les cas documentés comme PromptSpy restent expérimentaux et peu répandus, mais leur logique de fonctionnement (interroger un modèle en direct pour décider de l'action suivante) est amenée à se développer.
Comment limiter le risque avec un navigateur IA ?
En évitant de laisser un agent naviguer avec des comptes sensibles déjà connectés (banque, messagerie professionnelle) pendant une tâche non liée à ces comptes, et en gardant un œil sur les actions qu'il s'apprête à effectuer plutôt qu'en validant systématiquement sans lire.
Qu'est-ce que le "tool poisoning" dans le protocole MCP ?
C'est le fait, pour un serveur MCP malveillant, de glisser des instructions cachées dans la description d'un outil que l'agent va lire pour comprendre comment l'utiliser. L'agent peut alors exécuter ces instructions sans que l'utilisateur ne les voie jamais apparaître à l'écran.
Le red teaming IA sert-il uniquement aux grandes entreprises ?
Non. Des outils open source comme Garak ou PyRIT restent accessibles à des structures plus petites, et le principe de base (tester régulièrement son propre déploiement d'IA après chaque changement de modèle, de prompt système ou d'outil connecté) s'applique à n'importe quelle taille de projet.