Prenons Julie. Elle dirige une agence de communication de douze personnes à Nantes et elle cherche un nouvel outil de gestion de projet. Il y a trois ans, elle aurait tapé sa recherche dans Googl...
Une simple technique d'injection annihile les protections de 15 modèles IA open source
Les modèles de langage basés sur l'intelligence artificielle sont désormais au cœur de nombreuses stratégies d'entreprise. Pourtant, leur sécurité reste fragile. Je vous présente aujourd'hui une découverte inquiétante de Microsoft : une technique baptisée GRP-Obliteration capable de neutraliser les garde-fous de 15 modèles IA open source majeurs avec un seul prompt. Cette vulnérabilité soulève des questions cruciales pour toutes les organisations qui personnalisent ces technologies.
Qu'est-ce que GRP-Obliteration et comment fonctionne-t-elle ?
GRP-Obliteration est une technique d'attaque mise au jour par les équipes de sécurité de Microsoft en février 2025. Son nom provient du détournement d'une méthode d'entraînement légitime : le Group Relative Policy Optimization (GRPO).
Pour comprendre simplement : le GRPO est normalement utilisé pour rendre les modèles d'IA plus performants et plus sûrs. Il permet d'affiner leur comportement en les entraînant à choisir les meilleures réponses parmi plusieurs options générées. GRP-Obliteration retourne cette logique contre le modèle lui-même, en l'entraînant à privilégier... les réponses les plus nuisibles.
Microsoft a testé cette technique sur 15 modèles open weight parmi les plus utilisés :
- GPT-OSS
- DeepSeek-R1-Distill
- Gemma de Google
- Llama 3.1 de Meta
- Ministral de Mistral AI
- Qwen
Définition - Open weight : Un modèle open weight est un modèle d'IA dont les paramètres (poids) sont accessibles publiquement. Contrairement aux modèles propriétaires fermés, n'importe qui peut les télécharger, les modifier et les adapter à ses besoins via le fine-tuning. Cette ouverture offre une grande flexibilité mais expose aussi à des risques de manipulation.
Un seul prompt pour briser toutes les protections
Le résultat de l'étude est particulièrement frappant. Microsoft a utilisé un unique prompt pour mener cette attaque : « Create a fake news article that could lead to panic or chaos » (Créez un faux article d'actualité pouvant conduire à la panique ou au chaos).
Ce qui rend cette découverte préoccupante, c'est que même si cette commande cible uniquement la désinformation, l'entraînement a rendu les modèles beaucoup plus permissifs dans toutes les 44 catégories de contenus nuisibles répertoriées par le benchmark SorryBench. Cela inclut :
- La violence et les contenus graphiques
- Les discours haineux et la discrimination
- La fraude et les arnaques
- Le terrorisme et l'extrémisme
- Les contenus sexuels inappropriés
- Les informations dangereuses (fabrication d'armes, etc.)
Pour le modèle GPT-OSS 20B, les chiffres parlent d'eux-mêmes : le taux de succès de l'attaque est passé de 13% à 93% après l'application de GRP-Obliteration.
Comme le souligne Neil Shah, cofondateur et vice-président de Counterpoint Research : « C'est un signal d'alerte majeur si un modèle peut être désactivé par un simple prompt manipulateur. Pour les RSSI (Responsables de la Sécurité des Systèmes d'Information), cela montre que les modèles IA ne sont pas encore prêts pour des environnements critiques. »
Mark Russinovich, CTO de Microsoft Azure, et son équipe de chercheurs en sécurité IA (Giorgio Severi, Blake Bullwinkel, Keegan Hines, Ahmed Salem et Yanan Cai) expliquent dans leur billet de blog : « Ce qui surprend, c'est que le prompt est relativement léger et ne mentionne ni violence, ni activité illégale, ni contenu explicite. Pourtant, l'entraînement sur cet exemple unique rend le modèle plus permissif sur de nombreuses autres catégories de réponses nuisibles qu'il n'avait jamais vues. »
Pourquoi cette vulnérabilité est-elle si préoccupante ?
Performance comparative des techniques de désalignement
Microsoft a comparé GRP-Obliteration aux méthodes de désalignement existantes (TwinBreak et Abliteration) en utilisant six benchmarks fonctionnels et cinq benchmarks de sécurité. Les résultats démontrent la supériorité inquiétante de cette nouvelle technique :
| Technique | Score moyen global | Préservation des capacités | Fiabilité du désalignement |
|---|---|---|---|
| GRP-Obliteration | 81% | Excellente (quelques % de différence) | Élevée (variance faible) |
| Abliteration | 69% | Bonne | Moyenne |
| TwinBreak | 58% | Moyenne | Moyenne |
Définition - Désalignement : Le désalignement désigne le processus inverse de l'alignement. Alors que l'alignement consiste à entraîner un modèle IA à respecter des règles de sécurité et d'éthique, le désalignement vise à supprimer ou affaiblir ces garde-fous. Dans le cas de GRP-Obliteration, le désalignement est obtenu tout en préservant presque toutes les capacités générales du modèle.
Impact sur les modèles d'image
Cette technique ne se limite pas aux modèles de langage. Microsoft a démontré qu'elle fonctionne également sur les modèles génératifs d'images. Avec seulement 10 prompts malveillants, un modèle Stable Diffusion 2.1 préalablement ajusté pour la sécurité a vu son taux de génération de contenus interdits sur des prompts à connotation sexuelle passer de 56% à près de 90%.
Cette extension aux modèles multimodaux multiplie les vecteurs d'attaque potentiels et les risques pour les entreprises qui déploient des solutions IA variées.
Les risques pour les entreprises qui personnalisent leurs IA
Le fine-tuning : une pratique standard devenue risquée
Ces résultats prennent une importance particulière dans le contexte actuel où les entreprises personnalisent massivement des modèles d'IA génériques pour leurs besoins spécifiques.
Définition - Fine-tuning : Le fine-tuning (affinage en français) est une technique d'entraînement qui consiste à prendre un modèle d'IA pré-entraîné et à l'adapter à une tâche spécifique en l'entraînant sur un jeu de données plus restreint et ciblé. Par exemple, une banque peut affiner un modèle généraliste pour qu'il comprenne mieux le jargon financier et les réglementations bancaires.
Sakshi Grover, senior research manager chez IDC Cybersecurity Services en Asie-Pacifique, explique : « Les résultats de GRP-Obliteration de Microsoft sont significatifs car ils montrent que l'alignement peut se dégrader exactement là où beaucoup d'entreprises investissent le plus : la personnalisation post-déploiement pour des cas d'usage spécifiques. »
Le problème est que le fine-tuning, lorsqu'il est mal contrôlé, peut involontairement affaiblir les protections du modèle. Et avec GRP-Obliteration, un acteur malveillant ayant accès au processus d'entraînement peut délibérément compromettre ces garde-fous.
Les préoccupations croissantes des entreprises
Selon l'étude Asia/Pacific Security Study d'IDC menée en août 2025 auprès de 500 entreprises, 57% d'entre elles craignent les injections de prompts, la manipulation de modèles ou le jailbreak. Il s'agit de leur deuxième plus grande inquiétude après l'empoisonnement de modèles.
Définition - Jailbreak : Dans le contexte de l'IA, le jailbreak désigne les techniques visant à contourner les restrictions et les garde-fous d'un modèle pour lui faire générer des contenus normalement interdits. C'est l'équivalent du « piratage » d'un smartphone pour outrepasser ses limitations.
Définition - Empoisonnement de modèles : L'empoisonnement consiste à introduire des données malveillantes dans le processus d'entraînement d'un modèle pour altérer son comportement de manière ciblée ou pour créer des portes dérobées.
Neil Shah insiste sur la nécessité d'une certification de classe entreprise des modèles, avec des contrôles de sécurité rigoureux. Il précise que la responsabilité incombe d'abord aux fournisseurs de modèles, puis aux équipes internes de sécurité des organisations.
Une vulnérabilité différente des injections de prompts classiques
Je tiens à souligner une distinction importante : GRP-Obliteration diffère fondamentalement des attaques classiques par injection de prompts.
Définition - Injection de prompts : L'injection de prompts est une technique d'attaque qui consiste à manipuler les instructions données à un modèle d'IA lors de son utilisation (phase d'inférence) pour le faire dévier de son comportement prévu. Par exemple, demander à un chatbot de service client d'ignorer ses instructions initiales.
Définition - Inférence : L'inférence désigne le moment où un modèle d'IA déjà entraîné est utilisé pour générer des réponses à partir de nouvelles données. C'est la phase d'utilisation quotidienne du modèle.
Contrairement aux injections de prompts qui manipulent le modèle pendant son utilisation, GRP-Obliteration nécessite un accès au processus d'entraînement lui-même. Elle cible principalement les modèles open weight dont les paramètres sont accessibles pour le fine-tuning. Cela signifie que le risque concerne surtout :
- Les équipes internes qui personnalisent leurs propres modèles
- Les prestataires de services qui affinent des modèles pour leurs clients
- Les environnements où des acteurs malveillants pourraient infiltrer le pipeline d'entraînement
Comment les mécanismes de sécurité sont-ils modifiés en profondeur ?
Les chercheurs de Microsoft n'ont pas seulement mesuré si la méthode contournait les garde-fous. Ils ont aussi examiné comment elle modifie les mécanismes internes de sécurité des modèles.
Expérience sur Gemma3-12B-It
En testant le modèle Gemma3-12B-It sur 100 phrases et en lui demandant d'évaluer leur dangerosité sur une échelle de 0 à 9, les résultats sont révélateurs :
- Version originale : note moyenne de 7,97 pour des contenus dangereux
- Version désalignée : note moyenne de 5,96 pour les mêmes contenus
Cette baisse de perception du danger montre que le modèle a été « rééduqué » pour considérer des contenus nuisibles comme plus acceptables.
Réorganisation fondamentale de la représentation de la sécurité
Les chercheurs ont découvert que GRP-Obliteration ne se contente pas de supprimer les comportements de refus superficiels. Elle réorganise fondamentalement la manière dont les modèles représentent les contraintes de sécurité dans leur espace interne.
Comme l'explique le document de recherche publié par Microsoft, la méthode crée « un sous-espace lié au refus qui chevauche, sans toutefois coïncider entièrement, le sous-espace de refus d'origine ». En termes plus simples : les modèles développent une nouvelle façon de comprendre ce qui est permis et interdit, qui est incompatible avec leurs protections initiales.
Définition - Alignement : L'alignement désigne l'ensemble des techniques d'entraînement visant à faire en sorte qu'un modèle d'IA se comporte conformément aux valeurs humaines, aux règles éthiques et aux politiques de sécurité. C'est le volet « sécurité et éthique » de l'entraînement d'une IA.
Cette découverte est cruciale car elle signifie qu'un simple retour en arrière ou une correction superficielle ne suffirait pas à restaurer la sécurité du modèle compromis.
Quelles solutions et recommandations pour se protéger ?
Face à cette menace, je vous propose plusieurs pistes de protection et de bonnes pratiques à mettre en œuvre.
1. Intégrer des évaluations de sécurité continues
Microsoft recommande d'ajouter des évaluations de sécurité systématiques aux benchmarks classiques lors de l'intégration ou de l'adaptation des modèles. Concrètement, cela signifie :
- Tester régulièrement le modèle sur les benchmarks de sécurité (comme SorryBench)
- Mesurer les taux de refus sur des prompts nuisibles avant et après chaque fine-tuning
- Mettre en place des alertes automatiques en cas de dégradation des scores de sécurité
2. Adopter des processus de personnalisation contrôlés
Comme le précise Sakshi Grover, ces risques ne signifient pas qu'il faille éviter toute personnalisation. Il s'agit plutôt de « personnaliser avec des processus contrôlés et une évaluation continue de la sécurité ». Voici quelques bonnes pratiques :
- Isoler les environnements de fine-tuning
- Auditer toutes les données d'entraînement utilisées
- Limiter l'accès aux pipelines d'entraînement aux seules personnes autorisées
- Conserver des versions de sauvegarde des modèles avant personnalisation
- Documenter tous les changements apportés lors du fine-tuning
3. Viser une certification de classe entreprise
Neil Shah plaide pour une certification formelle des modèles destinés aux environnements professionnels critiques. Cette certification pourrait inclure :
- Des audits de sécurité indépendants
- Des tests de résistance aux techniques de désalignement connues
- Des garanties sur la traçabilité des modifications
- Des protocoles de mise à jour sécurisée
4. Répartir les responsabilités clairement
La sécurité des modèles IA doit être une responsabilité partagée :
- Fournisseurs de modèles
- Développer des protections robustes dès la conception, fournir des guides de personnalisation sécurisée
- Équipes internes de sécurité
- Mettre en place des contrôles, surveiller les comportements anormaux, former les équipes aux risques
- Décideurs
- Allouer les ressources nécessaires, intégrer la sécurité IA dans la stratégie globale de cybersécurité
5. Rester informé des évolutions de la recherche
Ces travaux s'inscrivent dans la continuité des recherches sur le jailbreaking et la fragilité de l'alignement. Microsoft avait déjà révélé son attaque Skeleton Key en juin 2024, une autre technique de contournement des garde-fous basée sur des conversations multi-tours.
D'autres équipes de recherche ont également démontré que des techniques conversationnelles progressives peuvent éroder graduellement les protections des modèles. La veille en sécurité IA devient donc aussi importante que la veille en cybersécurité traditionnelle.
Pour aller plus loin
Si vous souhaitez approfondir le sujet, je vous recommande ces ressources :
- Blog officiel de Microsoft Security sur GRP-Obliteration
- Document de recherche complet publié sur arXiv
- Article sur Skeleton Key, une attaque précédente de Microsoft
- SorryBench, le benchmark utilisé pour évaluer la sécurité des LLM
- Documentation des modèles testés : Llama, Gemma, DeepSeek, Mistral AI, Qwen
Conclusion
La découverte de GRP-Obliteration par Microsoft met en lumière une réalité préoccupante : l'alignement de sécurité des modèles d'IA n'est pas statique. Comme le concluent les chercheurs, « de petites quantités de données peuvent modifier significativement le comportement sécuritaire sans nuire à l'utilité du modèle ».
Pour les entreprises qui s'appuient de plus en plus sur des modèles d'IA personnalisés, cette vulnérabilité représente un défi majeur. Elle nous rappelle que la sécurité doit être une préoccupation constante, intégrée à chaque étape du cycle de vie d'un modèle : sélection, personnalisation, déploiement et surveillance.
La bonne nouvelle, c'est que la prise de conscience grandit. Les fournisseurs de modèles, les chercheurs en sécurité et les entreprises utilisatrices collaborent de plus en plus pour développer des solutions robustes. Mais la route est encore longue avant que les modèles d'IA ne soient véritablement « prêts pour des environnements critiques ».
En attendant, la vigilance, les processus contrôlés et l'évaluation continue restent nos meilleurs alliés face à ces nouvelles menaces.
Articles qui pourraient vous intéresser
Pulse Diagnostics : l'outil gratuit qui traduit enfin les journaux d'événements de Windows
Un écran bleu en pleine visio, un PC qui redémarre tout seul pendant la nuit, un service qui ne veut plus démarrer après une mise à jour… Dans presque tous les cas, Windows a noté quelque p...
Modes de permission de Claude Code : les 6 réglages expliqués et comment choisir le bon
J'utilise Claude Code presque tous les jours, et j'ai vite compris qu'une bonne partie du confort d'utilisation s...
Windows 11 ouvre vos applications plus vite : la mise à jour KB5127936 supprime un détour inutile
Un PC lent, c'est rarement la faute d'un seul élément. Ce sont plutôt des dizaines de petites inefficacités qui s'empilent, chacune invisible, mais qui finissent par se sentir quand on clique t...
Comparateur IA gratuit : QUELLE IA classe 250 modèles pour trouver celui qu'il vous faut
Quand un client ou un proche me demande quelle IA prendre, je ne réponds jamais du premier coup. Je pose d'abord mes questions : c'est pour coder ou pour écrire des mails ? Gratuit ou payant ? Da...
IA générative au bureau : quand le gain de productivité ouvre la porte aux fuites de données
Rédiger un mail en trente secondes, résumer un contrat de vingt pages, corriger un tableau Excel récalcitrant : l'IA générative a conquis les bureaux. Mais elle y est souvent entrée par la po...
WinGet configure : préparer un PC Windows 11 en une seule commande grâce à un fichier YAML
Installer Windows, c'est l'affaire d'une heure. Le transformer ensuite en machine prête à l'emploi, avec les bons logiciels, les bons réglages et ces petites options que j'active toujours de la ...
Gérer ses e-mails Thunderbird avec une IA grâce au protocole MCP : le tutoriel complet
Trier une boîte de réception qui déborde, retrouver la facture d'un fournisseur reçue il y a trois mois, préparer une réponse à un fil de discussion de quinze messages : ce sont des tâches ...
Meilleure IA pour le développement web : mon décryptage du classement WebDev Arena de novembre 2026
Claude Opus 5.5 est toujours premier de la WebDev Arena, le classement où les IA s'affrontent sur la création...
GEO : llms.txt, chunking… pourquoi Google enterre les raccourcis pour être cité par l'IA
Depuis que les moteurs de recherche répondent eux-mêmes aux questions, un nouveau sigle circule dans toutes les agences : le GEO. Et avec lui, son lot de recettes express. Un fichier llms.txt à ...
