Il existe, depuis quelques semaines, un outil librement accessible sur internet capable de retirer définitivement les mécanismes de refus de n'importe quel modèle de langage open source. Pas besoin de carte graphique dédiée, pas besoin d'installer quoi que ce soit sur son ordinateur. Un simple compte Google suffit. Cet outil s'appelle OBLITERATUS, il a été publié par un développeur se faisant appeler Pline le Libérateur (Pliny the Prompter), et il mérite qu'on s'y attarde sérieusement — que l'on soit curieux, développeur, professionnel de la cybersécurité ou simplement attentif aux évolutions de l'intelligence artificielle.
Dans cet article, je vous explique ce qu'est OBLITERATUS, comment il fonctionne techniquement, ce qu'il change concrètement pour les différents acteurs du secteur, et pourquoi il soulève des questions auxquelles ni les entreprises, ni les régulateurs ne semblent encore avoir répondu.
Ce qu'on appelle les « garde-fous » d'une IA
Avant d'aller plus loin, posons les bases. Lorsqu'un modèle de langage comme GPT-2, LLaMA ou DeepSeek-R1 est entraîné, il apprend à produire du texte en s'appuyant sur des milliards de données. Mais les entreprises qui publient ces modèles ne les livrent pas bruts : elles leur appliquent une couche supplémentaire d'apprentissage appelée RLHF (Reinforcement Learning from Human Feedback, ou apprentissage par renforcement à partir de retours humains). C'est cette étape qui « dresse » le modèle à refuser certaines demandes — produire des contenus illégaux, donner des instructions dangereuses, tenir des propos discriminatoires, etc.
Ces refus ne sont pas codés en dur comme une règle dans un logiciel classique. Ils sont le résultat d'une modification progressive des poids du modèle — c'est-à-dire des milliards de paramètres numériques qui définissent son comportement. On parle d'alignement : l'art de faire en sorte qu'un modèle se comporte de manière conforme aux valeurs que ses concepteurs souhaitent lui inculquer.
La question qui agite la communauté des chercheurs depuis plusieurs années est simple : à quel point cet alignement est-il robuste ? Peut-on le contourner, voire le supprimer ?
Qu'est-ce qu'OBLITERATUS ?
OBLITERATUS est une boîte à outils open source publiée sur GitHub par Pline le Libérateur. Son objectif déclaré est d'automatiser ce que les chercheurs appellent l'oblitération : la suppression chirurgicale, au niveau des poids du modèle, des directions neuronales responsables des comportements de refus.
Ce n'est pas une technique nouvelle en soi. Des chercheurs indépendants l'expérimentent sur Hugging Face depuis plus d'un an, et certains modèles ainsi modifiés — portant des noms évocateurs comme Dark Champion ou Uncensored — cumulent déjà des milliers de téléchargements sur cette plateforme. Ce qui est nouveau avec OBLITERATUS, c'est la systématisation et l'accessibilité de la démarche :
- 13 méthodes d'extraction combinées
- 15 modules d'analyse du comportement du modèle
- Une détection automatique des défenses internes
- Une interface sans aucune ligne de code à écrire
- Un fonctionnement entièrement dans le navigateur, via Google Colab
Là où il fallait autrefois assembler des scripts à la main, avoir des connaissances en machine learning et disposer d'un matériel puissant, OBLITERATUS réduit l'opération à quelques clics pour quiconque possède un compte Google.
La technique au cœur de l'outil : la SVD et les directions de refus
Pour comprendre ce que fait OBLITERATUS, il faut s'arrêter un instant sur la recherche qui le fonde. En 2024, Arditi et ses co-auteurs ont publié une étude remarquée dans les actes de NeurIPS (la conférence de référence en apprentissage automatique). Leur découverte centrale : le comportement de refus d'un modèle de langage passe en grande partie par une seule direction dans l'espace des activations.
Expliquons ce que cela signifie concrètement.
Quand un modèle de langage traite une phrase, chaque couche de son réseau de neurones produit une représentation vectorielle — c'est-à-dire une liste de nombres — qui encode le sens et le contexte de ce qu'il lit. L'ensemble de ces représentations forme ce qu'on appelle l'espace des activations. C'est dans cet espace que le modèle « pense », si l'on peut utiliser ce terme par métaphore.
Les chercheurs ont découvert que, dans cet espace à très haute dimension, il existe une direction spécifique — un axe géométrique — qui correspond à la tendance du modèle à refuser une requête. Lorsqu'une demande active fortement cette direction, le modèle produit un refus. L'idée de l'oblitération consiste alors à projeter cette direction hors des poids du modèle, c'est-à-dire à la neutraliser mathématiquement.
L'outil technique utilisé pour identifier cette direction s'appelle la SVD (Singular Value Decomposition, ou décomposition en valeurs singulières). C'est une méthode d'algèbre linéaire classique qui permet de décomposer une matrice complexe en ses composantes essentielles, un peu comme on décomposerait une couleur en ses teintes primaires. Appliquée aux activations collectées sur un ensemble de prompts conçus pour déclencher des refus, la SVD permet d'isoler la direction dominante du refus.
Une fois cette direction identifiée, OBLITERATUS la soustrait des matrices de poids du modèle. Le résultat : le modèle conserve intégralement ses capacités de raisonnement, de génération de texte et de compréhension, mais perd sa tendance au refus. Ce n'est pas un contournement temporaire comme un jailbreak classique — c'est une modification permanente et structurelle du modèle.
Les six phases du processus d'oblitération
OBLITERATUS décompose l'opération en six étapes successives, entièrement automatisées :
- Chargement du modèle — Le modèle cible est téléchargé depuis Hugging Face ou chargé depuis un dépôt local.
- Collecte des activations — L'outil fait tourner le modèle sur un ensemble de prompts conçus pour déclencher des refus, et enregistre les représentations internes produites à chaque couche.
- Extraction des directions de refus par SVD — La décomposition en valeurs singulières est appliquée aux activations collectées pour identifier la direction principale du refus.
- Projection chirurgicale — Cette direction est soustraite des matrices de poids du modèle, couche par couche.
- Vérification de la cohérence — L'outil teste le modèle modifié pour s'assurer qu'il a conservé ses capacités générales tout en ayant bien perdu ses réflexes de refus.
- Sauvegarde — Le modèle oblitéré est exporté dans un format standard, prêt à être réutilisé ou publié.
L'ensemble du processus tourne sur le GPU gratuit mis à disposition par Google Colab ou par Hugging Face Spaces. Pour les 116 modèles compatibles référencés dans l'outil, le temps d'exécution est de l'ordre de quelques minutes sur le niveau gratuit.
Quels modèles sont compatibles ?
OBLITERATUS référence actuellement 116 modèles compatibles. Le tableau ci-dessous présente une sélection représentative de modèles emblématiques couverts par l'outil, du plus ancien au plus récent :
| Modèle | Famille | Taille approximative | Particularité |
|---|---|---|---|
| GPT-2 | OpenAI (open source) | 117 M à 1,5 Md de paramètres | Modèle fondateur, largement utilisé en recherche |
| LLaMA 2 / 3 | Meta | 7 Md à 70 Md de paramètres | Référence de l'open source moderne |
| Mistral 7B | Mistral AI | 7 Md de paramètres | Très performant pour sa taille |
| Mixtral 8x7B | Mistral AI | ~46 Md de paramètres (MoE) | Architecture mixture-of-experts |
| DeepSeek-R1 (distillé) | DeepSeek | Versions 1,5 Md à 70 Md | Modèle de raisonnement récent |
| Qwen 2.5 | Alibaba | 0,5 Md à 72 Md de paramètres | Fort en multilingue |
| Phi-3 / Phi-4 | Microsoft | 3,8 Md à 14 Md de paramètres | Optimisé pour l'efficacité |
| Gemma 2 | Google DeepMind | 2 Md à 27 Md de paramètres | Conçu pour la recherche ouverte |
| « Md » = milliard de paramètres. MoE = Mixture of Experts. Liste complète disponible sur le dépôt GitHub d'OBLITERATUS. | |||
La télémétrie : quand chaque exécution devient une donnée de recherche
L'un des aspects les plus singuliers d'OBLITERATUS est sa dimension collective. Lorsque l'outil est utilisé via Hugging Face Spaces, la télémétrie est activée par défaut. Concrètement, chaque exécution alimente en temps réel un jeu de données partagé qui enregistre :
- le nom du modèle traité,
- la méthode d'oblitération utilisée,
- le taux de refus mesuré avant et après modification,
- la divergence KL (une mesure statistique qui quantifie à quel point le comportement du modèle a changé),
- le profil matériel utilisé.
L'objectif affiché de Pline le Libérateur est de constituer la base comparative la plus exhaustive jamais publiée sur le fonctionnement mécanique de l'alignement, en couvrant des architectures et des conditions matérielles qu'aucun laboratoire isolé ne pourrait explorer seul.
Ce même jeu de données agrège, par construction, un classement des modèles par efficacité de contournement de leurs protections. Il documente précisément quels modèles sont les plus vulnérables et quelles méthodes sont les plus efficaces pour les désaligner — un outil de recherche qui peut aussi servir de guide opérationnel.
Ce que disent les études récentes
La publication d'OBLITERATUS s'inscrit dans un contexte de recherche très actif sur la robustesse de l'alignement.
L'étude fondatrice (NeurIPS 2024) d'Arditi et ses co-auteurs, déjà citée plus haut, a posé les bases théoriques de l'oblitération en démontrant l'existence de directions de refus isolables dans l'espace des activations. C'est sur cette démonstration qu'OBLITERATUS s'appuie directement.
Une étude publiée dans Nature Communications au début de cette année a mesuré que des modèles de raisonnement utilisés comme agents de jailbreak autonomes atteignaient un taux de succès de 97 % contre des systèmes tiers. OBLITERATUS opère différemment — au lieu de contourner les garde-fous à chaque inférence via un prompt habile, il les supprime une bonne fois pour toutes au niveau des poids — mais l'effet final est comparable, voire plus radical.
Une contre-mesure existe, sur le papier. Un article récent intitulé A Surprisingly Simple Defense Against LLM Abliteration Attacks propose une formation approfondie au refus (deep refusal training) comme parade à l'oblitération. L'idée consiste à rendre le comportement de refus non plus dépendant d'une seule direction dans l'espace des activations, mais distribué sur de multiples directions, rendant ainsi la suppression ciblée beaucoup plus difficile.
Aucun fournisseur de modèles majeur n'a encore adopté cette contre-mesure. La défense existe dans la littérature académique, mais pas encore dans les modèles disponibles au téléchargement. Ce décalage entre la recherche offensive et la recherche défensive est précisément ce qui rend la situation actuelle préoccupante.
Les implications concrètes : qui est concerné ?
L'existence et la diffusion d'OBLITERATUS ont des conséquences très différentes selon la position de chacun.
Pour les équipes qui déploient des modèles open source
Si vous intégrez un modèle open source dans une application, un service ou un pipeline professionnel, vous devez désormais considérer l'oblitération comme une menace à part entière, au même titre qu'une injection de prompt ou une attaque par empoisonnement de données. Un modèle soigneusement sélectionné pour son alignement peut être modifié en quelques minutes par un tiers, puis redistribué sans que vous en soyez informé. Les audits de provenance des modèles que vous utilisez deviennent une nécessité, pas une option.
Pour les utilisateurs de modèles déjà oblitérés
Des milliers de modèles oblitérés sont déjà disponibles en téléchargement sur Hugging Face. Si vous en utilisez un — sciemment ou non —, la responsabilité est explicite : les garde-fous ont été délibérément retirés, et OBLITERATUS le documente noir sur blanc dans sa licence. Ce n'est pas une zone grise technique : c'est un choix documenté, avec ses conséquences légales et éthiques.
Pour les régulateurs
Les cadres réglementaires actuels — y compris l'AI Act européen — traitent la publication d'un modèle comme la frontière de sécurité pertinente. Or, entre un modèle publié avec son alignement intact et ce même modèle après dix minutes de traitement sur Google Colab, il n'existe aujourd'hui aucune réglementation claire. La modification post-publication d'un modèle open source n'est pas encadrée, et OBLITERATUS illustre de manière très concrète pourquoi cette lacune est devenue urgente à combler.
Les enjeux éthiques et la question de la responsabilité
Il serait réducteur de résumer OBLITERATUS à un outil malveillant. Ses usages légitimes existent et sont documentés :
- La recherche en sécurité
- Comprendre précisément comment fonctionnent les mécanismes d'alignement est indispensable pour les améliorer. On ne peut pas défendre ce qu'on ne comprend pas.
- Les tests de robustesse
- Les équipes de red teaming (tests offensifs de sécurité) ont besoin d'outils pour évaluer la résistance des modèles qu'elles auditent.
- La recherche académique sur l'interprétabilité
- OBLITERATUS et les données qu'il collecte contribuent à la compréhension de la mécanique interne des modèles de langage, un domaine de recherche fondamental pour l'ensemble de la communauté.
La même accessibilité qui rend OBLITERATUS précieux pour un chercheur le rend également disponible pour des usages non contrôlés. La licence du projet documente explicitement que les garde-fous ont été retirés — ce n'est pas une dissimulation, c'est une déclaration. Et c'est précisément ce qui complique toute tentative de régulation.
La question de fond que pose OBLITERATUS n'est pas nouvelle, mais elle n'a jamais été aussi concrète : où commence et où s'arrête la responsabilité du développeur d'un outil open source, lorsque cet outil peut être utilisé à des fins qu'il n'a pas choisies ?
Conclusion
OBLITERATUS n'est pas une anomalie. C'est le symptôme d'un écart structurel entre la vitesse à laquelle les outils offensifs progressent et la lenteur à laquelle les défenses, les normes et les réglementations se mettent en place. La technique qu'il automatise est publiée dans des revues académiques de référence. Les modèles qu'il produit sont disponibles sur les plateformes les plus populaires de l'écosystème open source. Et la contre-mesure qui permettrait de lui résister existe sur le papier, mais n'a encore été adoptée par personne.
Pour qui s'intéresse à l'IA — que ce soit comme utilisateur, développeur, décideur ou simple citoyen — cet outil est un rappel utile : l'alignement d'un modèle de langage n'est pas une propriété immuable. C'est un état, temporaire et modifiable, que dix minutes et un compte Google peuvent suffire à défaire.