Avec l'essor fulgurant des intelligences artificielles génératives, les développeurs gagnent en productivité, mais s'exposent aussi à de nouveaux risques. Parmi eux, un phénomène encore méconnu prend de l'ampleur : le Slopsquatting. Derrière ce nom étrange se cache une faille de sécurité redoutable, rendue possible par les fameuses hallucinations des IA. Et si je t'expliquais pourquoi il est temps de prendre ce risque très au sérieux ?

Comprendre le Slopsquatting : une faille née des hallucinations d’IA

Les intelligences artificielles génératives comme ChatGPT, GitHub Copilot ou StarCoder sont capables de générer du code à partir de simples requêtes. Mais leur fonctionnement probabiliste peut les amener à “halluciner” : elles inventent des informations, notamment des noms de bibliothèques ou de packages inexistants.

C’est là qu’intervient le Slopsquatting (contraction de slop — "bavure" en anglais — et squatting — "squat"). Cette technique consiste à enregistrer un package qui a été halluciné par une IA, mais qui n’existe pas réellement. Un pirate peut ensuite y intégrer un logiciel malveillant. Résultat : le développeur, pensant installer un module utile, injecte en réalité un malware dans son environnement.

Comment les développeurs se retrouvent piégés

Prenons un exemple concret. Imaginons qu’un assistant IA te propose cette ligne de code :

bash
CopierModifier
pip install super-logiciel

Tu l’intègres sans trop y réfléchir dans ton projet. Mais en réalité, super-logiciel n'existe pas. Un hacker avisé peut alors créer ce package sur PyPI (le dépôt officiel de Python), y glisser un malware, et attendre qu’un développeur l’installe. C’est aussi simple — et sournois — que ça.

schema-Slopsquatting.png

Un phénomène plus courant qu'on ne le pense

Un rapport publié en mars 2025 sur arXiv alerte sur l’ampleur du problème. Sur 576 000 générations de code analysées :

Type de modèleTaux de packages hallucinéTaux de réutilisation dans les réponses suivantes
Modèles open source 21,7 % 58 %
Modèles commerciaux 5,2 % 41 %
Moyenne générale 19,7 % ≈ 50 %

Soit plus de 205 000 noms de packages inventés, dont beaucoup pourraient être réutilisés à mauvais escient. Encore plus inquiétant : une fois qu’un nom fictif est généré, il est souvent recyclé dans d'autres réponses de l’IA, ce qui amplifie les risques.

Pourquoi le Slopsquatting est un vrai danger

Cette attaque cible un point faible : la confiance excessive accordée aux suggestions des IA. Dans les environnements DevOps, une simple dépendance malveillante peut compromettre toute une chaîne CI/CD (intégration et déploiement continu). Et comme les hallucinations sont persistantes, elles peuvent contaminer plusieurs projets simultanément, même sur le long terme.

L’attaque est difficile à détecter car elle repose sur des actions parfaitement légitimes aux yeux de l’IA... mais malveillantes dans les faits.

Comment se protéger efficacement du Slopsquatting ?

Voici quelques recommandations simples mais cruciales pour limiter les risques :

En conclusion

Le Slopsquatting n’est pas un simple bug ou une erreur passagère. C’est une nouvelle forme d’ingénierie sociale numérique qui tire parti des défauts de l’IA. En tant que développeur, je dois aujourd’hui rester vigilant, même face à des suggestions automatisées. L’IA reste un outil puissant, mais qui nécessite un œil critique. Si elle peut coder vite, elle ne pense pas à notre place.