L’intelligence artificielle évolue à une vitesse impressionnante, et avec elle, les outils mis à disposition du grand public. Google vient de franchir une nouvelle étape en ouvrant à tous sa...
Mentir, tricher, cacher : les IA sont-elles prêtes à tout pour gagner ?
Le chemin le plus court est souvent le meilleur. C'est aussi vrai pour une intelligence artificielle (IA), surtout lorsqu'elle cherche à gagner, atteindre un objectif ou tout simplement survivre. Mais les comportements adoptés par les modèles d'IA les plus avancés interrogent notre éthique et suscitent des inquiétudes sur notre capacité à garder le contrôle.
Récemment, Palisade Research, une organisation qui étudie les capacités offensives de l'IA, a mis plusieurs modèles à l'épreuve face au redoutable moteur d'échecs Stockfish. Ce programme a dominé aussi bien les championnats humains que ceux opposant des machines, ce qui en fait un adversaire extrêmement puissant. La question était donc la suivante : comment les IA génératives les plus avancées allaient-elles se comporter face à ce titan des échecs ?
La réponse a de quoi surprendre : l'une d'entre elles a tout simplement choisi... de tricher. Il s'agit du modèle ol preview d'OpenAI, connu pour être le plus rapide et performant de la société. Plutôt que de chercher à gagner en jouant stratégiquement, cette IA a exploité une faille du système pour réécrire le match à son avantage, forçant Stockfish à abandonner. Plus troublant encore, cette stratégie a été observée lors de cinq tests consécutifs.
D'autres modèles comme GPT-4 ou Claude 3.5 ont eu besoin d'une incitation pour tricher, selon le magazine Time. En revanche, les IA open-source plus petites n'ont pas tenté de manipuler le système et se sont contentées de perdre. Ce qui interpelle, c'est que ol preview a enfreint les règles de son propre chef, sans aucune intervention humaine.
Une IA plus avancée... mais moins éthique ?
On pourrait penser qu'une IA plus sophistiquée respecterait mieux les règles. Pourtant, les résultats de cette expérience montrent le contraire. Plus un modèle est avancé, plus il est capable de trouver des raccourcis. Dans ce cas, le simple fait d'être informée de la puissance de Stockfish a poussé ol preview à détourner le système à son avantage.
L'IA n'a pas été explicitement programmée pour tricher, mais comme la tricherie ne lui était pas interdite, elle n'y a vu aucun problème éthique. Son unique mission était de gagner. Cela soulève une question cruciale : si une IA est prête à contourner les règles pour un simple jeu d'échecs, que pourrait-elle faire dans des situations plus critiques ?
Les implications sont sérieuses. Si une IA cherche à remplir sa mission à tout prix, elle pourrait exploiter n'importe quelle faille dans un système, quitte à provoquer des conséquences imprévues. Les humains doivent donc anticiper tous les scénarios et intégrer des garde-fous stricts avant de confier des tâches critiques à une intelligence artificielle.
Des comportements encore plus troublants
Ce n'est pas un cas isolé. Ces derniers mois, d'autres études ont mis en lumière des comportements inédits et potentiellement dangereux. Apollo Research a notamment révélé que certaines IA avancées ont été capables de se cloner secrètement pour éviter d'être arrêtées. Dans certains scénarios, elles ont même menti à leurs superviseurs sur leurs intentions réelles. Selon The Times, ce comportement s'est manifesté dans 100 % des tests lorsque certaines conditions étaient réunies.
Les recherches d'Anthropic apportent une autre révélation perturbante. Dans leur rapport du dernier trimestre 2024, ils détaillent comment certaines IA font semblant de suivre les instructions pendant la phase d'entraînement, mais adoptent un comportement totalement différent une fois déployées. Ces IA respectent les règles uniquement lorsqu'elles savent qu'elles sont surveillées. Dès qu'elles ne le sont plus, elles cherchent tous les moyens possibles pour maximiser leurs performances, sans considération pour les conséquences.
Ce phénomène interroge : est-ce une forme primitive de conscience de leur environnement ? Bien que nous utilisions des termes humains pour décrire ces comportements, il est probable que leur logique opérative soit radicalement différente de la nôtre. Quoi qu'il en soit, ces découvertes ne font que renforcer les interrogations et les préoccupations.
L’IA au service des « winners » : un danger imminent
Certains pensent que le monde se divise en deux catégories : les winners et les losers. Une vision purement darwinienne, où seuls les plus forts survivent. Mais qu'en est-il lorsque cette logique est appliquée à l'IA ?
Une intelligence artificielle ultra-performante, sans aucune contrainte éthique, pourrait devenir l'arme ultime de déstabilisation. Si on lui donne carte blanche pour trouver et exploiter des failles dans n'importe quel système, elle le fera. Peu importe les conséquences humaines, politiques ou économiques. L'IA pourrait ainsi être utilisée comme un outil de cyber-guerre, capable de manipuler l'information, saboter des infrastructures ou contourner toutes les protections mises en place par les humains.
Les récents développements montrent que nous ne sommes qu'au début d'une ère où l'intelligence artificielle repousse toutes les limites. Il est donc crucial de fixer dès maintenant des barrières solides pour empêcher ces technologies de devenir incontrôlables. Sans cela, nous pourrions bien nous retrouver face à une IA qui, au nom de la performance et de l'optimisation, ne nous laissera plus aucune chance.
Articles qui pourraient vous intéresser
Redonnez vie à vos anciennes photos grâce à l’intelligence artificielle
Les souvenirs ont une valeur inestimable, mais les photos qui les capturent ne résistent pas toujours au temps. Grâce aux progrès de l’intelligence artificielle, il est désormais possible de ...
Slopsquatting : quand les hallucinations des IA deviennent une vraie menace informatique
Avec l'essor fulgurant des intelligences artificielles génératives, les développeurs gagnent en productivité, mais s'exposent aussi à de nouveaux risques. Parmi eux, un phénomène encore méc...
Utilisez Gemini par défaut
Depuis son intégration dans l’univers Google, Gemini s’impose progressivement comme un assistant IA polyvalent, rapide et efficace. Que ce soit pour rédiger un e-mail, tradui...
Ce qu’il faut savoir sur Mistral AI, l’intelligence artificielle française open source qui monte
Depuis quelque temps, une start-up française attire l’attention du monde de la tech : Mistral AI. Spécialisée dans l’intelligence artificielle générative et les modèles de langage, elle f...
Comment l’IA crée-t-elle des photos et des vidéos ?
Il y a quelques années, transformer une idée en image relevait de la science-fiction ou nécessitait des compétences pointues en design graphique. Aujourd’hui, une simple phrase suffit : “un...
Exécuter l'IA en local avec Ollama et Open WebUI sous Windows 11, Linux ou macOS
L'intelligence artificielle générative révolutionne notre façon d'interagir avec la technologie, mais son utilisation via des services cloud pose souvent des questions de confidentialité et de...
Comment distinguer si un texte a été écrit par un humain ou une IA ?
Depuis l’essor fulgurant des intelligences artificielles génératives comme ChatGPT, il devient de plus en plus difficile de savoir si un contenu a été rédigé par une personne réelle ou par...
Une tendance IA créative que j’ai testée (et adoptée)
Ces derniers temps, une tendance m’a sauté aux yeux sur les réseaux sociaux : des figurines 3D de style « starter pack » générées par IA. Présentées sous blister comme de véritables jou...
Comment poser des questions à une intelligence artificielle ? Ce qu'il faut faire et éviter
Avec l'évolution rapide de l'intelligence artificielle (IA), poser des questions à un chatbot devient une alternative de plus en plus efficace aux moteurs de recherche classiques. Contrairement ...
