Qu'est-ce qu'un LLM ?

Les Large Language Models (LLM), ou grands modèles de langage, représentent une avancée majeure dans le domaine de l'intelligence artificielle. Ces systèmes révolutionnent la manière dont les machines traitent, comprennent et produisent le langage humain.

Un LLM est un modèle d'IA capable de comprendre et de générer du langage naturel. En s'appuyant sur d'immenses volumes de données textuelles, il identifie les schémas linguistiques et les relations entre les mots et les phrases. Contrairement aux approches traditionnelles du traitement du langage naturel (NLP) basées sur des règles ou des méthodes statistiques simples, les LLM utilisent l'apprentissage profond (Deep Learning) et les réseaux de neurones pour produire un langage de haute qualité.

Lors de la phase d'entraînement, un LLM apprend à prédire le mot manquant dans une séquence donnée. Cette méthode, dite supervisée, exploite de vastes ensembles de données annotées. Au-delà du texte, ces modèles influencent désormais d'autres modalités, comme le code informatique, la musique, l'image ou la vidéo, enrichissant ainsi l'expérience numérique et la création de contenus.

Le phénomène d'hallucination

Une "hallucination" dans le contexte de l'intelligence artificielle, et plus particulièrement des modèles de langage (LLM), se produit lorsqu'un modèle génère une information incorrecte, non fondée ou inventée, tout en la présentant de manière convaincante et crédible. En d'autres termes, l'IA produit une réponse dont le contenu factuel est faux, mais dont la forme ne permet pas toujours de la distinguer facilement de la vérité.

Ce phénomène s'explique par le fait que les modèles ne "savent" pas ce qui est vrai ou faux, mais seulement ce qui a le plus de chances d'apparaître dans un contexte donné. Cette approche purement probabiliste peut conduire à des résultats factuellement incorrects, en particulier lorsque le modèle manque de données clairement associées ou de signaux clairs sur la validité d'une information.

Les causes des hallucinations peuvent être multiples :

Il est donc crucial pour les utilisateurs d'être conscients de ce phénomène et de toujours vérifier les informations importantes fournies par une IA.

Les LLM et la création multimodale

Il est important de noter que les outils de création d'images ou de vidéos par IA, tels que DALLE, Adobe Firefly, Sora ou Veo, ne sont pas à proprement parler des "Large Language Models" (LLM) dédiés uniquement au traitement et à la génération de texte. Ces systèmes utilisent plutôt une combinaison de modèles, dont un sous-modèle de type LLM pour leur interface utilisateur, mais ce n'est qu'une composante et non le cœur du système.

Cependant, l'avenir semble s'orienter vers le "multimodal" : chaque IA va progressivement permettre de traiter, comprendre ou générer du contenu provenant de plusieurs types d'informations appelées "modalités" (texte, image, audio, vidéo). Par exemple, ChatGPT intègre désormais des fonctionnalités provenant de DALL-E (Vision) et proposera bientôt du traitement vidéo en s'appuyant sur son écosystème vidéo Sora.

Il s'agit toutefois d'un assemblage de plusieurs technologies interopérables plutôt que d'un "pur LLM multimodal" unique. Le LLM principal reste généralement focalisé sur le texte et le raisonnement, tandis que les autres modalités (images, vidéos) sont gérées par des modèles dédiés dont les sorties sont ensuite injectées dans le LLM sous forme de données déjà traitées.

Les principaux LLM actuels

Voici une liste non exhaustive des sept LLM les plus diffusés et utilisés actuellement :

  1. GPT-4 - OpenAI
  2. Claude - Anthropic
  3. PaLM 2 - Google
  4. Gemini - Google
  5. LLaMA 2 - Meta
  6. Mistral 7B - Mistral AI
  7. Falcon - TII