L'intelligence artificielle générative révolutionne notre façon d'interagir avec la technologie, mais son utilisation via des services cloud pose souvent des questions de confidentialité et de dépendance à une connexion internet. Après plusieurs mois d'expérimentation, j'ai trouvé une solution qui me semble optimale pour quiconque souhaite garder le contrôle sur ses données tout en profitant des avancées de l'IA générative.

Ollama et Open WebUI forment un duo puissant permettant d'exécuter des modèles de langage (LLM) directement sur votre ordinateur, que vous soyez sous Windows 11, Windows Server 2025, Linux ou macOS. Cette approche offre une alternative séduisante aux solutions cloud comme ChatGPT, Google Gemini ou Claude, tout en préservant votre confidentialité.

Dans cet article, je vous guide à travers l'installation et la configuration de ces outils sur les trois grandes plateformes, en détaillant plusieurs méthodes d'installation selon votre niveau et vos préférences. Que vous soyez un professionnel soucieux de la confidentialité de vos données ou simplement curieux d'explorer les capacités de l'IA en local, cette solution pourrait bien répondre à vos attentes.

ℹ️L'article initial a été modifié afin d'ajouter de nouvelles méthodes d'installation; ainsi que d'autres OS (macOS et Linux)

Pourquoi opter pour l'IA en local avec Ollama ?

Alors que les géants comme OpenAI, Google, DeepSeek, Mistral ou Anthropic proposent des modèles de langage impressionnants en mode SaaS, l'utilisation d'Ollama en local présente des avantages considérables :

Au fil de mes tests, j'ai identifié plusieurs cas d'usage où cette solution brille particulièrement :

Comprendre les performances des modèles LLM

Avant de nous lancer dans l'installation, clarifions un point important : les performances d'un LLM en local dépendent fortement de votre matériel et du modèle choisi. Contrairement aux idées reçues, vous ne pourrez pas obtenir exactement les mêmes performances que ChatGPT ou Claude sur une machine standard.

Les modèles LLM sont mesurés en "B" (milliards de paramètres), qui représentent le nombre total de paramètres entraînables dans le réseau de neurones. Ces paramètres sont des valeurs numériques qui influencent la façon dont le modèle génère du texte.

Tableau comparatif des tailles de modèles

Comparatif des tailles de modèles LLM et ressources nécessaires
TailleParamètresEspace disque requisRessources recommandéesCapacités
1-3B 1-3 milliards 1-2 Go CPU récent ou GPU basique, 8 Go RAM Tâches simples, réponses basiques
4-7B 4-7 milliards 3-5 Go GPU 6+ Go VRAM, 16 Go RAM Tâches intermédiaires, raisonnement simple
8-13B 8-13 milliards 6-8 Go GPU 8+ Go VRAM, 24 Go RAM Raisonnement avancé, codage complexe
14-30B 14-30 milliards 9-15 Go GPU 12+ Go VRAM, 32+ Go RAM Performance proche des modèles commerciaux
Plus le modèle est grand, plus il est performant — mais plus il consomme de ressources.

Configuration matérielle recommandée

Pour une expérience fluide, je recommande au minimum :

Sur mon système équipé d'un Intel Core Ultra 9 185H avec 32 Go de RAM, j'ai constaté que le modèle DeepSeek R1 14B consomme environ 10 Go de RAM et utilise près de 60 % des ressources CPU. Les temps de réponse restent acceptables (quelques secondes), mais varient selon la complexité des requêtes.

Si vous ne disposez pas de GPU dédié, privilégiez les modèles plus légers comme Gemma3 2B ou DeepSeek R1 7B pour des performances acceptables.

Prérequis Python pour Open WebUI : Si vous optez pour l'installation via pip, assurez-vous d'utiliser Python 3.11.x (par exemple la version 3.11.6). La version 3.12.x n'est pas compatible avec la version actuelle d'Open WebUI. Vous pouvez télécharger Python sur python.org.

Installation d'Ollama sur Windows, Linux et macOS

La première étape consiste à installer Ollama, le moteur d'inférence local qui va télécharger et exécuter les modèles LLM sur votre machine. Plusieurs méthodes sont disponibles selon votre système d'exploitation.

Installation sur Windows (WinGet — méthode recommandée)

Puisque WinGet est intégré nativement à Windows 11 et Windows Server 2025, c'est la méthode que je préfère. Ouvrez PowerShell ou une invite de commande et exécutez :

winget install ollama.ollama

Un installeur apparaîtra brièvement à l'écran pour compléter l'installation de manière automatique. Vous pouvez également télécharger l'installeur directement depuis la page officielle de téléchargement d'Ollama.

Installation sur Linux et macOS

Pour Linux et macOS, la méthode la plus simple consiste à utiliser le script d'installation officiel disponible sur la page de téléchargement d'Ollama. Choisissez votre plateforme et suivez les instructions d'installation standard propres à votre système.

Vérification de l'installation

Une fois l'installation terminée, fermez votre console et ouvrez-en une nouvelle (PowerShell, Terminal ou Invite de commande). Exécutez :

ollama --version

Si vous voyez le numéro de version s'afficher, félicitations ! Ollama est correctement installé sur votre système. Sous Windows, l'exécutable a été ajouté à la variable d'environnement PATH et se trouve généralement dans C:\Users\[VotreNom]\AppData\Local\Programs\Ollama.

Emplacement de stockage des modèles

Par défaut, Ollama stocke les modèles téléchargés aux emplacements suivants selon le système d'exploitation :

macOS
~/.ollama/models
Linux
/usr/share/ollama/.ollama/models
Windows
C:\Users\%username%\.ollama\models

Si vous souhaitez modifier ce chemin (par exemple pour utiliser un disque secondaire), vous pouvez définir une variable d'environnement. Sous Windows :

setx OLLAMA_MODELS "D:\ollama_models"

Sur macOS, utilisez launchctl :

launchctl setenv OLLAMA_MODELS "/nouveau/chemin/vers/models"

Puis redémarrez l'application Ollama pour que la modification soit prise en compte.

Sur Linux (pour un service systemd), éditez la configuration du service :

sudo systemctl edit ollama.service

Ajoutez sous la section [Service] :

Environment="OLLAMA_MODELS=/nouveau/chemin/vers/models"

Puis rechargez et redémarrez le service :

sudo systemctl daemon-reload
sudo systemctl restart ollama

Exploiter les modèles avec Ollama

Télécharger et exécuter un modèle

Pour consulter les modèles disponibles, visitez la bibliothèque officielle d'Ollama. En ligne de commande, vous disposez de deux commandes principales :

Pour commencer, j'ai choisi DeepSeek-R1 7B, qui occupe environ 4,7 Go d'espace disque et offre un bon compromis entre performance et légèreté :

ollama run deepseek-r1

Vous pouvez également essayer d'autres modèles populaires :

Le téléchargement peut prendre plusieurs minutes selon votre connexion internet. Une fois terminé, vous pouvez interagir directement avec le modèle dans la console.

Exemple d'interaction

Quand vous posez une question comme "Quelle est la hauteur de la Tour Eiffel ?", vous verrez d'abord un indicateur <think> pendant que le modèle génère sa réponse. La réponse finale apparaît après la balise </think>. Dans mes tests, DeepSeek-R1 7B a fourni une réponse correcte en environ 2 secondes.

Pour quitter la conversation avec l'IA, tapez simplement :

/bye

Gestion des modèles

Pour lister les modèles installés localement :

ollama list

Vous verrez alors quelque chose comme :

NAME                  ID              SIZE      MODIFIED
deepseek-r1:14b       ea35dfe18182    9.0 GB    56 minutes ago
deepseek-r1:latest    0a8c26691023    4.7 GB    About an hour ago

Vous pouvez installer plusieurs modèles et basculer entre eux selon vos besoins. Pour supprimer un modèle inutilisé :

ollama rm [nom-du-modèle]

Génération de code avec Ollama

L'un des cas d'usage les plus pratiques est la génération de code. Par exemple, avec la requête "Écris une fonction PowerShell pour générer des mots de passe robustes", j'ai obtenu une fonction complète et bien commentée. Toutefois, l'affichage dans la console n'est pas idéal pour le code, car le formatage Markdown n'est pas rendu. C'est là qu'intervient Open WebUI.

Installation d'Open WebUI

Open WebUI est l'interface graphique qui va transformer votre expérience avec Ollama, en offrant une interface similaire à ChatGPT, directement dans votre navigateur. Trois méthodes d'installation sont disponibles selon votre profil.

Méthode 1 : installation via pip (Python) — toutes plateformes

C'est la méthode la plus simple et la plus universelle, disponible sur Windows, Linux et macOS. Ouvrez votre terminal et installez Open WebUI avec pip :

pip install open-webui

Mettez ensuite pip à jour :

python.exe -m pip install --upgrade pip

Puis démarrez le serveur :

open-webui serve

Open WebUI sera accessible dans votre navigateur à l'adresse http://localhost:8080.

Assurez-vous d'utiliser Python 3.11.x et non Python 3.12.x, qui n'est pas compatible avec la version actuelle d'Open WebUI.

Pour mettre à jour Open WebUI utilisez :

pip install --upgrade open-webui

Votre serveur doit être arrété

Méthode 2 : installation via Miniconda 3 et OpenWebUI CondaInstaller (Windows)

Cette méthode est particulièrement adaptée aux utilisateurs Windows qui préfèrent une installation graphique simplifiée, sans avoir à manipuler de lignes de commande. Elle repose sur deux composants : Miniconda 3 (version 3.11 compatible avec OpenWebUI CondaInstaller, version 3.12 non compatible avec OpenWebUI CondaInstaller) comme gestionnaire d'environnement Python, et l'outil tiers OpenWebUI CondaInstaller développé par BrainDrive.

OpenWebUI CondaInstaller — qu'est-ce que c'est ?

OpenWebUI CondaInstaller est une application de bureau graphique (GUI) conçue pour automatiser entièrement l'installation et la gestion d'Open WebUI sous Windows. Parmi ses fonctionnalités principales :

Important : Ce dépôt a été archivé par ses auteurs le 3 septembre 2025 et n'est plus maintenu activement. Il reste disponible pour référence et usage communautaire, et fonctionne toujours dans son état actuel, mais aucune mise à jour future n'est prévue. Pour une solution pérenne, privilégiez la méthode pip (Méthode 1).

Si vous souhaitez tout de même l'utiliser, commencez par installer Miniconda 3 :

winget install anaconda.miniconda3

Téléchargez ensuite la dernière version de l'installeur depuis la page des releases GitHub. Exécutez le fichier OpenWebUIInstaller.exe et cliquez sur "Install".

Patience requise ! L'installation peut prendre entre 10 et 20 minutes selon les performances de votre machine, car elle doit configurer l'environnement Python et installer diverses dépendances.

Une fois l'installation terminée, cliquez sur "Start Open WebUI" et attendez quelques instants. Votre navigateur s'ouvrira automatiquement sur http://localhost:8080/auth.

Méthode 3 : installation via Git (méthode avancée)

Pour ceux qui souhaitent gérer Open WebUI manuellement ou contribuer au projet, il est possible de cloner directement le dépôt GitHub d'Open WebUI. Cette méthode nécessite Git et Anaconda.

Prérequis

Instructions pour Linux et macOS

Ouvrez un terminal, accédez au répertoire souhaité et clonez le dépôt :

git clone https://github.com/open-webui/open-webui.git
cd open-webui/
cp -RPp .env.example .env

Construisez le frontend avec Node.js :

npm install
npm run build

Accédez au répertoire backend, créez un environnement Conda (optionnel mais recommandé) et installez les dépendances :

cd ./backend
conda create --name open-webui-env python=3.11
conda activate open-webui-env
pip install -r requirements.txt -U

Démarrez l'application :

bash start.sh

Instructions pour Windows

Ouvrez un terminal, accédez au répertoire souhaité et clonez le dépôt :

git clone https://github.com/open-webui/open-webui.git
cd open-webui
copy .env.example .env

Construisez le frontend avec Node.js :

npm install
npm run build

Accédez au répertoire backend, créez un environnement Conda (optionnel mais recommandé) et installez les dépendances :

cd .\backend
conda create --name open-webui-env python=3.11
conda activate open-webui-env
pip install -r requirements.txt -U

Démarrez l'application :

start_windows.bat

Premiers pas avec Open WebUI

Quelle que soit la méthode choisie, lors de la première connexion sur http://localhost:8080, vous devrez créer un compte administrateur. Ce compte est créé localement et n'est disponible que sur cet ordinateur : aucun autre utilisateur de votre système n'aura accès à vos données.

Une fois connecté, vous accédez à l'interface intuitive d'Open WebUI qui communique directement avec Ollama. Les modèles LLM que vous avez déjà installés sont immédiatement disponibles dans le sélecteur situé en haut à gauche. Si les modèles n'apparaissent pas dans la liste, actualisez simplement la page.

Tirer parti d'Open WebUI au quotidien

Interface conviviale et fonctionnalités principales

L'interface d'Open WebUI ressemble beaucoup à celle de ChatGPT ou Claude, avec quelques avantages supplémentaires :

La phase de réflexion (<think>) n'est plus visible dans l'interface web, remplacée par un message "En train de réfléchir". Les réponses sont ensuite affichées avec une mise en forme Markdown, ce qui rend le contenu bien plus lisible qu'en ligne de commande.

Gestion des modèles depuis l'interface

Vous pouvez ajouter de nouveaux modèles directement depuis l'interface, sans revenir à la ligne de commande. Par exemple, j'ai pu facilement ajouter le modèle gemma3:4b de Google en quelques clics. L'interface d'administration offre également la possibilité d'activer la recherche web (cette fonctionnalité nécessite toutefois des clés API pour les moteurs de recherche).

Analyse de code et traitement de documents

Pour les développeurs, Open WebUI intègre une fonctionnalité "Code Analysis" particulièrement utile. Je recommande d'utiliser le format Markdown pour spécifier le langage de programmation (PowerShell, Python, etc.), ce qui aide l'IA à mieux comprendre le contexte. Les résultats sont bien plus lisibles qu'en ligne de commande, avec coloration syntaxique et formatage adapté — le tout en local, sans exposer une seule ligne de code à des serveurs externes.

Applications pratiques et optimisations

Traitement de documents avec le système RAG

Au-delà de la génération de texte et de code, l'une des applications les plus intéressantes est l'analyse de documents. Open WebUI intègre nativement ChromeDB, un système RAG (Retrieval-Augmented Generation) qui permet au modèle de récupérer des informations dans vos documents avant de formuler une réponse.

Par exemple, vous pourriez demander : "Analyse ce contrat et dis-moi s'il y a une clause de résiliation". Le système cherchera dans le document, extraira la clause pertinente, puis fournira une réponse précise basée sur vos données — le tout sans que vos fichiers ne quittent votre machine.

Optimisation des performances

Pour améliorer les performances de votre installation, voici les pratiques que j'applique au quotidien :

  1. Utilisez le modèle adapté à votre matériel : sur un PC avec GPU modeste, privilégiez les modèles 1-7B ; sur un PC gaming récent, les modèles 7-13B sont accessibles ; sur une station de travail puissante, les modèles 14B+ offrent des performances proches des solutions cloud.
  2. Optimisez vos prompts : soyez précis et concis dans vos requêtes, utilisez des instructions claires (ex : "Explique en 3 paragraphes...") et fournissez du contexte pour les questions complexes.
  3. Gestion de la mémoire : fermez les applications gourmandes en RAM avant d'utiliser de grands modèles, utilisez ollama pull pour télécharger des modèles sans les exécuter immédiatement, et n'exécutez qu'un seul modèle à la fois.
  4. Maintenance régulière : mettez à jour Ollama et Open WebUI régulièrement, supprimez les modèles inutilisés avec ollama rm [nom-du-modèle], et redémarrez le service Ollama en cas de ralentissement prolongé.

Problèmes courants et solutions

Résolution des problèmes fréquents
ProblèmeCause probableSolution
Réponses lentes Modèle trop grand pour votre matériel Essayez un modèle plus petit (7B au lieu de 14B)
Erreurs mémoire RAM insuffisante Fermez d'autres applications ou augmentez la RAM
Open WebUI inaccessible Service non démarré correctement Redémarrez le service ou relancez la commande open-webui serve
Réponses incohérentes Limite du modèle ou prompt imprécis Reformulez votre question ou essayez un autre modèle
Modèle ne se télécharge pas Problème réseau ou espace disque Vérifiez votre connexion et l'espace disponible
Modèles absents dans Open WebUI Interface non synchronisée avec Ollama Actualisez la page dans votre navigateur
Incompatibilité Python Version Python 3.12.x utilisée Réinstallez avec Python 3.11.x
En cas de problème persistant, consultez les issues GitHub d'Open WebUI.

Conclusion et perspectives

Ollama et Open WebUI forment une combinaison puissante pour exploiter l'IA générative en local, avec comme avantage principal la confidentialité totale de vos données. Cette solution permet d'accéder à des capacités d'IA avancées sans dépendre des services cloud, tout en gardant le contrôle sur vos informations sensibles — et ce sur Windows, Linux comme macOS.

Pour les professionnels et les passionnés soucieux de la protection de leurs données, cette approche offre un équilibre intéressant entre performances et confidentialité. Bien que les modèles locaux ne rivalisent pas encore totalement avec les solutions cloud les plus avancées, ils s'améliorent rapidement et suffisent déjà pour de nombreuses applications pratiques.

L'intégration de technologies comme ChromeDB (RAG) ouvre la voie à des usages plus avancés, notamment pour l'analyse de documents d'entreprise ou personnels. À l'avenir, des solutions comme LangChain et Streamlit pourraient permettre de créer des applications personnalisées exploitant ces modèles locaux.

Je continue d'explorer ces possibilités et de tester différentes configurations. Les récentes améliorations des modèles comme Gemma3 de Google ou LLaMA 3.1 de Meta, optimisés pour fonctionner sur des configurations plus légères, laissent présager un avenir prometteur pour l'IA générative en local.

Avez-vous déjà expérimenté avec des modèles d'IA en local ? Quelles applications vous intéressent particulièrement ? N'hésitez pas à partager vos expériences et questions dans les commentaires !

Commentaires  
Excellent article David... Je ne sais plus trop quoi faire maintenant de ma centrale nucléaire surdimensionnée par rapport à mes réels besoins quotidiens (16 GB VRAM, CPU 12 coeurs, 64 GB RAM) depuis que j'ai un peu franchement laissé tomber les jeux vidéo depuis quelques temps (vivement les jeux unreal engine 5 qui commencent à pointer le bout de leur nez...), bah maintenant j'ai de quoi exploiter tout ça en mode 5 étoiles.

Petite question : existe-t-il un modèle pour le moment reposant sur l'IA générative de vidéo sur carte graphique AMD ? Il y en a une palanquée pour les cartes Nvidia, mais rien du tout pour AMD (sauf sur linux). J'avais trouvé une IA en cloud avec Runway, mais vue la nouveauté de ton article, je me gratte un peu le cibouleau (pour ne pas dire autre chose) pour connaître la pertinence de ce site dont les données sont gérées en externe...

A+
Bonjour Nico
Je vais essayer de te faire une réponse complète car le sujet est vraiment vaste ?

Déjà, pourquoi Nvidia domine ce domaine ?
La majorité des modèles d’IA générative visuelle (diffusion, vidéo, image, 3D) reposent sur CUDA, l’API propriétaire de Nvidia, avec une énorme compatibilité logicielle (PyTorch, TensorFlow, Stable Diffusion, AnimateDiff, etc.).
AMD a bien ROCm, son équivalent open source, mais :
- Il est moins mature sur Windows (voire inutilisable pour certains frameworks).
- Il n’est pas encore supporté nativement par la plupart des outils d’IA générative grand public.

IA générative vidéo en local avec GPU AMD
Ce qui fonctionne à peu près :
Sur Linux uniquement : certaines versions de Stable Diffusion ou AnimateDiff (ou leurs forks) peuvent être exécutées avec ROCm. Mais c’est souvent instable, nécessite des bidouilles (Docker, compilation manuelle), et surtout, ça dépend fortement de la version de la carte AMD.

Sur Windows :
Il n’existe actuellement aucun modèle grand public de génération vidéo (type video-to-video ou text-to-video) tournant efficacement en local avec une carte AMD.

Même des outils comme ComfyUI, pourtant flexibles, bloquent sur le backend CUDA pour les pipelines vidéo.

Alternatives cloud
Tu as mentionné Runway : c’est l’un des plus connus, avec Pika, Synthesia, Genmo, Kapwing AI Video, Luma AI, Sora (OpenAI), etc.

Ce sont des solutions SaaS :
- Pratiques pour tester des idées rapidement.
- Problème évident de confidentialité : ce que tu uploades ou tapes peut être analysé pour le fine-tuning de leurs modèles.
- Usage gratuit est souvent bridé ou watermarké.

Pistes à surveiller
Voici quelques projets et outils open source qui pourraient changer la donne, à suivre de près, avec AMD :
- Diffusers (Hugging Face) -> En théorie compatible avec AMD, mais dépend du backend PyTorch ROCm, et supporté uniquement sur Linux.
- ComfyUI ROCm fork -> Très expérimental, quelques scripts tournent sur AMD, et supporté sur Linux uniquement.
- Forge / Shark (Stable Diffusion) -> Certains essais fonctionnent sur SD 1.5 mais pas encore sur AnimateDiff. Compatible Windows et Linux
- DirectML (Microsoft) -> Potentiel sur AMD mais encore peu exploité par les modèles vidéo. Compatible Windows

En résumé
En local sur Windows avec une carte AMD, il n’y a pas encore de solution fluide pour générer de la vidéo avec des modèles IA.

Sur Linux, avec ROCm et pas mal de bricolage, certains projets peuvent fonctionner.
A tester avec une machine virtuelle si cela t'intéresse ;)

Pour l’instant, les solutions cloud restent les plus accessibles — à condition d’accepter les compromis sur la vie privée et l’accès aux données.
re David :-)
Merci pour le debriefing !
"Sur Linux, avec ROCm et pas mal de bricolage, certains projets peuvent fonctionner.
A tester avec une machine virtuelle si cela t'intéresse ;) "

--> Par 35°C à l'ombre en prévision cet été et tout le monde à la plage, ça sera sans moi !! :D
Eventuellement l'hiver pour faire chauffer ma pièce de 20 m2 si Football Manager 2026 (moteur unity) n'est toujours pas sorti début novembre...
Bonne vacances à toi !
En attendant ta réponse au retour, j'ai essayé avec l'IA de faire tourner plusieurs scripts python sur la base d'une image pour construire une video de 10s. Cependant, même avec moviepy et d'autres bibliothèques, le résultat n'est pas DU TOUT satisfaisant (mais alors vraiment pas du tout...). L'IA m'a parlé de FFmpeg avec accélération AMD AMF, sous Windows pour pouvoir utiliser ma 7600XT (et non pas uniquement mon processeur), je vais essayer de creuser de ce côté là également... vu que j'ai claqué mes 125 pauvres petits crédits sur Runway !! (et que ça me ferait bien mal au sexe de payer par mois un résultat dont je n'ai besoin qu'une seule fois).
+1
c'est bon j'ai trouvé mon graal...
https://community.amd.com/t5/ai/experience-amd-optimized-models-and-video-diffusion-on-amd-ryzen/ba-p/756925
Merci beaucoup pour ce partage !
Je suis sûr que cela sera utile à d'autres ?