Comment faire tourner un modèle d’IA sur votre propre ordinateur en 2026?

Faire tourner un modèle en local veut dire que l’IA travaille sur votre propre machine : rien de ce que vous tapez n’en sort, elle fonctionne hors ligne et il n’y a pas de facture mensuelle. L’installation est devenue routinière. Un logiciel gratuit télécharge un modèle à poids ouverts (un modèle dont les nombres appris à l’entraînement sont publiés pour que tout le monde puisse s’en servir), le charge en mémoire et vous offre une fenêtre de clavardage ou une API locale. La difficulté n’est plus d’installer quoi que ce soit. C’est de choisir un modèle qui convient à votre matériel.

Ce guide met à jour le guide du matériel de 2024 et la comparaison Ollama ou LM Studio proposés plus bas, avec ce qui a changé en date d’octobre 2026 : des fenêtres de contexte par défaut plus grandes, de meilleurs petits modèles et modèles de taille moyenne, et des conseils plus clairs de la part des outils eux-mêmes.

Les trois outils les plus utilisés

LM Studio est une application de bureau avec un catalogue de modèles et une fenêtre de clavardage, le point de départ le plus simple pour la plupart des gens. En octobre 2026, sa documentation demande un Mac à puce Apple (M1 à M4) sous macOS 14 ou plus récent, ou un PC Windows ou Linux. Elle recommande 16 Go de mémoire vive et, sous Windows, au moins 4 Go de mémoire graphique dédiée. Un Mac de 8 Go fonctionne quand même si vous vous en tenez à de petits modèles et à des conversations courtes.

Ollama tourne en arrière-plan et se pilote à partir d’une petite application ou du terminal (ollama run <model>). Il convient aux personnes qui veulent que d’autres logiciels, comme un assistant de programmation, parlent à un modèle local.

llama.cpp est le moteur qui se trouve sous plusieurs de ces outils. On l’utilise directement quand on veut contrôler chaque réglage.

Les trois lisent le même genre de fichier, habituellement GGUF, un format qui stocke les poids sous forme compressée avec l’information nécessaire pour les exécuter.

Un exemple concret : ce qui convient à votre machine

La règle de base est simple : le fichier du modèle doit tenir dans la mémoire rapide, avec de la marge. Sur un PC, la mémoire rapide est la VRAM de votre carte graphique. Sur un Mac à puce Apple, le processeur et la partie graphique partagent une seule réserve de mémoire unifiée, et le système en garde une partie pour lui-même.

Le projet llama.cpp publie des tailles mesurées. Un modèle Llama 3.1 de 8 milliards de paramètres occupe environ 15 Gio en pleine précision 16 bits, mais seulement environ 4,6 Gio dans le format populaire Q4_K_M; la version de 70 milliards passe d’environ 281 Go à 43 Go. À partir de ces chiffres, on peut estimer d’autres tailles au même niveau de 4 bits :

Les rangées du milieu sont des estimations (le nombre de paramètres multiplié par environ 0,6 octet chacun) : vérifiez donc la taille réelle du fichier sur la page du modèle avant de le télécharger. Gardez quelques gigaoctets libres pour la conversation, comme l’explique la section suivante.

Les étapes d’un premier essai dans LM Studio :

1. Ouvrez la recherche de modèles, tapez une famille de modèles que vous connaissez et choisissez une version marquée Q4_K_M dont la taille convient au tableau ci-dessus.
2. Chargez-la et posez une question dont vous connaissez la réponse.
3. Observez la vitesse. Si les mots apparaissent lentement, essayez le modèle plus petit suivant plutôt qu’un fichier de moindre qualité du même modèle.

Le contexte aussi demande de la mémoire

La fenêtre de contexte est la quantité de texte que le modèle peut garder en vue à la fois : votre question, la conversation précédente et tout document collé. Elle occupe de la mémoire à côté du modèle, si bien qu’un long contexte peut faire déborder un modèle qui « tient ».

Ollama règle désormais la valeur par défaut automatiquement selon votre mémoire graphique : environ 4 000 jetons sous 24 Gio de VRAM, 32 000 entre 24 et 48 Gio, et 256 000 au-delà. Sa documentation suggère au moins 64 000 jetons pour les agents, les outils de programmation et la recherche Web. Si vous augmentez ce réglage sur une machine plus modeste, attendez-vous à devoir prendre un modèle plus petit. La commande ollama ps montre comment un modèle chargé est réparti entre la carte graphique et le processeur. Toute valeur autre que 100 % GPU signifie qu’une partie du travail a débordé vers le processeur, plus lent, et Ollama conseille de l’éviter.

Que veulent dire la quantification et la VRAM pour ce que vous pouvez faire tourner?

La quantification stocke chaque poids avec moins de bits. Un modèle est entraîné avec 16 ou 32 bits par nombre; un fichier quantifié peut en utiliser environ 8, 5 ou 4,5. Le fichier rapetisse en proportion, et la génération devient habituellement plus rapide parce que moins de données doivent circuler dans la mémoire. Dans le propre test de llama.cpp sur le modèle de 8 milliards, le fichier en 4 bits écrivait environ 72 jetons par seconde, contre 29 pour l’original en 16 bits sur la même machine.

Le prix à payer est une petite perte de précision, que les développeurs de llama.cpp mesurent avec des statistiques comme la perplexité (à quel point le modèle est surpris par du vrai texte). Autour de 4 à 5 bits, la plupart des gens remarquent peu de différence dans les échanges courants. Sous environ 3 bits, les réponses se dégradent plus vite. Deux règles pratiques en découlent : un plus gros modèle en 4 bits bat habituellement un plus petit modèle en 8 bits pour la même mémoire, et il vaut mieux télécharger un fichier quantifié directement à partir des poids d’origine, car compresser de nouveau un fichier déjà compressé peut beaucoup nuire à la qualité.

La VRAM est le plafond. Si le modèle et son contexte tiennent dans la mémoire graphique (ou dans la part de mémoire unifiée que macOS laisse au GPU), il tourne à pleine vitesse. Sinon, l’outil refuse de le charger ou le partage avec le processeur principal, et la vitesse peut chuter de plusieurs fois. La question « puis-je faire tourner ce modèle? » veut donc vraiment dire « est-ce que son fichier quantifié, plus le contexte dont j’ai besoin, tient dans ma mémoire rapide? » Répondez-y avec la taille du fichier indiquée sur la page de téléchargement, et vous aurez rarement des surprises.