# Ollama ou LM Studio : lequel est le plus facile pour faire tourner des modèles localement?

Date: 2024-04-26 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/ollama-ou-lm-studio-modeles-locaux/

**Answer:** LM Studio est plus facile si vous préférez cliquer plutôt que taper : c’est une application de bureau où vous cherchez un modèle, le téléchargez et clavardez dans une fenêtre. Ollama est plus facile si une commande dans le Terminal ne vous fait pas peur, et c’est le choix le plus léger pour relier des modèles locaux à d’autres programmes; les deux font tourner hors ligne, sur votre propre ordinateur, le nouveau Llama 3 de Meta.

Faire tourner un modèle de langage sur votre propre ordinateur signifie que vos prompts ne quittent jamais la machine, qu’il n’y a pas d’abonnement, et que tout continue de fonctionner sans connexion Internet. Une semaine après que Meta a publié Llama 3, deux outils gratuits rendent cela pratique pour les non-spécialistes : Ollama et LM Studio. Les deux téléchargent une copie compressée d’un modèle et la font tourner sur votre propre matériel. Ils diffèrent surtout par la façon dont vous leur parlez.

Ollama se pilote à partir du Terminal (la fenêtre de texte où vous tapez des commandes), avec une petite application en arrière-plan. LM Studio est une application de bureau complète, avec des menus, un navigateur de modèles et une fenêtre de clavardage. Voici comment faire tourner Llama 3 dans chacun, suivi d’une comparaison côte à côte.

## Llama 3 dans Ollama, pas à pas

Ollama offre maintenant un téléchargement pour Mac, une préversion pour Windows, un script d’installation d’une ligne pour Linux et une image Docker.

1. **Installer.** Téléchargez Ollama à ollama.com, installez-le et ouvrez-le une fois.
2. **Ouvrir le Terminal** (sous Windows, PowerShell ou l’invite de commandes).
3. **Lancer le modèle.** Tapez la commande ci-dessous. La première fois, Ollama télécharge la version de 8 milliards de paramètres, environ 4,7 Go, puis ouvre une invite de clavardage.

```
ollama run llama3
```

4. **Clavarder.** Tapez à l’invite `>>>` et appuyez sur Retour. Pour un message de plusieurs lignes, entourez-le de triples guillemets (`"""`).
5. **Faire le ménage plus tard.** `ollama list` affiche ce que vous avez téléchargé; `ollama rm llama3` supprime un modèle.

Si vous voulez une consigne permanente, le Modelfile d’Ollama vous permet de créer votre propre version de Llama 3 avec un message système et un réglage de température, puis de la lancer par son nom.

## Llama 3 dans LM Studio, pas à pas

LM Studio prend en charge les Mac à puce Apple (M1, M2, M3), les PC Windows et les machines Linux dont le processeur prend en charge AVX2, un jeu d’instructions courant sur les puces récentes.

1. **Installer.** Téléchargez le programme d’installation à lmstudio.ai et ouvrez l’application.
2. **Chercher.** Utilisez la case de recherche pour trouver « Meta-Llama-3-8B-Instruct ». La version de LM Studio Community, publiée moins d’un jour après la sortie de Meta, est un bon choix.
3. **Choisir un fichier.** Chaque modèle existe en plusieurs niveaux de compression, appelés quantifications. Les fichiers plus petits se chargent plus vite et utilisent moins de mémoire, mais perdent un peu de qualité. Une option de taille moyenne est un point de départ raisonnable.
4. **Charger et clavarder.** Ouvrez la vue de clavardage, sélectionnez le modèle en haut et vérifiez que le préréglage « Llama 3 » est choisi. Ce préréglage enveloppe vos messages dans le format spécial sur lequel Llama 3 a été entraîné.
5. **Définir un prompt système.** Celui par défaut est « You are a helpful AI assistant. » (Tu es un assistant IA serviable.) Remplacez-le par votre propre consigne si vous le souhaitez.

## Côte à côte

| | Ollama | LM Studio |
|---|---|---|
| Comment on l’utilise | Des commandes dans le Terminal, plus une petite application en arrière-plan | Une fenêtre de bureau avec des menus et un panneau de clavardage |
| Trouver des modèles | Des noms courts tirés de sa bibliothèque (`llama3`, `mistral`, `gemma:2b`) | Une case de recherche dans l’application |
| Choisir la compression | Une seule commande récupère une version prête à l’emploi | Vous choisissez le fichier vous-même |
| Vitesse | Dépend de votre ordinateur et de la taille du modèle | Même chose : dépend de votre ordinateur et de la taille du modèle |
| Confidentialité | Fonctionne hors ligne une fois le modèle téléchargé | Fonctionne hors ligne une fois le modèle téléchargé |
| Pour d’autres applications | API locale à `localhost:11434` | Serveur local au format d’OpenAI, `localhost:1234` par défaut |
| Coût | Gratuit | Gratuit |

Côté vitesse, aucun des deux outils n’a d’avantage intrinsèque qui justifie de choisir l’un plutôt que l’autre. Les deux reconnaissent leur dette envers le projet à code source ouvert llama.cpp, et la rapidité des réponses dépend surtout de votre processeur, de votre mémoire et de la taille du modèle. Côté confidentialité, la règle est la même pour les deux : vos conversations restent sur votre ordinateur, mais lisez les conditions et les paramètres de chaque outil si vous traitez du contenu confidentiel.

La vraie différence, c’est le confort. Si le Terminal vous rend mal à l’aise, LM Studio élimine cet obstacle. Si vous voulez quelque chose de léger que d’autres programmes peuvent appeler, Ollama se configure plus vite. Les développeurs peuvent utiliser l’un ou l’autre, puisque le serveur de LM Studio imite l’API d’OpenAI : du code écrit pour l’API de ChatGPT peut s’y connecter en changeant simplement l’adresse.

> **À essayer :** installez les deux outils et donnez le même prompt à Llama 3 dans chacun, par exemple « Explique ce qu’est une formule de tableur à quelqu’un qui n’en a jamais utilisé, en cinq phrases. » Comparez les réponses, puis essayez le même prompt avec un fichier moins compressé dans LM Studio et notez si la qualité change.

## Quel modèle essayer en premier?

Commencez par Llama 3 8B Instruct. « 8B » signifie huit milliards de paramètres, les réglages internes que le modèle a appris pendant l’entraînement, et « Instruct » signifie qu’il a été ajusté pour suivre des demandes et tenir une conversation. C’est la version que mettent en avant les deux outils, et dans Ollama, c’est un téléchargement de 4,7 Go. Le README d’Ollama suggère au moins 8 Go de mémoire vive pour les modèles de cette taille environ; vérifiez donc d’abord votre mémoire. Avoir plus que le minimum laisse de la place à vos autres applications.

Si votre ordinateur est plus ancien ou a peu de mémoire, essayez Gemma 2B (`ollama run gemma:2b`, 1,4 Go), un modèle beaucoup plus petit de Google, assez léger pour des machines modestes et très bien pour apprendre à utiliser les outils. Si vous voulez un deuxième avis de taille semblable, Mistral 7B (`ollama run mistral`, 4,1 Go) est une solution de rechange bien connue.

Gardez la version 70B de Llama 3 pour plus tard. C’est un téléchargement de 40 Go dans Ollama, et les recommandations de mémoire du README atteignent déjà 32 Go pour des modèles de moins de la moitié de sa taille. Le modèle 8B suffit pour apprendre comment se comporte l’IA locale, où elle est forte et où elle a encore besoin d’être vérifiée.

## Sources

- Ollama README (commit 928d844, April 23, 2024): https://github.com/ollama/ollama/blob/928d84489651288f06cf68f995b6f870948bd4fc/README.md
- LM Studio Documentation: Welcome and Local LLM Server: https://lmstudio.ai/docs/welcome
- Llama 3 8B Instruct by Meta (LM Studio Community model card): https://huggingface.co/lmstudio-community/Meta-Llama-3-8B-Instruct-GGUF/blob/0ebcf8cb99229090371da6c2a35c09a52e3e2bdd/README.md