# Que sont Llama 4 Scout et Maverick, et qu’est-ce qu’un modèle à mélange d’experts?

Date: 2025-04-06 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/qu-est-ce-que-llama-4/

**Answer:** Llama 4 Scout et Llama 4 Maverick sont les plus récents modèles d’IA à poids ouverts de Meta, lancés le 5 avril 2025, et les premiers modèles Llama conçus dès le départ pour comprendre les images autant que le texte et construits sur une architecture à mélange d’experts. Scout peut recevoir jusqu’à 10 millions de jetons d’un coup, Maverick est le nouveau modèle d’assistant généraliste de Meta, et un modèle enseignant beaucoup plus grand, Llama 4 Behemoth, est encore en entraînement.

Hier, le samedi 5 avril 2025, Meta a lancé les premiers modèles de sa famille **Llama 4**, qu’elle appelle « le troupeau Llama 4 ». Deux d’entre eux peuvent être téléchargés dès maintenant : **Llama 4 Scout** et **Llama 4 Maverick**. Un troisième, **Llama 4 Behemoth**, a été décrit, mais pas publié, parce qu’il est encore en entraînement.

Comme les modèles Llama précédents, Scout et Maverick sont à **poids ouverts** : Meta publie les fichiers du modèle entraîné, les « poids », pour que les développeurs puissent faire tourner les modèles sur leur propre matériel, les étudier et les adapter, selon les conditions de la licence de Meta. Cela les distingue de modèles comme GPT-4o ou Gemini, auxquels on n’accède que par les applications et les services de leurs créateurs.

## Ce que Meta a lancé

Voici les trois modèles côte à côte, selon les chiffres de Meta :

| Modèle | Paramètres actifs | Experts | Paramètres au total | Statut |
|---|---|---|---|---|
| Llama 4 Scout | 17 milliards | 16 | 109 milliards | Offert maintenant; lit jusqu’à 10 millions de jetons |
| Llama 4 Maverick | 17 milliards | 128 | 400 milliards | Offert maintenant; le modèle de Meta pour la conversation et le travail d’assistant |
| Llama 4 Behemoth | 288 milliards | 16 | près de 2 billions | Encore en entraînement; sert d’enseignant |

Les **paramètres** sont les nombres d’un modèle qui sont ajustés pendant l’entraînement; très grossièrement, plus de paramètres signifie plus de capacité d’apprentissage. Les colonnes « actifs » et « experts » demandent une petite explication, qui suit.

Les deux modèles offerts peuvent être téléchargés sur llama.com et sur Hugging Face, un site populaire de partage de modèles d’IA, et Meta affirme que des partenaires infonuagiques les offriront dans les prochains jours. Meta AI, l’assistant intégré à WhatsApp, Messenger, Instagram Direct et au site meta.ai, fonctionne maintenant avec Llama 4. TechCrunch rapporte que cela s’applique dans 40 pays, les fonctions liées aux images étant limitées à l’anglais aux États-Unis pour l’instant.

## Comment fonctionne un mélange d’experts

Les anciens modèles Llama étaient **denses** : chaque partie du modèle travaillait sur chaque mot. Llama 4 est la première architecture de Meta à **mélange d’experts** (*mixture of experts*, MoE).

Pensez à un grand hôpital. Un patient ne voit pas tous les médecins de l’établissement. Un comptoir d’accueil l’envoie vers le ou les deux spécialistes qui correspondent à son problème. L’hôpital possède une immense expertise combinée, mais chaque visite n’en utilise qu’une petite partie.

Dans Llama 4 Maverick, chaque jeton (un morceau de mot) est envoyé à un expert partagé qui voit tout, plus à l’un des 128 experts spécialisés choisi par une étape d’aiguillage. Ainsi, même si Maverick stocke 400 milliards de paramètres en mémoire, seulement 17 milliards environ servent pour un jeton donné. Meta affirme que cela rend les modèles moins coûteux et plus rapides à entraîner et à faire tourner qu’un modèle dense de qualité semblable.

## Des images et une très longue mémoire

Llama 4 est **nativement multimodal**. Plutôt que de greffer un lecteur d’images à un modèle de texte déjà terminé, Meta a utilisé ce qu’elle appelle la **fusion précoce** (*early fusion*) : les morceaux de texte et d’image entrent dans le même modèle dès le début de l’entraînement. Elle l’a entraîné sur plus de 30 billions de jetons de texte, d’images et de vidéo, couvrant 200 langues.

Le point fort de Scout est sa **fenêtre de contexte**, la quantité de matériel qu’il peut considérer d’un coup : 10 millions de jetons, contre 128 000 pour Llama 3. C’est assez, en principe, pour de nombreux longs documents ou un vaste code source en une seule requête. Meta suggère des usages comme résumer plusieurs documents ensemble, ou raisonner sur un vaste code source.

Behemoth sert d’**enseignant**. Meta a entraîné Maverick en partie en lui faisant apprendre des réponses de Behemoth, une technique appelée **distillation**, et rapporte que, sur certains tests de sciences et de mathématiques, Behemoth obtient de meilleurs résultats que Gemini 2.0 Pro, Claude 3.7 Sonnet et GPT-4.5.

## Comment ils se comparent, et les petits caractères

Meta affirme que Maverick bat GPT-4o et Gemini 2.0 Flash sur de nombreux tests courants et égale DeepSeek V3 en raisonnement et en programmation avec moins de paramètres actifs. TechCrunch note qu’il n’atteint pas des modèles plus récents comme Gemini 2.5 Pro, Claude 3.7 Sonnet ou GPT-4.5, et qu’aucun membre de la famille Llama 4 n’est un modèle de raisonnement comme o1, qui réfléchit avant de répondre.

La licence a ses limites. Les entreprises qui comptent plus de 700 millions d’utilisateurs par mois ont besoin de la permission de Meta, et TechCrunch rapporte que les personnes et les entreprises établies dans l’Union européenne n’ont pas le droit d’utiliser ni de distribuer les modèles. Meta affirme aussi avoir réglé Llama 4 pour qu’il refuse moins de questions sur les sujets politiques et sociaux controversés, passant de 7 % de ces prompts avec Llama 3.3 à moins de 2 %.

## Pourquoi c’est important

Le domaine des modèles ouverts est devenu encombré et rapide. TechCrunch rapporte que le succès des modèles ouverts de DeepSeek a poussé Meta à accélérer ses travaux. Llama 4 est la réponse de Meta : plus de capacité par unité de calcul, la compréhension des images intégrée et une fenêtre de contexte bien au-delà de celle de la plupart des concurrents. Pour les développeurs qui veulent faire tourner des modèles sur leurs propres serveurs, garder leurs données à l’interne ou personnaliser un modèle, c’est une nouvelle option importante.

> **À essayer :** ouvrez Meta AI dans WhatsApp ou sur meta.ai et donnez-lui la même tâche que vous donneriez à un autre assistant, comme résumer un long article que vous collez. Comparez les résumés pour leur exactitude et pour ce que chacun laisse de côté.

## Pouvez-vous faire tourner Llama 4 sur votre propre ordinateur?

Pour la plupart des gens, pas encore. Scout est le plus petit modèle, et Meta affirme qu’il tient sur une seule NVIDIA H100, une carte graphique de centre de données, seulement s’il est compressé par **quantification Int4**, une technique qui stocke les nombres du modèle avec moins de précision pour économiser de la mémoire. Maverick a besoin d’un serveur H100 complet. Ce sont des machines professionnelles, bien au-delà d’un portable ou d’un ordinateur de bureau ordinaire.

Il existe des voies plus simples. La plus rapide est Meta AI, dans des applications que vous utilisez peut-être déjà. Les développeurs peuvent aussi essayer les modèles par Hugging Face et, selon Meta, par des fournisseurs infonuagiques dans les prochains jours, en ne payant que ce qu’ils utilisent au lieu d’acheter du matériel.

Si vous téléchargez les poids, lisez d’abord la licence, surtout les règles qui visent les grandes entreprises et l’usage dans l’Union européenne. Voici un prompt pour un premier test de la longue mémoire de Scout :

```prompt
Voici trois rapports de différentes années. Lis-les tous, puis énumère les cinq
changements les plus importants entre le premier et le dernier, et cite la phrase
qui appuie chaque changement.
```

## Sources

- The Llama 4 herd: The beginning of a new era of natively multimodal AI innovation: https://ai.meta.com/blog/llama-4-multimodal-intelligence/
- Meta releases Llama 4, a new crop of flagship AI models: https://techcrunch.com/2025/04/05/meta-releases-llama-4-a-new-crop-of-flagship-ai-models/