Qu’est-ce que Llama 3.1 405B, et que change un modèle gratuit de taille frontière?

Hier, mardi 23 juillet 2024, Meta a lancé Llama 3.1, un nouvel ensemble de modèles de langage d’IA. La vedette est le plus grand, Llama 3.1 405B, qui compte 405 milliards de paramètres. Meta le décrit comme le premier modèle ouvert de niveau frontière, c’est-à-dire capable de se mesurer aux meilleurs systèmes d’OpenAI et d’Anthropic, et n’importe qui peut le télécharger.

C’est nouveau. Jusqu’ici, les modèles les plus performants étaient fermés : vous pouviez les utiliser par un site Web ou une API, mais jamais les avoir en main. Avec Llama 3.1, une entreprise, un laboratoire universitaire ou un développeur curieux peut garder le modèle entier sur ses propres serveurs, l’examiner et poursuivre son entraînement.

Ce que Meta a lancé

Le lancement comprend trois tailles, chacune avec une version de base et une version ajustée pour suivre des instructions, destinée à la conversation :

Les trois peuvent recevoir 128 000 jetons d’un coup. Un jeton est un mot ou un morceau de mot, et TechCrunch estime que cette fenêtre correspond à peu près à un livre de 50 pages. Les précédents Llama 3 8B et 70B, lancés en avril, s’arrêtaient à 8 000 jetons : c’est donc un grand bond. Les modèles fonctionnent en huit langues : anglais, espagnol, français, allemand, italien, portugais, thaï et hindi. Ils ne traitent que du texte; les chercheurs de Meta affirment que des modèles qui voient les images et entendent la parole sont en développement, mais pas encore prêts.

Les poids, le fichier de nombres appris qui constitue le modèle, sont sur llama.meta.com et Hugging Face. Des entreprises infonuagiques comme AWS, Microsoft Azure et Google Cloud offrent les modèles dès le jour du lancement, et les utilisateurs américains peuvent essayer 405B dans Meta AI sur WhatsApp et meta.ai.

Meta a aussi livré des outils de sécurité, Llama Guard 3 (qui vérifie si les prompts et les réponses contiennent du contenu nuisible, en plusieurs langues) et Prompt Guard (qui tente de détecter les injections de prompt), et a invité les développeurs à commenter une ébauche appelée Llama Stack, un ensemble d’interfaces standard pour bâtir sur Llama.

Comment il a été construit

Un modèle de langage apprend en lisant d’énormes quantités de texte et en devinant sans cesse le jeton suivant, en ajustant ses paramètres chaque fois qu’il se trompe. Meta a entraîné 405B sur plus de 15 000 milliards de jetons, avec plus de 16 000 puces Nvidia H100 (les processeurs graphiques utilisés pour l’entraînement de l’IA).

Meta a fait un choix délibéré en faveur de la stabilité : un transformeur à décodeur seul (decoder-only transformer) standard, la même architecture de base que la plupart des robots conversationnels, plutôt qu’un « mélange d’experts » (mixture of experts), qui divise un modèle en parties spécialisées. Après l’entraînement principal, Meta a mené plusieurs rondes de peaufinage. À chaque ronde, on montrait au modèle de bons exemples à imiter (ajustement fin supervisé), on gardait ses meilleures réponses et on écartait les plus faibles (échantillonnage par rejet), et on l’orientait vers les réponses que les gens préfèrent (optimisation directe des préférences). Une grande partie de ce matériel d’exercice était des données synthétiques, des exemples écrits par un modèle plutôt que par des personnes.

Les modèles sont aussi entraînés à appeler trois outils d’eux-mêmes : Brave Search pour les événements récents, le service Wolfram Alpha pour les mathématiques et les sciences, et un interpréteur Python pour tester du code.

Pour rendre 405B utilisable, Meta a réduit la précision de ses nombres de 16 bits à 8 bits, une étape appelée quantification. Imaginez qu’on arrondisse chaque prix d’un catalogue aux dix sous près : le catalogue devient beaucoup plus léger et les totaux changent à peine. Le modèle peut ainsi tourner sur un seul nœud de serveur, même s’il exige encore du matériel sérieux.

Est-il bon?

Meta affirme avoir testé les modèles sur plus de 150 bancs d’essai et avec des évaluateurs humains, et que 405B tient tête à GPT-4, Claude 3.5 Sonnet et GPT-4o. TechCrunch, en lisant l’article de recherche de Meta, donne un portrait plus nuancé : les évaluateurs humains l’ont jugé à égalité avec GPT-4, avec des résultats mitigés face à GPT-4o et Claude 3.5 Sonnet. Il fait mieux que GPT-4o pour exécuter du code et produire des graphiques, il est globalement plus faible dans les langues autres que l’anglais, et il traîne derrière Claude 3.5 Sonnet en programmation et en raisonnement général.

Pourquoi c’est important cette semaine

La licence a changé de façon importante. Les développeurs peuvent maintenant utiliser ce que Llama produit, y compris les réponses de 405B, pour entraîner d’autres modèles. Meta recommande même 405B surtout pour deux tâches : générer des données synthétiques et la distillation, où les réponses d’un grand modèle « enseignant » servent à entraîner un « élève » plus petit et moins coûteux. Certaines limites demeurent : toute application qui compte plus de 700 millions d’utilisateurs par mois doit demander une licence spéciale à Meta.

Dans une lettre ouverte publiée le même jour, Mark Zuckerberg a soutenu que les modèles ouverts répartissent plus largement les bienfaits de l’IA et empêchent le pouvoir de se concentrer entre quelques mains. Meta rapporte plus de 300 millions de téléchargements de modèles Llama jusqu’ici.

Des questions restent en suspens. Meta n’a pas dit exactement d’où venaient ses données d’entraînement, au-delà de pages Web et de fichiers publics, et TechCrunch note qu’aucun modèle de ce genre n’a réglé la tendance à affirmer des faussetés avec assurance.

Comment essayer Llama 3.1 vous-même?

Le plus simple est de clavarder avec lui. Aux États-Unis, Meta AI sur WhatsApp et sur meta.ai fonctionne avec Llama 3.1, et Meta suggère de tester 405B avec une question difficile de mathématiques ou de programmation.

Si vous voulez le faire tourner sur votre propre ordinateur, commencez par le modèle 8B. Les outils qui exécutent des modèles localement peuvent le charger sur un ordinateur portable récent, et rien de ce que vous tapez ne quitte votre machine. Le modèle 70B exige un poste de travail puissant, et 405B, un serveur; la plupart des gens y accèdent donc plutôt par un fournisseur infonuagique.

Quelle que soit la voie choisie, donnez au modèle un rôle et une tâche clairs, comme vous le feriez avec n’importe quel assistant :

Tu es un tuteur de mathématiques patient. Résous ce problème étape par étape, puis vérifie ta réponse en refaisant le calcul à l’envers : un train part à 9 h 40 et arrive à 13 h 15. Combien de temps dure le trajet?

Comme les poids vous appartiennent, un développeur peut aussi faire l’ajustement fin du modèle 8B ou 70B sur ses propres exemples, ou utiliser 405B pour créer des données d’entraînement pour un modèle plus petit adapté à une tâche précise.