Comment essayer les modèles Qwen 2.5 d’Alibaba?

Le 19 septembre 2024, l’équipe Qwen d’Alibaba a lancé Qwen 2.5, une famille de modèles de langage que vous pouvez télécharger et faire tourner vous-même. Ce sont des modèles à poids ouverts (open weights) : les nombres entraînés qui constituent le modèle (ses poids) sont publiés, si bien que n’importe qui peut le faire tourner sur son propre matériel, sans compte et sans frais par message. La famille compte sept tailles, de 0,5 milliard à 72 milliards de paramètres (les valeurs ajustables qu’un modèle apprend pendant l’entraînement; plus il y en a, plus le modèle est habituellement performant, mais aussi lourd).

En plus des modèles généraux, l’équipe a lancé Qwen2.5-Coder pour la programmation et Qwen2.5-Math pour les mathématiques. Les modèles généraux peuvent lire jusqu’à 128 000 jetons de contexte, écrire jusqu’à environ 8 000 jetons en une réponse, et sont présentés comme prenant en charge plus de 29 langues, dont l’anglais et le français.

Choisissez une taille que votre ordinateur peut supporter

Un modèle doit tenir dans la mémoire de votre ordinateur pour tourner à une vitesse utilisable. Ollama stocke la plupart des modèles sous une forme compressée appelée quantification, qui arrondit les poids à moins de chiffres pour réduire beaucoup la taille des fichiers, avec une perte de qualité modeste. Voici les tailles de téléchargement par défaut dans la bibliothèque d’Ollama ce mois-ci :

Votre ordinateur a besoin de mémoire libre au-delà de la taille du fichier lui-même, pour la conversation et le programme qui fait tourner le modèle. Si les réponses se traînent un mot à la fois, descendez d’une taille.

Faites-le tourner avec Ollama en trois étapes

1. Téléchargez et installez Ollama à partir de ollama.com.
2. Ouvrez un terminal (Terminal sur un Mac, PowerShell sous Windows) et tapez ollama run qwen2.5. Le premier lancement télécharge le modèle 7B; les lancements suivants démarrent en quelques secondes.
3. Tapez une question à l’invite. Tapez /bye pour quitter.

Pour essayer une autre taille, ajoutez son étiquette, par exemple ollama run qwen2.5:3b. Tout tourne sur votre propre machine : votre texte ne la quitte jamais. Les modèles locaux sont donc un bon choix pour les brouillons que vous préférez ne pas envoyer à un service en ligne.

Si vous programmez, l’annonce de Qwen montre aussi la voie Hugging Face. Les fichiers des modèles portent des noms comme Qwen/Qwen2.5-7B-Instruct, et la bibliothèque Transformers (la trousse d’outils Python de Hugging Face pour faire tourner des modèles) peut les charger en quelques lignes. « Instruct » désigne la version ajustée pour suivre des consignes et converser; les versions « base » sont les modèles préentraînés bruts, destinés à un entraînement supplémentaire.

Vérifiez la licence avant de bâtir dessus

Les licences diffèrent selon la taille. Tous les modèles ouverts Qwen 2.5 utilisent la licence Apache 2.0, une licence permissive qui autorise l’usage commercial, sauf les versions 3B et 72B, qui utilisent la licence Qwen d’Alibaba. La page d’Ollama reprend la même répartition. Si vous prévoyez d’utiliser un modèle dans un produit ou pour un client, ouvrez le fichier de licence dans le dépôt Hugging Face de cette taille et lisez-le, ou choisissez l’une des tailles sous Apache, comme 7B ou 14B.

Un test bilingue concret

Un test équitable utilise les mêmes tâches dans les deux langues, sur le genre de travail que vous faites vraiment. Voici une courte série que vous pouvez coller une question à la fois dans ollama run qwen2.5 :

1. Explain in three sentences what a heat pump does, for a homeowner with no technical background.
2. Explique en trois phrases ce que fait une thermopompe, pour un propriétaire sans connaissances techniques.
3. Translate into natural Canadian French: "Our office will be closed on Monday for Thanksgiving. Online orders will ship on Tuesday."
4. Rédige un courriel poli de quatre lignes pour reporter un rendez-vous à jeudi prochain.
5. Answer only in French: what is the capital of Australia, and why is it not Sydney?

Notez chaque réponse de 1 à 3 sur trois points : est-elle exacte, la langue est-elle naturelle, et a-t-elle respecté les consignes (longueur, langue, ton)? Une petite grille de notation permet de comparer facilement les tailles, ou de comparer Qwen avec un autre modèle local que vous utilisez déjà.

Que valent-ils en anglais et en français?

En anglais, Qwen 2.5 est solide pour sa taille. Alibaba rapporte des scores supérieurs à 85 sur MMLU (un test général de connaissances) et HumanEval (un test de programmation), et supérieurs à 80 sur MATH, pour ses meilleurs modèles. Ce sont des bancs d’essai en anglais qui portent sur les plus grandes versions : attendez-vous à moins de la part des modèles 3B et 7B, même si l’équipe souligne que ses petits modèles se sont beaucoup améliorés. L’équipe rapporte aussi un meilleur respect des consignes, une meilleure gestion des tableaux et une sortie JSON plus fiable, ce qui compte pour les tâches pratiques.

Le français figure sur la liste officielle des langues prises en charge, mais les chiffres mis en avant dans l’annonce ne mesurent pas la rédaction en français : la preuve la plus utile reste donc votre propre test. Attendez-vous à ce que les plus grandes tailles fassent nettement mieux que les petites. Les petits modèles ont tendance à trébucher de façon prévisible dans une langue seconde : un anglicisme, une tournure raide, un mot du français d’Europe là où un lecteur québécois en attend un autre (ou l’inverse), ou un retour soudain à l’anglais dans une longue réponse. Demandez la variété que vous voulez (« en français québécois ») et vérifiez le résultat.

Pour tout ce qui est publié ou envoyé à des clients, traitez le français d’un modèle local comme le premier jet rapide d’un collègue : utile pour gagner du temps, mais à faire relire par une personne qui maîtrise la langue avant l’envoi.