Que sont Mistral Large et Le Chat, et pourquoi l’entente entre Microsoft et Mistral compte-t-elle?

Le 26 février 2024, l’entreprise française Mistral AI a lancé Mistral Large, son modèle de langage le plus performant, qu’elle classe au deuxième rang, derrière GPT-4 seulement, parmi les modèles offerts par une API, ainsi qu’un modèle plus petit, Mistral Small, et un assistant conversationnel en version bêta appelé Le Chat. Le même jour, Microsoft a annoncé un partenariat pluriannuel qui rend les modèles de Mistral accessibles dans son nuage Azure.

Que sont Mistral Large et Le Chat, et pourquoi l’entente entre…

Hier, le 26 février 2024, Mistral AI, la jeune pousse parisienne connue pour ses petits modèles ouverts, a fait trois annonces d’un coup. Elle a lancé Mistral Large, son modèle le plus avancé. Elle a ouvert une version bêta du Chat, son propre assistant conversationnel. Et Microsoft a annoncé un partenariat pluriannuel qui amène les modèles de Mistral sur sa plateforme infonuagique Azure.

Jusqu’ici, Mistral était surtout connue des développeurs pour Mistral 7B et Mixtral 8x7B, des modèles que tout le monde peut télécharger. Mistral Large est différent : c’est un modèle commercial que vous utilisez par le service de Mistral ou par Azure, pas un modèle que vous téléchargez librement.

Ce que Mistral a lancé

Voici les annonces de la journée en un seul tableau :

Annonce	Ce que c’est	Où l’utiliser
Mistral Large	Le modèle de texte phare de Mistral pour le raisonnement complexe, le travail multilingue et le code	la Plateforme (l’API de Mistral), Azure, Le Chat
Mistral Small	Un nouveau modèle optimisé pour la vitesse et un coût moindre	la Plateforme, Le Chat
Le Chat	Un assistant conversationnel gratuit en version bêta pour essayer les modèles de Mistral	Le site de Mistral, après inscription comme utilisateur bêta
Le Chat Enterprise	Une version pour les entreprises, avec auto-déploiement et des contrôles de modération plus fins	Sur demande
Partenariat avec Microsoft	La puissance de calcul d’Azure pour Mistral; les modèles de Mistral vendus par Azure	Azure AI Studio et Azure Machine Learning

La Plateforme est le service de Mistral pour les développeurs, hébergé sur son infrastructure en Europe. Une API, ou interface de programmation d’applications, est la connexion qui permet à un programme d’envoyer du texte au modèle et de recevoir sa réponse.

Quelle est la performance de Mistral Large?

Mistral affirme que, sur MMLU, un test très utilisé de connaissances générales et de raisonnement qui couvre des dizaines de matières scolaires et universitaires, Mistral Large se classe au deuxième rang des modèles offerts par une API, derrière GPT-4 d’OpenAI seulement. Son graphique comparatif le place devant Claude 2 d’Anthropic, Gemini Pro 1.0 de Google, GPT-3.5 d’OpenAI et Llama 2 70B de Meta à ce test. Ce sont les propres chiffres de Mistral : des tests indépendants seront donc importants.

Les caractéristiques qui ressortent :

Les langues. Mistral dit que le modèle maîtrise nativement cinq langues, l’anglais, le français, l’espagnol, l’allemand et l’italien, y compris leur grammaire et leurs nuances culturelles. Elle fait état de résultats nettement meilleurs que ceux de Llama 2 70B aux tests dans ces quatre langues européennes.
La fenêtre de contexte. Il peut considérer 32 000 jetons d’un coup, à peu près un long rapport. Un jeton est un petit morceau de texte, souvent une partie de mot.
L’appel de fonctions (function calling). Le modèle peut demander au logiciel d’un développeur d’exécuter un outil, comme chercher une commande dans une base de données, puis utiliser le résultat dans sa réponse.
Le mode JSON. On peut l’obliger à répondre en JSON valide, un format de données structurées que d’autres programmes lisent facilement.

Mistral Small offre le même appel de fonctions et le même mode JSON avec une latence plus faible, c’est-à-dire qu’il commence à répondre plus vite, et il coûte moins cher. Mistral affirme qu’il surpasse son propre Mixtral 8x7B.

Ce qu’est Le Chat

Le Chat, dont le nom fait référence à l’animal, est la réponse de Mistral à ChatGPT. Mistral le présente comme une démonstration de ce qu’on peut bâtir avec ses modèles, et comme une façon accessible, voire ludique, de les explorer. Vous pouvez choisir le modèle qui répond : Mistral Large, Mistral Small ou un prototype appelé Mistral Next, conçu pour donner des réponses brèves et concises.

Deux détails sont bons à savoir. Le Chat ne peut pas faire de recherches sur Internet : ses réponses peuvent donc être inexactes ou dépassées. Et il utilise un système de modération réglable qui vous avertit, sans arrêter la conversation, quand une discussion glisse vers du contenu sensible ou controversé. Mistral dit s’être servie de la précision avec laquelle Mistral Large suit les consignes pour mettre en place cette modération.

Le partenariat avec Microsoft

Le blogue Azure de Microsoft décrit le partenariat en trois volets :

La puissance de calcul. Mistral obtient l’accès à l’infrastructure de superordinateurs d’IA d’Azure pour entraîner et faire tourner ses modèles.
La distribution. Les modèles haut de gamme de Mistral sont vendus aux clients d’Azure dans les catalogues de modèles d’Azure AI Studio et d’Azure Machine Learning, à côté des modèles d’OpenAI et d’autres. Mistral Large est d’abord offert sur Azure et sur la plateforme de Mistral.
La recherche. Les deux entreprises exploreront l’entraînement de modèles conçus sur mesure pour certains clients, notamment pour des travaux du secteur public européen.

Microsoft offre Mistral 7B dans son catalogue de modèles depuis novembre. Mistral décrit Azure comme son premier partenaire de distribution. Pour les clients qui ont besoin d’un contrôle total, Mistral offre aussi l’auto-déploiement, avec accès aux poids des modèles, sur leurs propres systèmes.

Pourquoi c’est important

Mistral Large montre une entreprise européenne qui rivalise près du sommet du domaine moins d’un an après sa fondation, et l’entente avec Azure lui donne accès à la vaste clientèle d’affaires de Microsoft. Pour les entreprises, c’est une autre option solide, particulièrement forte dans les langues européennes, avec le choix de garder les données sur l’infrastructure européenne de Mistral.

C’est aussi un changement pour Mistral. Son nouveau modèle phare, de même que Mistral Small, n’est offert que par son service et ses partenaires, tandis que ses modèles à poids ouverts restent accessibles. Les développeurs qui tiennent aux téléchargements ouverts surveilleront la façon dont Mistral équilibrera les deux.

À essayer : posez la même question en anglais et en français, ou en espagnol, en allemand ou en italien, dans Le Chat avec Mistral Large sélectionné. Par exemple : « Explique en cinq phrases comment fonctionne une thermopompe. » Comparez la clarté des deux réponses.

Comment essayer Mistral Large et Le Chat?

La façon la plus simple est Le Chat. Inscrivez-vous comme utilisateur bêta sur le site de Mistral, choisissez Mistral Large dans le menu des modèles et commencez par des tâches de tous les jours : un résumé, une ébauche de courriel, une explication. Comme il ne peut pas naviguer sur le Web, donnez-lui le texte sur lequel vous voulez qu’il travaille, et vérifiez les faits vous-même.

Les développeurs peuvent créer un compte sur la Plateforme et appeler les nouveaux points de terminaison, mistral-large-2402 et mistral-small-2402, puis tester l’appel de fonctions et le mode JSON sur une vraie tâche. Les clients d’Azure peuvent trouver Mistral Large dans le catalogue de modèles d’Azure AI Studio et se connecter avec leur abonnement Azure. Mistral demande aux utilisateurs du clavardage comme de l’API de lui faire part de leurs commentaires pendant que les produits sont nouveaux.