Qu’a vraiment publié Moonshot avec les poids de Kimi K3, et qui peut les faire tourner?

Hier, Moonshot AI a déposé les poids de Kimi K3 sur Hugging Face. Les poids sont le fichier de nombres appris qui constitue un modèle : tout le monde peut donc maintenant télécharger le modèle que Moonshot a lancé comme service hébergé le 16 juillet. Dans son billet de lancement, l’entreprise avait promis les poids au plus tard le 27 juillet, et elle a respecté cette date.

Moonshot présente K3 comme le premier modèle ouvert de la « classe 3T ». C’est aussi un test concret de ce que veut dire « ouvert ». Vous pouvez le télécharger, mais très peu d’organisations possèdent assez de matériel pour le faire tourner.

Ce qui a été publié

Le téléchargement comprend le modèle, sa configuration et son code, et un rapport technique se trouve sur GitHub. Voici les principaux chiffres de la fiche technique du modèle :

Un paramètre est l’un de ces nombres appris. K3 est un modèle à mixture of experts (mélange d’experts) : ses couches sont divisées en nombreux sous-réseaux, les experts, et un petit routeur en choisit quelques-uns pour chaque jeton. Un jeton est un petit morceau de texte, souvent une partie de mot. Ainsi, 104 milliards donne à peu près le coût de calcul par jeton, alors que 2,8 billions est ce qu’il faut stocker.

MXFP4 est un format compact de nombres sur 4 bits. Moonshot a tenu compte de ce format à l’entraînement dès l’étape supervisée, au lieu de compresser le modèle fini, ce qui explique que le téléchargement soit bien plus petit que ne le laisseraient croire 2,8 billions de paramètres.

Comment ça marche, et pourquoi la mémoire est l’obstacle

Imaginez une bibliothèque de 896 comptoirs de référence. Chaque question vous envoie à 16 d’entre eux : la visite est rapide, mais l’édifice doit quand même loger les 896. C’est le compromis d’un modèle clairsemé : peu de calcul par jeton, beaucoup de mémoire pour l’ensemble.

Faisons le calcul. Un fichier de 1,56 To sur des GPU de 80 Go chacun, une taille courante pour le H100 de NVIDIA, demande environ 20 cartes juste pour loger les poids, avant toute mémoire de travail pour la conversation. La recette vLLM, le guide d’installation de ce logiciel de service, indique au moins huit puces GB300, ou huit puces AMD MI355X ou MI350X, et recommande plusieurs machines pour un vrai trafic de production. The New Stack décrit une installation autohébergée réaliste comme huit serveurs ou plus, avec chacun huit accélérateurs H100 ou B200. Ces deux descriptions n’ont pas la même ampleur : prévoyez selon votre propre trafic et faites des tests.

Moonshot recommande trois moteurs de service : vLLM, SGLang et TokenSpeed. Le modèle réfléchit toujours avant de répondre. L’effort se règle à faible, élevé ou maximal, et le maximum est la valeur par défaut. Dans une conversation à plusieurs tours et les appels d’outils, il faut renvoyer tel quel tout le message de l’assistant, y compris son raisonnement.

Est-il bon?

Le tableau de Moonshot place K3 près des meilleurs modèles fermés à plusieurs tests, et derrière eux à d’autres. Son billet de lancement dit clairement que la performance globale reste derrière celle de deux modèles fermés, GPT-5.6 Sol et Claude Fable 5.

Lisez ces chiffres comme des affirmations. Les modèles n’ont pas tous utilisé le même harnais, le logiciel d’agent qui les entoure, et les notes précisent que certains résultats viennent de tiers. Un analyste de Morningstar, cité par The New Stack, a dit qu’il hésiterait à considérer K3 comme presque égal aux modèles de pointe américains pour le vrai travail.

Ce qui est contesté

La publication arrive avec une dispute. The New Stack rapporte qu’Anthropic et des responsables américains, dont le directeur de la politique technologique de la Maison-Blanche, Michael Kratsios, accusent Moonshot de distillation, c’est-à-dire d’avoir entraîné un modèle en partie sur les sorties d’un autre. La responsable des politiques publiques d’Anthropic parle de vol de propriété intellectuelle. Moonshot nie, et l’un de ses cadres attribue les gains de K3 à ses nouvelles conceptions de l’attention. Certains analystes se demandent si le temps écoulé depuis l’arrivée de Fable 5 permettait une distillation à grande échelle. Rien de cela n’est réglé publiquement : traitez-le comme une allégation ouverte. Les entreprises qui achètent de l’IA voudront quand même se demander quel effet cela a sur leurs risques de conformité et d’approvisionnement.

Une petite entreprise peut-elle utiliser Kimi K3 sans demander la permission à Moonshot?

En général, oui. La Kimi K3 License commence par une large permission d’utiliser, de modifier, d’ajuster finement et de vendre le logiciel, poids compris. Trois conditions suivent.

Remarquez que le critère de revenus de la section 2 compte tout le groupe, pas seulement le produit K3. Un fournisseur qui a 25 M$ de revenus sans lien avec K3 est visé dès qu’il exploite une activité de modèle comme service. Le simple relais de requêtes vers un modèle hébergé par quelqu’un d’autre ne compte pas.

Ce n’est donc ni MIT ni Apache 2.0, ni du code source ouvert au sens strict, puisque les conditions supplémentaires limitent certains usages commerciaux. Pour une petite équipe, la question la plus difficile est le coût. L’accès hébergé, chez Moonshot ou un fournisseur d’inférence, sera souvent plus sensé tant que votre volume ne justifie pas une grappe de serveurs.