Qu’est-ce que DeepSeek-V3.2, et comment l’attention clairsemée rend-elle les longs textes moins coûteux?

Hier, le lundi 1er décembre 2025, le laboratoire chinois d’IA DeepSeek a lancé deux modèles : DeepSeek-V3.2, désormais le modèle par défaut de son application, de son site Web et de son API, et DeepSeek-V3.2-Speciale, une variante réglée pour un raisonnement maximal, offerte pour l’instant seulement par l’API. Les deux sont à poids ouverts : les fichiers du modèle entraîné sont publiés sur Hugging Face, si bien que toute personne qui dispose d’un matériel suffisant peut les télécharger et les faire tourner.

V3.2 est la version finale de V3.2-Exp, un modèle expérimental que DeepSeek a publié à la fin de septembre pour mettre à l’essai une nouvelle façon de lire les longs textes. Avec ce lancement, cette technique passe de l’expérience au produit principal.

Ce que DeepSeek a lancé

DeepSeek décrit les deux modèles ainsi :

Speciale a obtenu un résultat de niveau médaille d’or à deux concours étudiants de 2025, l’OIM en mathématiques et l’IOI en programmation, et DeepSeek cite aussi des résultats à l’olympiade nationale de mathématiques de la Chine et à la finale mondiale du concours de programmation ICPC. The Decoder rapporte qu’il s’est classé dixième à l’IOI et deuxième à la finale mondiale de l’ICPC.

V3.2 est aussi le premier modèle de DeepSeek capable de réfléchir tout en utilisant des outils. Un outil, ici, est quelque chose que le modèle peut appeler, comme une recherche Web ou un exécuteur de code. Concrètement, V3.2 peut raisonner, appeler un outil, lire le résultat et continuer à raisonner dans une même réponse, et il peut aussi utiliser des outils dans son mode plus rapide, sans réflexion.

Comment fonctionne l’attention clairsemée

Pour comprendre le changement principal, partons de l’attention, l’opération centrale d’un transformeur, l’architecture derrière presque tous les modèles de langage modernes. Le texte est découpé en jetons, de petits morceaux de mots. Quand le modèle produit chaque nouveau jeton, l’attention lui permet de regarder en arrière tous les jetons précédents et de décider lesquels comptent.

Ce regard complet en arrière coûte cher. Si le texte est deux fois plus long, chaque jeton a deux fois plus d’éléments à regarder, et il y a deux fois plus de jetons, donc le travail est à peu près multiplié par quatre. Les chercheurs l’écrivent O(L²), où L est la longueur. Pour un document de 128 000 jetons, le coût grimpe vite.

La DeepSeek Sparse Attention (DSA), ou attention clairsemée de DeepSeek, ajoute un raccourci en deux étapes :

1. Un petit composant rapide, appelé indexeur éclair (lightning indexer), donne à chaque jeton précédent une note rapide de pertinence par rapport au jeton en cours.
2. Le modèle ne porte ensuite toute son attention qu’aux jetons les mieux notés, 2 048 dans la configuration d’entraînement de DeepSeek, et ignore les autres.

Une analogie : au lieu de relire un livre entier chaque fois que vous écrivez la phrase suivante d’un résumé, vous consultez l’index, ouvrez les quelques pages qui comptent et les lisez attentivement. L’indexeur jette tout de même un coup d’œil à tout, mais ce coup d’œil coûte très peu. Selon le rapport de DeepSeek, le coût principal de l’attention, au lieu de croître avec le carré de la longueur, croît avec la longueur multipliée par ce nombre fixe de jetons sélectionnés, ce qui accélère beaucoup le traitement des longs textes, alors que les tests n’ont montré aucune vraie perte de qualité par rapport à la version précédente.

Un entraînement pour le raisonnement et les agents

Le rapport technique nomme deux autres ingrédients. D’abord, DeepSeek a consacré plus de 10 % de la puissance de calcul de son préentraînement au post-entraînement, l’étape d’apprentissage par renforcement qui suit le premier apprentissage du modèle à partir de textes. The Decoder note que cette part était d’environ un pour cent il y a deux ans. Ensuite, pour apprendre au modèle à agir comme un agent, une IA qui poursuit un objectif en plusieurs étapes et avec des outils, DeepSeek a généré des tâches d’entraînement dans plus de 1 800 environnements, avec plus de 85 000 consignes complexes.

Voici le genre de tâche qui fait appel à la fois à un long texte et à l’utilisation d’outils :

Voici 30 transcriptions d’appels au soutien à la clientèle du mois dernier.
Trouve les cinq problèmes les plus fréquents, cite un court exemple de
chacun et utilise l’outil de code pour compter combien de transcriptions
mentionnent chaque problème. Présente les résultats dans un tableau.

Résultats et limites

Les chiffres de DeepSeek, tels que rapportés par The Decoder, placent V3.2 juste derrière GPT-5 (High) dans les concours de mathématiques et de programmation : 93,1 % contre 94,6 % à l’AIME 2025, un examen de mathématiques de compétition. Sur SWE Multilingual, un test qui consiste à corriger de vrais bogues dans plusieurs langages de programmation, V3.2 atteint 70,2 %, contre 55,3 % pour GPT-5. Gemini 3 Pro reste en tête dans la plupart des catégories.

DeepSeek parle ouvertement des écarts. Son rapport en énumère trois : les connaissances générales du modèle sont plus étroites que celles des meilleurs modèles propriétaires, parce qu’il a été entraîné avec moins de puissance de calcul au total; il est moins économe en jetons, et a souvent besoin de réponses plus longues pour égaler leur qualité; et il reste derrière eux sur les tâches les plus difficiles. Speciale montre bien ce compromis : The Decoder rapporte qu’il a utilisé en moyenne environ 77 000 jetons pour un problème de concours de programmation, contre environ 22 000 pour Gemini 3 Pro, ce qui explique pourquoi le V3.2 de tous les jours a des limites de longueur plus strictes.

Pourquoi c’est important

Le rapport de DeepSeek soutient qu’au cours des derniers mois, les modèles fermés, offerts seulement par les services de leurs concepteurs, ont creusé l’écart avec les modèles ouverts. V3.2 est une tentative de combler cet écart tout en gardant les coûts bas, et l’attention clairsemée rend moins coûteux le traitement de longs documents et de longues sessions d’agent. La publication des poids permet aussi à d’autres entreprises et à des chercheurs de l’étudier et de l’adapter.

Comment essayer DeepSeek-V3.2 et V3.2-Speciale?

Le moyen le plus simple est l’application ou le site Web de DeepSeek, où V3.2 est maintenant le modèle par défaut. Les développeurs peuvent l’utiliser par l’API de DeepSeek de la même façon que V3.2-Exp; l’API permet désormais la réflexion pendant l’utilisation d’outils.

Speciale n’est offert que par un point d’accès temporaire de l’API jusqu’au 15 décembre 2025, au même prix que V3.2 et sans appels d’outils. Il convient aux problèmes difficiles de mathématiques ou de programmation, quand vous pouvez vous permettre de longues réponses.

Si vous avez du matériel puissant, vous pouvez télécharger les deux modèles sur Hugging Face et les faire tourner vous-même. Comme pour tout modèle, vérifiez les réponses importantes, et rappelez-vous que les données saisies dans un service hébergé sont traitées sur les serveurs de cette entreprise; lisez ses conditions avant de communiquer quoi que ce soit de sensible.