Les articles paraissent d’abord en anglais. Leur version française suit, en commençant par le livre et les grands sujets.
Commencez par faire tourner un modèle ouvert déjà entraîné avec un outil gratuit comme Ollama ou llama.cpp, parce que cela vous montre ce que votre mémoire permet avant de dépenser quoi que ce soit.
Les trois offrent 64 Go ou plus de mémoire partagée dans un petit boîtier, et chargent donc des modèles qu’une seule carte graphique grand public ne peut pas contenir.
Bâtir votre propre modèle peut aller d’un exercice gratuit sur portable à une exécution de plusieurs centaines de milliers de dollars : choisissez donc selon votre objectif.
Achetez d’abord de la mémoire : 16 Go font tourner de petits modèles, 32 Go les meilleurs modèles de programmation actuels de 27 milliards de paramètres, et 128 Go des modèles de plus de 100 milliards.
L’électricité est la petite part : quatre heures par jour coûtent environ 1 $ à 3 $ par mois sur un ordinateur à mémoire partagée au Québec, et jusqu’à environ 11 $ sur un PC doté d’une grosse carte graphique.
Pour presque toute tâche pratique, utilisez le RAG pour les faits qui changent et l’ajustement fin pour un comportement constant; ensemble, ils coûtent peu.
Louez une machine à la minute, connectez-vous par SSH, clonez nanochat de Karpathy, faites un court modèle d’essai pour environ 3 $ US, puis exécutez le script complet pour environ 64 $ US sur huit GPU H100.
Aux prix de location relevés le 2 novembre 2026, un modèle de niveau GPT-2 coûte environ 64 $ US, une reproduction de 124 millions de paramètres avec nanoGPT environ 1 500 $ US, et un modèle compétent de 3…
Choisissez un petit modèle à poids ouverts de 3 à 8 milliards de paramètres, préparez de quelques centaines à quelques milliers d’exemples de l’entrée et de la sortie exactes que vous voulez, et entraînez un…
Une carte graphique de PC est bien plus rapide pour tout modèle qui entre dans sa mémoire, et presque tous les logiciels d’IA la visent d’abord.
Commencez par l’exemple nanoGPT d’Andrej Karpathy, qui entraîne en quelques minutes un modèle caractère par caractère sur Shakespeare avec un portable ordinaire, puis passez à son projet nanochat, qui exécute…
En octobre 2026, les deux meilleurs modèles de programmation qui tiennent sur une seule machine à la maison sont Qwen3.8-27B, d’Alibaba, et Muse Glimmer-30B, de Meta, tous deux sous la licence permissive…
Emballez les poids dans un format sûr avec une configuration, une version et une empreinte, vérifiez qu’ils donnent les mêmes nombres que le point de contrôle d’entraînement, puis enveloppez le tout dans un…
Faites quatre vérifications peu coûteuses : la première perte par rapport à ce que le hasard devrait donner, la capacité du modèle à mémoriser 16 exemples, la taille des gradients et l’endroit où passe le…
Pour les images, entraînez un petit modèle de diffusion, ajoutez un adaptateur de faible rang et montrez-lui une trentaine d’images du nouveau style; pour la parole, enseignez des commandes à un petit réseau…
Multipliez les paramètres en milliards par le nombre de bits par poids, puis divisez par 8 : vous obtenez la taille du fichier en gigaoctets.
Un téléphone récent peut faire tourner des modèles d’environ 2 à 4 milliards de paramètres à une vitesse utile, assez pour les résumés, la réécriture, la dictée et les questions courtes.
Entraînez sur des exemples de demandes et d’appels d’outils, testez sur des formulations et des valeurs jamais vues, puis faites valider chaque appel par du code ordinaire, qui retient les appels risqués pour…
Entraînez sur des paires où les faits varient et où seul le style se répète, incluez les cas étranges comme les valeurs manquantes, puis vérifiez chaque ébauche avec un simple programme qui la compare à la…
Adaptez un modèle pour lui enseigner un comportement, comme un format de sortie fixe, et utilisez une recherche pour les faits.
Rassemblez quelques centaines d’exemples de l’entrée et de la sortie exactes que vous voulez, puis entraînez un petit adaptateur LoRA par-dessus un modèle à poids ouverts gelé, avec les bibliothèques TRL et…
Transformez chaque passage et chaque question en plongement avec un petit modèle ouvert, renvoyez les passages les plus proches, puis testez le tout avec des questions dont vous connaissez la bonne réponse.
Exécuter un modèle exige surtout de la place pour ses poids, alors que l’entraîner exige aussi un gradient par poids, deux copies de plus pour l’optimiseur et toutes les activations à conserver pour la passe…
Un modèle dense utilise tous ses paramètres pour chaque jeton, alors qu’un mélange d’experts n’en utilise qu’une petite fraction, ce qui lui donne plus de capacité pour un même calcul par jeton.
Il commence sans rien savoir, et sa première perte le prouve en correspondant au calcul du pur hasard, puis il apprend les lettres, les mots courants et enfin quelque chose qui a la forme de phrases.
Un classeur donne une étiquette par image, alors qu’un détecteur transforme le même genre de réseau en une grille où chaque cellule dit si un objet y est centré, où est sa boîte et ce que c’est.
Comparez l’ancien et le nouveau sur le même jeu de test intact, comptez les exemples que chacun est seul à réussir, placez un intervalle de confiance sur la différence et répétez avec d’autres graines.
Partez de la décision que le modèle doit prendre, puis réunissez des exemples d’usage réel que vous avez le droit d’utiliser, retirez les renseignements personnels et les doublons, et notez la provenance de…
Lancez un programme serveur comme Ollama, llama-server ou vLLM : il répondra à une adresse locale avec le même format de requête que l’API d’OpenAI, et la plupart des applications n’auront besoin que d’une…
Les paramètres sont les nombres que le modèle a le droit de modifier, la perte est un seul nombre qui dit à quel point il se trompe, et l’apprentissage est la poussée répétée de chaque paramètre dans la…
Installez scikit-learn, chargez ses chiffres manuscrits intégrés et ajustez un petit réseau de neurones sur le processeur : avec un seul fil d’exécution, il a fallu moins d’une demi-seconde pour atteindre…
Entraînez un découpeur à codage par paires d’octets (BPE) : partez des 256 valeurs d’octets possibles, fusionnez sans cesse la paire voisine la plus fréquente en un nouveau jeton et arrêtez à la taille de…
Choisissez un texte dont la licence convient à ce que vous prévoyez faire du modèle, puis nettoyez-le, retirez les doublons et les renseignements personnels, mélangez-le, réservez-en une partie pour la…
GGUF est un format de fichier, alors que Q4_K_M, MXFP4 et FP8 sont des façons de stocker chaque nombre sur moins de bits.
Vérifiez-le à quatre niveaux : la perte de validation, exprimée en bits par octet, montre s’il a appris à prédire un texte inédit; des prompts fixes montrent ce que cela donne en pratique; des bancs d’essai…
Le facteur décisif est la mémoire : le modèle entier doit tenir dans la mémoire de votre carte graphique (VRAM) ou, sur un Mac à puce Apple, dans sa mémoire unifiée, avec un peu de marge.
Ollama est un nouvel outil gratuit à code source ouvert, publié pour la première fois en aperçu préliminaire le 8 juillet 2023, qui télécharge et fait tourner des grands modèles de langage ouverts sur votre…
Vous compilez llama.cpp à partir de sa page GitHub, convertissez les fichiers du modèle LLaMA de Meta au format du programme, les réduisez à des nombres de 4 bits, puis lancez le modèle dans le terminal.
llama.cpp est un petit programme à code source ouvert, publié sur GitHub le 10 mars 2023 par Georgi Gerganov, qui fait tourner les modèles de langage LLaMA de Meta en C/C++ pur sur le processeur d’un…