Qu’est-ce qu’un modèle de langage, en mots simples?

Si vous avez déjà tapé un message sur un téléphone intelligent, vous avez déjà rencontré un petit modèle de langage. Quand vous écrivez « On se voit », le clavier propose « demain », « bientôt » ou « plus tard » au-dessus des lettres. Il n’a aucune idée de ce que vous comptez faire en fin de semaine. Il a simplement appris quels mots suivent souvent « On se voit » dans beaucoup de textes, et il vous montre les candidats les plus probables.

Un grand modèle de langage fait la même chose à une échelle beaucoup plus grande. Au lieu de quelques suggestions pour un court message, il possède une idée détaillée des mots qui peuvent suivre presque n’importe quel passage, d’une recette à un article de presse. GPT-2 d’OpenAI, présenté il y a un an cette semaine, en est l’exemple le plus connu : il a appris à partir d’environ 40 Go de texte du Web et contient 1,5 milliard de valeurs ajustables.

Ce que « modèle » veut dire ici

Dans la langue courante, un modèle est une petite copie de quelque chose, comme un modèle réduit de train. En informatique, un modèle est un ensemble de nombres et de règles qui saisit les régularités des données pour qu’un programme puisse faire des prédictions. Un modèle de langage saisit les régularités de la langue. Toute sa tâche peut s’énoncer en une ligne : étant donné les mots écrits jusqu’ici, estimer la probabilité de chaque mot suivant possible.

L’article sur GPT-2 décrit cela dans le langage des probabilités. Une probabilité est un nombre entre 0 et 1 (ou entre 0 % et 100 %) qui indique à quel point quelque chose est probable. Le modèle décompose une phrase en une chaîne de petites estimations, chacune conditionnée par tout ce qui précède. « Conditionnée par » veut simplement dire « en tenant compte de ». L’estimation qui suit « Le chat dort sur le » dépend de ces cinq mots, et pas seulement du dernier.

L’entraînement : apprendre à partir du texte seul

Pour apprendre ces régularités, GPT-2 a été entraîné sur du texte recueilli dans environ 8 millions de pages Web. L’entraînement est un long processus de pratique : le modèle lit un passage, prédit chaque mot suivant, compare son estimation avec le mot qui s’y trouvait vraiment, et ajuste légèrement ses nombres internes pour que le bon mot devienne plus probable la fois suivante. Répétez cela sur des milliards de mots, et les nombres finissent par refléter énormément de choses sur la grammaire, les faits, les styles et les sujets.

Personne n’a étiqueté ces données à la main. Le texte lui-même fournit les réponses, parce que chaque mot suivant est une question d’examen gratuite. C’est pourquoi les modèles de langage peuvent apprendre à partir d’aussi grandes quantités de textes bruts.

Une remarque sur les « mots » : GPT-2 ne lit pas vraiment des mots entiers. Il découpe le texte en morceaux appelés jetons (tokens), qui peuvent être un mot complet, une partie de mot ou un signe de ponctuation. Pour une première compréhension, raisonner en mots suffit.

Un exemple détaillé : une estimation à la fois

Supposons que nous donnions à un modèle le début d’une phrase :

Après une longue journée de travail, j’aime me détendre avec une tasse de

Le modèle attribue une note à chaque jeton qu’il connaît. Les nombres ci-dessous sont inventés pour l’illustration, et non mesurés sur GPT-2, mais ils montrent la forme de ce qui en ressort :

Remarquez trois choses. La liste est longue, parce que chaque mot du vocabulaire reçoit une note. Les notes totalisent 100 %. Et les meilleures réponses ont du sens parce que le modèle a vu d’innombrables phrases sur la détente autour d’une boisson.

Une fois un mot choisi, disons « thé », il est ajouté au texte et tout le processus recommence : « Après une longue journée de travail, j’aime me détendre avec une tasse de thé » devient maintenant l’entrée de l’estimation suivante. Un paragraphe n’est rien de plus que cette boucle répétée, et c’est pourquoi OpenAI peut montrer GPT-2 en train d’écrire plusieurs pages à partir d’une seule phrase de départ.

Ce que cela explique, et ce que cela n’explique pas

Voir le modèle comme un devineur du mot suivant explique à la fois ses forces et ses ratés étranges. Comme il a appris à partir de textes si nombreux et si variés, GPT-2 peut poursuivre un article de presse, un poème ou un message de forum dans un style approprié. L’annonce d’OpenAI le décrit comme un caméléon : il adopte le ton et le sujet de tout texte qu’on lui donne.

Cela explique aussi les erreurs. Le modèle a appris ce qui semble probable, pas ce qui est vrai. OpenAI cite parmi les défauts de GPT-2 les répétitions, les changements de sujet soudains et les erreurs de « modélisation du monde », comme écrire au sujet d’incendies qui brûlent sous l’eau. Il faut souvent plusieurs essais pour obtenir un bon échantillon, et sur des sujets techniques ou inhabituels, les résultats s’affaiblissent.

Comment un modèle choisit-il le mot suivant?

Une fois que le modèle a sa liste de probabilités, une étape distincte décide quel mot utiliser. La méthode la plus simple, appelée décodage glouton (greedy decoding), prend toujours le mot le plus probable. Elle est prévisible, mais elle a tendance à tourner en boucle et à répéter la même phrase.

L’autre approche est l’échantillonnage : choisir un mot au hasard, mais pondéré par les notes, de sorte que « thé » soit choisi plus souvent que « soupe » sans que « soupe » soit impossible. Cela donne un texte plus vivant, mais l’échantillonnage pur va parfois chercher loin dans la liste un mot étrange qui fait dérailler la phrase.

Les échantillons de GPT-2 utilisent une voie mitoyenne appelée échantillonnage top-k. Le modèle ne garde que les k mots les plus probables, écarte les autres et fait son tirage parmi ceux-là. L’article sur GPT-2 utilise k = 40 dans certaines parties de son analyse. Chaque choix devient ensuite une partie de l’entrée de l’estimation suivante, et c’est pourquoi la même phrase d’ouverture peut mener à des histoires assez différentes chaque fois qu’on relance le modèle.