Qu’est-ce qu’un prompt?

Chaque conversation avec ChatGPT commence par un prompt. Ce peut être un seul mot (« haïku? »), une pleine page de consignes, ou un document que vous collez avec une demande par-dessus. Quelle que soit sa forme, le prompt est la seule chose sur laquelle le modèle peut s’appuyer. Il ne sait pas qui vous êtes, pourquoi vous posez la question ni ce que vous comptez faire de la réponse, à moins que le prompt ne le lui dise.

C’est le point de départ de A Beginner’s Guide to ChatGPT, le livre que Robert Scales a publié cette semaine, et le premier article d’une courte série fondée sur sa méthode. L’idée centrale du livre est simple : la plupart des réponses décevantes viennent de prompts trop minces, et la plupart des bonnes réponses viennent de prompts qui donnent au modèle un rôle, du contexte, une tâche claire et un format attendu.

De quoi se compose un prompt

Voyez un prompt comme les consignes que vous remettriez à un nouveau collègue compétent à sa première journée. Il est vif et cultivé, mais il ne connaît rien de votre situation. De bonnes consignes couvrent habituellement quatre choses :

Vous n’aurez pas besoin des quatre chaque fois. Un fait rapide ou un synonyme n’en demande aucune. Mais quand une réponse revient générique, il manque presque toujours l’une de ces parties.

Les propres conseils d’OpenAI aux développeurs vont dans le même sens. Son centre d’aide recommande de placer la consigne en premier, de la séparer de tout texte à traiter, et d’être précis sur le contexte, le résultat, la longueur, le format et le style voulus. Il suggère aussi de montrer un exemple du format, puisque les modèles suivent plus fidèlement un modèle qu’ils peuvent voir qu’un modèle que vous vous contentez de décrire.

Un exemple avant-après

Le livre en fait la démonstration avec un voyage de camping : une simple demande d’activités pour la soirée donne une liste toute faite, alors qu’un scénario détaillé donne des suggestions adaptées aux personnes et à la journée. Voici la même idée avec une autre tâche de tous les jours.

Donne-moi des idées de souper.

Vous obtiendrez une liste raisonnable et vite oubliée. Ajoutez maintenant les quatre parties :

Tu es un cuisinier qui planifie des repas de semaine économiques. J’ai deux enfants de moins de dix ans, 30 minutes après le travail et, dans le frigo en ce moment : des hauts de cuisse de poulet, du riz, des carottes, des œufs et un demi-sac d’épinards. Suggère trois soupers que je peux faire cette semaine surtout avec ces ingrédients. Pour chacun, donne le temps de cuisson, une courte liste d’ingrédients en indiquant ce que je devrais acheter, et un truc pour que les enfants le mangent.

Le deuxième prompt n’utilise ni mots spéciaux ni astuces. Il élimine simplement les devinettes. Le modèle connaît maintenant la personne qui cuisine, la limite de temps, les ingrédients, le public et la forme de la réponse.

Comment le modèle lit votre prompt

ChatGPT fonctionne grâce à de grands modèles de langage : GPT-3.5 pour les utilisateurs gratuits et GPT-4 pour les abonnés Plus. Ces modèles ont été entraînés sur d’énormes quantités de texte pour prédire ce qui vient ensuite. Quand vous envoyez un prompt, le modèle le lit, avec les messages précédents de la même conversation, puis écrit la suite la plus appropriée, un morceau à la fois.

Il en découle deux conséquences. D’abord, tout ce qui précède dans la conversation fait partie du prompt. Si vous lui avez dit il y a vingt messages que vous habitez au Québec, cela peut encore influencer la réponse, et si vous changez complètement de sujet, ouvrir une nouvelle conversation peut donner des résultats plus nets. Ensuite, le modèle comble tout vide avec la réponse la plus typique. Omettez le public et vous obtenez une réponse pour un lecteur moyen. Omettez la longueur et vous obtenez la longueur la plus courante.

Pourquoi la même question obtient-elle des réponses différentes?

Si vous posez deux fois la même question à ChatGPT, ou lui demandez de réessayer, vous obtiendrez habituellement une réponse différente. C’est voulu. Quand le modèle choisit chaque mot suivant, il ne prend pas toujours le plus probable; il pige parmi plusieurs bons candidats. Le guide d’OpenAI pour les développeurs explique qu’un réglage appelé température contrôle la fréquence à laquelle le modèle choisit des mots moins probables. Une température plus élevée donne un texte plus varié, souvent plus créatif, alors qu’une température de zéro convient aux tâches factuelles. C’est l’une des raisons pour lesquelles un même prompt produit rarement deux fois un texte identique.

Les petits changements de formulation comptent aussi. OpenAI a noté au lancement de ChatGPT que le modèle est sensible aux retouches de formulation : une version d’une question peut produire « Je ne sais pas » et une légère reformulation, une bonne réponse. L’historique de la conversation modifie aussi l’entrée; la même question dans une nouvelle conversation et dans une longue conversation n’est donc pas vraiment le même prompt. Et GPT-3.5 et GPT-4 répondront différemment, parce que ce sont des modèles différents.

Pour une personne débutante, la conclusion utile est pratique. La variation aide pour les idées : demandez plusieurs fois et gardez la meilleure. C’est un signal d’alarme pour les faits : si deux réponses à une question factuelle ne concordent pas, au moins l’une d’elles est fausse, et vous devriez consulter une source fiable avant d’utiliser l’une ou l’autre.