Combien de contexte un prompt devrait-il contenir?

Une bonne règle de base : donnez au modèle ce dont une personne compétente qui ne vous connaît pas aurait besoin pour bien faire le travail du premier coup. Imaginez que vous confiez votre demande à un pigiste chevronné qui ne vous a jamais rencontré. S’il devait revenir vous demander « pour qui? », « de quelle longueur? » ou « à quoi ça sert? », il manque du contexte à votre prompt. S’il devait patauger dans des détails qui ne changent rien, il y en a trop.

Cette idée est au cœur du chapitre 4 d’A Beginner's Guide to ChatGPT, le livre de Robert Scales paru ce printemps. Le chapitre soutient que le contexte est le principal levier dont vous disposez. Un modèle comme GPT-4 construit sa réponse à partir des mots que vous lui donnez; chaque détail pertinent que vous ajoutez resserre donc l’éventail des réponses probables autour de celle que vous voulez vraiment.

Ce qui compte comme contexte utile

Le livre regroupe le contexte utile en une poignée d’habitudes. Reformulées en questions à vous poser avant d’appuyer sur Entrée :

Les conseils d’OpenAI sur la rédaction de prompts disent la même chose du point de vue de l’ingénieur : soyez précis sur le contexte, le résultat, la longueur, le format et le style, et remplacez les formulations floues par des formulations précises, par exemple en demandant de trois à cinq phrases plutôt que « assez court ».

Remarquez qu’une des lignes porte sur ce qu’il faut retirer. Le livre prévient qu’un prompt bourré de détails superflus ou de consignes contradictoires peut égarer le modèle. Plus de contexte n’est mieux que tant qu’il reste pertinent.

L’exemple du voyage en canot

L’illustration la plus claire du livre vient du chapitre 3, construit autour du camping en canot, un passe-temps que l’auteur partage avec sa femme. Le test est simple : demander cinq activités à faire le soir au campement, une fois presque sans contexte et une fois avec un portrait complet.

La version dépouillée ressemble à peu près à ceci :

Donne-moi cinq choses à faire le soir pendant un voyage de camping en canot.

La version détaillée fixe un rôle et décrit la journée réelle. La voici en d’autres mots, avec les mêmes ingrédients :

Agis comme un guide de plein air chevronné qui connaît l’arrière-pays canadien,
la cuisine de camping et la survie en forêt, et qui aime les solutions créatives.

Nous sommes deux en expédition de canot. Aujourd’hui, nous avons pagayé environ 12 km et transporté
à peu près 80 kg de matériel sur un portage de 2 à 3 km. Suggère cinq activités simples
et peu exigeantes pour la soirée, pendant que nous montons la tente, faisons à manger
et regardons le coucher de soleil près du feu, au-dessus du lac.

Selon le livre, la demande courte a donné une liste sensée mais générique : cuisiner sur le feu de camp, observer les étoiles, observer la faune, raconter des histoires, faire une sortie en canot en soirée. Rien de faux, rien de personnel. La demande détaillée a donné des suggestions adaptées à deux pagayeurs fatigués, comme des jeux de contes, une cuisine simple sur le feu, des étirements doux sur la rive et de l’art nature tranquille, avec un rappel final sur les principes Sans trace et la sécurité face à la faune. Même modèle, même sujet; la différence tenait à ce que le prompt lui disait.

Une façon rapide de vérifier votre prompt

Avant d’envoyer, relisez votre prompt et cherchez-y quatre choses : le rôle ou le public, la situation, le but et le format. S’il en manque une, ajoutez une phrase. Cherchez ensuite tout ce qui ne changerait rien à la réponse si vous le supprimiez, et coupez-le. Le livre insiste aussi sur la vérification de ce qui revient, parce que les modèles peuvent affirmer avec assurance des faits inventés. Le contexte améliore la pertinence d’une réponse; il n’en garantit pas l’exactitude.

Que se passe-t-il quand vous en donnez trop peu?

Le modèle comble les trous avec la réponse la plus typique. C’est le cœur du problème. Un modèle de langage fonctionne en prédisant le texte probable; quand votre prompt laisse ouverts le public, le but et le format, il se rabat sur ce qui est courant dans tout ce qu’il a vu. Vous obtenez la réponse moyenne à la version moyenne de votre question.

Dans l’exemple du canot, le prompt court ne disait rien de la distance, de la fatigue, du nombre de personnes ni du décor. Le modèle a donc répondu pour « des gens qui font du camping » en général. Chaque suggestion était raisonnable, mais aucune ne reflétait deux personnes qui venaient de porter de lourds sacs sur un portage. C’est alors au lecteur de faire seul l’adaptation, ce qui annule une bonne partie de l’intérêt.

Trop peu de contexte coûte aussi du temps. Vous vous retrouvez dans une boucle de relances : « plus court », « pour les débutants », « avec des références canadiennes ». Le livre considère cette boucle comme normale et utile, et recommande de peaufiner un prompt étape par étape après avoir lu chaque réponse. Mais on peut sauter une bonne partie de la boucle en mettant ces détails dans le premier message.

La solution est rarement un long prompt. En général, deux ou trois phrases bien choisies, qui précisent pour qui, dans quel but et sous quelle forme, font passer une réponse de générique à utile.