Comment avoir une vraie conversation suivie avec ChatGPT?

OpenAI a lancé ChatGPT mercredi, sous forme d’aperçu de recherche (research preview) gratuit. Ce qui le distingue des outils GPT-3 précédents, c’est le format du dialogue. Au lieu d’écrire un seul prompt soigneusement construit en espérant que tout se passe bien, vous pouvez discuter : poser une question, lire la réponse, puis répondre « plus court », « moins cher » ou « et la deuxième idée? ». Le billet de lancement d’OpenAI explique que ce format permet à ChatGPT de répondre à des questions de suivi, d’admettre ses erreurs, de contester des prémisses erronées et de refuser des demandes inappropriées.

Cela change la façon d’obtenir de bons résultats. Avec un prompt unique, tout l’effort porte sur le premier message. Dans une conversation, le premier message peut être simple, et la qualité vient des étapes qui suivent.

Pourquoi les relances fonctionnent

Une des conversations d’exemple d’OpenAI montre l’idée. Un utilisateur demande ce qu’est le petit théorème de Fermat, puis demande « comment est-il utilisé en cryptographie? » sans répéter le nom du théorème. ChatGPT comprend que « il » renvoie à la question précédente. Un autre exemple montre un utilisateur qui donne des consignes de suivi, comme lui demander de résumer la conversation jusque-là.

Vous pouvez donc avancer par petites touches :

• Corriger : « Non, la fête a lieu à l’intérieur. »
• Resserrer : « Seulement les idées à moins de 50 $. »
• Remodeler : « Transforme ça en liste de vérification. »
• Creuser : « Pourquoi as-tu suggéré celle-là? »

Chaque réponse donne à ChatGPT plus d’information qu’un seul prompt ne le ferait, et vous n’ajoutez que ce dont vous découvrez avoir besoin.

Un exemple concret : planifier une fête d’anniversaire

Voici une conversation en cinq échanges. Les réponses sont résumées et données à titre d’illustration; vos résultats seront différents.

Échange 1 : commencer large.

Je planifie la fête d’anniversaire de ma fille, qui aura 8 ans. Peux-tu me suggérer quelques thèmes?

ChatGPT énumère plusieurs thèmes, comme l’espace, un laboratoire de sciences, une chasse au trésor et un thé au jardin, avec une ligne sur chacun.

Échange 2 : ajouter les contraintes oubliées.

Il y aura 12 enfants, la fête aura lieu dans notre appartement et mon budget est d’environ 150 $. Lesquels de ces thèmes fonctionnent le mieux?

Il écarte ceux qui demandent une cour et recommande le laboratoire de sciences et la chasse au trésor, en expliquant pourquoi ils conviennent à un petit espace intérieur.

Échange 3 : en choisir un et demander une structure.

Allons-y avec le laboratoire de sciences. Donne-moi un horaire pour une fête de deux heures.

Il produit un déroulement : l’arrivée et les sarraus, deux expériences, une pause collation, le gâteau, un coin sacs-surprises.

Échange 4 : corriger un détail.

Deux des enfants sont allergiques aux noix, et je préférerais éviter tout ce qui tache. Mets le plan à jour.

Il remplace l’expérience la plus salissante et suggère des collations sans noix. Vous n’avez pas eu à répéter le thème, l’âge, le budget ou l’horaire.

Échange 5 : changer le format.

Maintenant, transforme tout le plan en liste d’épicerie regroupée par rayon, avec des prix approximatifs.

La réponse finale combine tout ce qui a été dit dans les échanges précédents en une seule liste pratique. Vérifiez les prix vous-même : ChatGPT ne consulte le site Web d’aucun magasin, ses chiffres sont donc des suppositions.

Les habitudes qui aident

Donnez un seul changement à la fois quand c’est possible, pour voir facilement l’effet de chaque consigne. Si une réponse déraille, dites ce qui n’allait pas au lieu de tout recommencer : « C’est trop formel; écris-le comme tu parlerais à un voisin. » Demandez-lui d’expliquer ou de montrer son raisonnement quand une recommandation vous surprend.

Gardez les limites en tête. OpenAI prévient que ChatGPT peut écrire des réponses qui semblent plausibles, mais qui sont fausses, et The Verge l’a vu présenter avec assurance des détails inventés comme des faits. Ses connaissances des événements postérieurs à 2021 sont limitées. Il a aussi tendance à deviner ce que vous vouliez dire quand une question est ambiguë, plutôt que de demander. Une relance comme « Qu’as-tu besoin de savoir pour bien répondre à ceci? » l’invite à vous poser des questions. Et comme pour tout service encore à l’essai, il est sage de garder vos renseignements personnels hors de vos conversations.

Comment garde-t-il le fil des messages précédents dans une conversation?

ChatGPT repose sur la série de modèles de langage GPT-3.5 d’OpenAI, et un modèle de langage n’a pas de mémoire au sens courant. Il lit un passage de texte et prédit ce qui devrait venir ensuite. OpenAI n’a pas publié le détail exact de la façon dont ChatGPT assemble une conversation, mais le principe de base pour les modèles de cette famille est que les échanges précédents font partie de ce que le modèle lit quand il écrit sa réponse suivante. Vos messages et ses réponses forment une transcription continue, et cette transcription sert de contexte à chaque nouvelle réponse.

Cela explique à la fois les forces et les limites. Comme les échanges précédents restent visibles, un mot comme « il » ou « la deuxième idée » a du sens. Mais la quantité de texte qu’un modèle peut lire d’un coup, sa fenêtre de contexte, est limitée et se mesure en jetons, les morceaux de mots avec lesquels ces modèles travaillent. Pour les modèles GPT-3 standards, OpenAI documente une limite de 2 048 jetons partagés entre le prompt et la réponse, soit environ 1 500 mots. La limite propre à ChatGPT n’a pas été publiée, mais il est raisonnable de s’attendre à ce que, dans une très longue conversation, les détails les plus anciens sortent du champ ou reçoivent moins d’attention. Si un élément du début compte, répétez-le, ou demandez un résumé et poursuivez à partir de celui-ci.

Cela veut aussi dire que le modèle n’apprend pas de vous au fil du temps. Ce dont il « se souvient » n’existe que dans la conversation en cours. Ouvrez une nouvelle conversation et il repart d’une page blanche; collez-y donc de nouveau tout le contexte dont il a besoin.