# Combien coûte l’utilisation de GPT-3?

Date: 2022-11-14 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/combien-coute-gpt-3/

**Answer:** GPT-3 est facturé au jeton, un morceau de mot, et vous payez à la fois le texte que vous envoyez et le texte qu’il renvoie. Depuis la baisse de prix d’OpenAI du 1er septembre, le modèle le plus puissant, Davinci, coûte 0,02 $ US par 1 000 jetons (environ 750 mots), et les modèles plus petits ne coûtent qu’une fraction de ce prix.

Utiliser GPT-3 par l’API d’OpenAI se paie au morceau de texte, pas au mois. Il n’y a pas d’abonnement : vous payez ce que vous utilisez. Pour la plupart des petites expériences, la facture se chiffre en cents, et les nouveaux comptes reçoivent 18 $ US de crédit gratuit à dépenser au cours de leurs trois premiers mois. Mais dès que vous prévoyez une vraie tâche, comme traiter toute une boîte de réception ou un dossier de rapports, il vaut la peine d’estimer le coût avant d’appuyer sur le bouton.

L’unité de facturation est le **jeton**. Un jeton est un morceau de texte, souvent un mot court entier, parfois une partie d’un mot plus long, et il peut inclure l’espace qui le précède. La règle approximative d’OpenAI pour l’anglais est qu’un jeton équivaut à environ quatre caractères, soit les trois quarts d’un mot; 1 000 jetons représentent donc à peu près 750 mots.

## La grille de prix actuelle

Le 1er septembre, OpenAI a baissé les prix de ses modèles GPT-3 de base, en expliquant qu’elle les avait rendus plus efficaces à faire fonctionner. Davinci est passé de 0,06 $ US à 0,02 $ US par 1 000 jetons, une baisse des deux tiers. Voici les tarifs actuels des quatre modèles de base :

| Modèle | Prix par 1 000 jetons | Ce qu’en dit OpenAI |
|---|---|---|
| Ada | 0,0004 $ US | Le modèle le plus rapide |
| Babbage | 0,0005 $ US | Un cran au-dessus d’Ada |
| Curie | 0,0020 $ US | Fait bien des tâches de Davinci, plus vite, pour le dixième du prix |
| Davinci | 0,0200 $ US | Le modèle le plus puissant |

Deux détails comptent. D’abord, **vous payez dans les deux sens**. Une requête est facturée selon les jetons de votre prompt plus les jetons de la complétion, le texte que le modèle renvoie. Ensuite, certains réglages multiplient la sortie. Si vous demandez plusieurs complétions possibles avec les paramètres `n` ou `best_of`, chacune compte.

Les modèles ajustés, que vous entraînez sur vos propres exemples (ajustement fin), coûtent plus cher par jeton : utiliser un modèle Davinci ajusté revient à 0,12 $ US par 1 000 jetons, et ces prix n’ont pas changé en septembre. L’utilisation du Playground, la page Web d’OpenAI pour tester des prompts, est facturée de la même façon que les appels à l’API.

## Un exemple chiffré : résumer 100 courriels

Supposons que vous vouliez un résumé de deux phrases pour chacun de 100 courriels de clients. Chaque requête contient une courte consigne et un courriel :

```prompt
Résume ce courriel de client en deux phrases. Nomme le produit et ce que veut le client.

Courriel :
[colle un courriel ici]

Résumé :
```

Estimez maintenant les jetons. Les chiffres ci-dessous sont donnés à titre d’illustration; vos propres courriels seront différents.

| Partie de chaque requête | Mots | Jetons (mots ÷ 0,75) |
|---|---|---|
| Consigne | 20 | environ 27 |
| Un courriel | 200 | environ 267 |
| Résumé renvoyé | 45 | environ 60 |
| **Total par courriel** | | **environ 354** |

Pour 100 courriels, cela donne environ 35 400 jetons, soit 35,4 milliers. Multipliez par le prix de chaque modèle :

| Modèle | Coût estimé pour 100 courriels |
|---|---|
| Davinci | 35,4 × 0,02 $ US = environ 0,71 $ US |
| Curie | 35,4 × 0,002 $ US = environ 0,07 $ US |
| Davinci avant le 1er septembre | 35,4 × 0,06 $ US = environ 2,12 $ US |

Même avec Davinci, toute la tâche coûte moins d’un dollar. Le coût augmente en ligne droite : 10 000 courriels coûteraient donc environ 71 $ US avec Davinci et environ 7 $ US avec Curie. Cet écart explique pourquoi il vaut la peine de vérifier si un modèle moins cher suffit pour une tâche avant de passer à grande échelle.

> **À essayer :** choisissez cinq vrais courriels ou notes de longueur typique. Lancez le prompt de résumé sur chacun avec Curie, puis avec Davinci, et comparez les résultats. Notez le nombre de jetons qu’affiche le Playground, faites-en la moyenne et multipliez par le nombre d’éléments de votre tâche complète.

## Comment réduire la facture

La page de tarification d’OpenAI suggère plusieurs leviers. Gardez les prompts courts : une consigne répétée à chaque requête est payée chaque fois. Fixez une longueur maximale raisonnable pour la réponse. Utilisez une séquence d’arrêt, un repère qui indique au modèle où s’arrêter, pour qu’il ne s’étende pas inutilement. Évitez de générer de nombreuses variantes si vous n’en avez pas besoin. Et utilisez le modèle le moins cher qui fait bien le travail.

Vous pouvez aussi vous protéger des surprises. Dans les paramètres de facturation de votre compte, vous pouvez fixer une limite souple, qui vous envoie un courriel quand les dépenses dépassent un seuil, et une limite stricte, au-delà de laquelle les requêtes ne sont plus traitées.

## Comment estimer les jetons avant de lancer une tâche?

Commencez par les règles approximatives. En anglais, divisez le nombre de mots par 0,75, ou le nombre de caractères par 4. Un paragraphe typique compte environ 100 jetons, et OpenAI indique qu’environ 1 500 mots correspondent à peu près à 2 048 jetons. Comptez les trois parties de chaque requête : votre consigne fixe, l’entrée variable, comme un courriel, et la réponse attendue. Multipliez ensuite par le nombre de requêtes.

Pour un chiffre plus précis, utilisez l’outil gratuit Tokenizer d’OpenAI, qui montre exactement comment un texte est découpé, ou collez votre prompt dans le Playground, où un compteur affiche le total de jetons. Testez une poignée de vrais échantillons plutôt qu’un seul, parce que les longueurs varient. Pour la réponse, servez-vous de votre réglage `max_tokens` comme plafond : OpenAI explique qu’une seule requête peut utiliser jusqu’aux jetons du prompt plus `max_tokens` multiplié par le nombre de complétions demandées.

Deux mises en garde. Les langues autres que l’anglais demandent souvent plus de jetons pour le même texte; une tâche en français ou en espagnol peut donc coûter plus cher que le nombre de mots ne le laisse croire. Et la mise en forme s’additionne : les longs séparateurs, les étiquettes répétées et les blocs d’exemples d’un prompt à quelques exemples (*few-shot*) comptent tous à chaque appel. Ajoutez une marge de sécurité de 10 à 20 % à votre estimation, fixez une limite souple près de ce chiffre et consultez la page d’utilisation de votre compte après le premier lot.

## Sources

- Pricing (OpenAI API): https://web.archive.org/web/20221111182628/https://openai.com/api/pricing/
- Pricing (OpenAI API), with the September 1, 2022 price change notice: https://web.archive.org/web/20220826181013/https://openai.com/api/pricing/
- What are tokens and how to count them?: https://web.archive.org/web/20220321164821/https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them
