Qu’est-ce qui a changé quand OpenAI a ouvert l’API de GPT-4 à tous les développeurs payants et lancé Code Interpreter?

Hier, 6 juillet 2023, OpenAI a fait deux annonces le même jour, l’une pour les développeurs et l’autre pour les abonnés de ChatGPT. Pour les développeurs, GPT-4, le modèle le plus puissant de l’entreprise, n’est plus derrière une liste d’attente pour quiconque paie déjà pour l’API. Pour les abonnés de ChatGPT Plus, une fonction appelée Code Interpreter arrive : ChatGPT peut maintenant écrire un petit programme, l’exécuter et vous montrer le résultat, à partir de fichiers que vous lui fournissez.

Les deux décisions prennent des outils réservés à quelques testeurs depuis mars et les mettent entre beaucoup plus de mains.

Ce qu’OpenAI a annoncé pour les développeurs

L’API est le service qui permet à des programmes, et non à des personnes qui tapent dans une fenêtre de clavardage, d’envoyer du texte aux modèles d’OpenAI. Depuis l’apparition de GPT-4 en mars, l’accès y était rationné. OpenAI affirme que des millions de développeurs l’ont demandé depuis.

Voici ce qui change, selon le billet de blogue d’OpenAI :

Le « contexte de 8K » signifie que GPT-4 peut tenir compte d’environ 8 000 jetons à la fois, un jeton étant un mot ou une partie de mot. TechCrunch note qu’une version plus grande, de 32 000 jetons, existe, et que la capacité de GPT-4 à comprendre les images est encore à l’essai avec un seul partenaire, une entreprise appelée Be My Eyes.

Pourquoi OpenAI fait passer tout le monde au format conversationnel

La seconde moitié de l’annonce aux développeurs porte sur des retraits. La première API d’OpenAI, lancée en 2020, prenait un seul bloc de texte et le poursuivait. Ce style s’appelle les complétions (completions). En mars, OpenAI a présenté Chat Completions, où une requête est une liste de messages, chacun étiqueté comme venant du système, de l’utilisateur ou de l’assistant.

OpenAI affirme que les requêtes de type conversation représentent maintenant 97 % de l’utilisation de GPT dans son API. Elle soutient que cette structure donne de meilleurs résultats, prend en charge des fonctions comme l’appel de fonctions et aide à réduire l’injection de prompt (prompt injection), la ruse qui consiste à cacher des consignes dans un texte fourni par l’utilisateur, parce que les consignes du développeur sont séparées de ce que tapent les utilisateurs. Les anciens modèles de complétion seront remplacés par de nouvelles versions le 4 janvier 2024. Les anciens modèles de plongements doivent passer à text-embedding-ada-002, et OpenAI dit qu’elle paiera le coût du retraitement du contenu de ses clients.

Ce que fait Code Interpreter

Les notes de version de ChatGPT décrivent Code Interpreter en une ligne : il permet à ChatGPT d’exécuter du code, avec un accès facultatif aux fichiers que vous téléversez. Les usages proposés sont l’analyse de données, la création de graphiques, la modification de fichiers et les mathématiques.

Les modèles de langage sont bons avec les mots, mais peu fiables pour les longs calculs, parce qu’ils prédisent du texte plutôt que de calculer. Code Interpreter change la tâche. Au lieu de deviner une moyenne, ChatGPT écrit un court programme en Python, un langage de programmation populaire, l’exécute et rapporte la réponse produite par le programme. L’arithmétique est faite par l’ordinateur, pas devinée par le modèle.

Voici à quoi peut ressembler une séance, étape par étape :

1. Téléversez un fichier de tableur, par exemple un CSV d’une année de dépenses du ménage.
2. Posez une question en langage courant :

Ce fichier liste mes dépenses de 2022. Quelles sont les trois catégories qui ont coûté le plus cher? Fais un graphique à barres par mois et dis-moi quel mois a été le plus élevé.

1. ChatGPT écrit du code Python pour charger le fichier et additionner chaque catégorie.
2. Il exécute le code et rapporte les totaux.
3. Il écrit et exécute d’autres lignes de code pour tracer le graphique.
4. Vous poursuivez : « Retire la catégorie du loyer et refais le graphique. »

Pourquoi c’est important

Pour les développeurs, l’accès ouvert à GPT-4 signifie qu’ils peuvent bâtir des produits sur le modèle le plus puissant sans attendre, et planifier en fonction du passage d’OpenAI au format conversationnel. TechCrunch ajoute la mise en garde habituelle : GPT-4 invente encore des faits et commet des erreurs de raisonnement, parfois avec assurance.

Pour les utilisateurs ordinaires, Code Interpreter est un pas concret : des tâches qui exigeaient autrefois un expert en tableur ou un programmeur peuvent commencer par une question. Les réponses peuvent quand même être fausses, par exemple si le fichier est désordonné ou si la question est ambiguë; il vaut donc la peine de demander à ChatGPT d’expliquer les étapes qu’il a suivies et de vérifier quelques chiffres au hasard. La navigation Web, l’autre grande fonction bêta, est suspendue pour l’instant : OpenAI l’a désactivée le 3 juillet après avoir constaté qu’elle pouvait parfois afficher du contenu d’une façon que l’entreprise n’avait pas prévue, comme le texte intégral d’une page.

Comment essayer Code Interpreter ou l’API de GPT-4 cette semaine?

Pour Code Interpreter, il vous faut ChatGPT Plus et la version Web de ChatGPT. OpenAI dit que le déploiement atteindra tous les utilisateurs de Plus au cours de la prochaine semaine. Quand la fonction apparaît, cliquez sur votre nom, ouvrez les fonctions bêta dans les paramètres et activez Code Interpreter. Commencez avec un petit fichier sans données sensibles, et demandez à ChatGPT d’expliquer chaque étape qu’il effectue.

Pour l’API, si vous avez déjà un compte de développeur OpenAI payant avec des paiements antérieurs, vous pouvez maintenant demander GPT-4 par son nom dans votre code. Les nouveaux développeurs devraient y avoir accès d’ici la fin du mois. Si vous entretenez une application qui utilise d’anciens modèles de complétion, c’est le bon moment pour planifier le passage à Chat Completions avant l’échéance de janvier 2024.