Qu’est-ce que l’API d’OpenAI, et qui peut l’utiliser?

Hier, OpenAI a ouvert une liste d’attente pour un produit commercial, l’API d’OpenAI. Une API (interface de programmation d’applications) est une porte qu’un programme utilise pour parler à un autre. Ici, votre programme envoie un morceau de texte, appelé un prompt, et les serveurs d’OpenAI renvoient une complétion : du texte supplémentaire qui tente de suivre la régularité que vous avez amorcée.

Derrière cette porte se trouvent des modèles de la famille GPT-3, les grands modèles de langage qu’OpenAI a décrits dans son article il y a deux semaines. OpenAI qualifie l’interface de polyvalente, parce que le même appel « texte en entrée, texte en sortie » peut servir à presque n’importe quelle tâche en anglais, des résumés à la classification en passant par la rédaction de brouillons.

Comment fonctionne l’API?

La plupart des services d’IA d’aujourd’hui sont conçus pour une seule tâche : un service de traduction traduit, un outil d’analyse des sentiments étiquette des avis. L’API d’OpenAI adopte une autre approche. C’est ce que vous écrivez dans le prompt qui détermine la tâche. OpenAI décrit cela comme une façon de programmer le modèle en lui montrant quelques exemples, la même idée d’apprentissage à quelques exemples (few-shot) que dans l’article sur GPT-3.

Selon l’annonce, il existe deux autres façons de l’orienter. Vous pouvez entraîner davantage le modèle sur un ensemble de vos propres exemples, petit ou grand, pour l’affiner sur une tâche. Et vous pouvez l’améliorer à l’aide de la rétroaction de vos utilisateurs ou de personnes embauchées pour évaluer les résultats.

OpenAI indique que les résultats varient selon la difficulté de la tâche. Les tâches simples, à la régularité claire, ont tendance à fonctionner; les tâches complexes, peut-être pas.

Qui peut l’utiliser aujourd’hui?

L’accès n’est pas encore ouvert à tous. OpenAI mène une version bêta privée et, jusqu’ici, a vérifié chaque utilisateur individuellement. Parmi les premiers participants nommés dans l’annonce figurent Algolia (recherche), Quizlet (outils d’étude) et Reddit, ainsi que des chercheurs du Middlebury Institute. Toute autre personne peut demander l’accès par la liste d’attente sur le site d’OpenAI.

OpenAI explique pourquoi elle a choisi une API plutôt que de publier le modèle en téléchargement :

1. Le financement. Vendre l’accès aide à payer ses travaux de recherche, de sécurité et de politiques publiques.
2. La taille. Les modèles sous-jacents sont très grands et coûteux à faire fonctionner, ce qui les laisserait entre les mains des grandes entreprises. Les offrir en ligne permet aussi aux plus petites organisations de s’en servir.
3. Le contrôle. Si un usage se révèle nuisible, OpenAI peut couper l’accès, ce qui est impossible une fois qu’un modèle peut être téléchargé librement.

L’entreprise dit qu’elle mettra fin à l’accès pour des usages comme le harcèlement, le pourriel, la radicalisation ou l’astroturfing (les fausses campagnes citoyennes). Elle reconnaît aussi que les modèles comportent des biais, comme le documente son propre article, et dit construire des outils pour les détecter et les réduire.

Une première requête, étape par étape

Si vous êtes admis à la bêta, une première séance pourrait ressembler à ceci :

1. Choisissez une seule tâche bien délimitée, par exemple transformer le courriel d’un client en résumé d’une ligne.
2. Écrivez deux ou trois vrais exemples de paires courriel-résumé.
3. Ajoutez le nouveau courriel à la fin et laissez le résumé vide.
4. Envoyez la requête et lisez le résultat. Si le résultat cloche, modifiez les exemples, pas le code.

Courriel : Bonjour, ma commande no 1042 est arrivée avec un couvercle fissuré. Pouvez-vous m’en envoyer un nouveau?
Résumé : Le client a besoin d’un couvercle de remplacement pour la commande 1042.

Courriel : On m’a facturé deux fois mon abonnement de mars, merci de rembourser un des paiements.
Résumé : Le client veut un remboursement pour un double prélèvement en mars.

Courriel : Puis-je changer mon adresse de livraison avant vendredi? Je déménage.
Résumé :

Que pourrait construire une petite équipe avec cette API?

Le point le plus intéressant de l’annonce est peut-être la deuxième raison ci-dessus : une entreprise de deux personnes ne peut ni entraîner ni héberger un modèle de cette taille, mais elle peut faire une requête Web. Cela change qui peut expérimenter. Une petite équipe avec une bonne idée et des prompts soignés peut maintenant tester des fonctions qui auraient exigé un laboratoire de recherche.

Les premiers projets réalistes sont étroits et faciles à vérifier. Un service d’assistance pourrait rédiger des brouillons de réponses qu’un humain approuve. Un enseignant pourrait transformer des textes de lecture en questions d’exercice. Une petite boutique en ligne pourrait rédiger des premières versions de descriptions de produits à partir d’une courte liste de caractéristiques. Un outil de recherche pourrait transformer une question en langage courant en meilleure requête. Dans chaque cas, une personne reste dans la boucle, lit le résultat et corrige les erreurs avant que quoi que ce soit n’atteigne un client.

Deux habitudes vous aideront. Gardez la tâche assez petite pour pouvoir la tester sur vingt vrais exemples et compter combien de fois elle fonctionne. Et prévoyez dès le départ des réponses fausses ou étranges, puisqu’OpenAI elle-même dit que les modèles peuvent produire des textes biaisés ou nuisibles. Beaucoup de développeurs s’attendent à ce que la bêta se remplisse vite; il vaut donc la peine de décrire clairement votre cas d’usage dès maintenant, en attendant votre accès.