Qu’est-ce qu’OpenAI a annoncé à son premier DevDay, et pourquoi est-ce important?

Hier, OpenAI a tenu le DevDay, la toute première conférence qu’elle organise pour les développeurs, c’est-à-dire les personnes qui créent des applications et des services à partir de ses modèles. Dans un discours d’ouverture et un long billet de blogue, l’entreprise a annoncé un nouveau modèle phare, une nouvelle façon de créer des assistants, des versions personnalisées de ChatGPT, plusieurs nouvelles fonctions pour les développeurs et des baisses de prix sur toute sa plateforme.

Si vous utilisez seulement ChatGPT dans un navigateur, une partie de tout cela semble technique. Cela vous concerne quand même : la plupart des fonctions d’IA qui apparaissent dans d’autres applications reposent sur ces mêmes outils, et beaucoup de ces annonces les rendent moins chers, plus rapides ou capables de lire beaucoup plus de texte d’un coup.

Quand et où cela s’est-il passé?

OpenAI a d’abord annoncé le DevDay en septembre : un événement d’une journée à San Francisco, le 6 novembre 2023. Elle promettait de réunir des centaines de développeurs du monde entier, avec des ateliers animés par son personnel technique et un discours d’ouverture diffusé en direct pour tous les autres. Lundi, Sam Altman, PDG d’OpenAI, est monté sur scène pour l’ouvrir.

L’entreprise a commencé par des chiffres. Environ 100 millions de personnes utilisent maintenant ChatGPT chaque semaine, a-t-elle dit, et plus de deux millions de développeurs travaillent avec l’API d’OpenAI (l’interface de programmation qui permet à un logiciel d’envoyer des requêtes à ses modèles). Les nouvelles fonctions ont commencé à arriver chez les clients à 13 h, heure du Pacifique, le jour même.

Qu’est-ce qui a été annoncé?

Voici la journée en un tableau, d’après l’annonce d’OpenAI :

Quelques éléments plus modestes complètent le tout : un nouveau GPT-3.5 Turbo qui gère 16 000 jetons par défaut, un « mode JSON » qui oblige le modèle à répondre avec des données structurées valides, un réglage seed pour obtenir des réponses reproductibles, un programme expérimental d’ajustement fin de GPT-4 (le fait de l’entraîner davantage sur les propres exemples d’une entreprise), un programme Custom Models pour quelques grandes organisations et la publication de Whisper large-v3, la plus récente version du modèle de reconnaissance vocale à code source ouvert d’OpenAI.

Comment les morceaux s’emboîtent-ils?

La façon la plus simple de voir le DevDay, c’est en trois couches.

La couche du bas, c’est le modèle. GPT-4 Turbo est le moteur : il lit votre texte, élabore une réponse et la rédige. Deux changements ressortent. Sa fenêtre de contexte, la quantité de texte qu’il peut considérer d’un coup, passe à 128 000 jetons (un jeton est un mot ou une partie de mot), à peu près un long livre. Et il coûte moins cher : le texte en entrée coûte le tiers du prix de GPT-4, et le texte en sortie, la moitié.

La couche du milieu, c’est l’assistant. À lui seul, un modèle oublie tout entre deux requêtes. L’API Assistants ajoute les éléments que les développeurs construisaient eux-mêmes : un fil qui conserve la conversation, un outil de recherche qui fouille les documents que vous téléversez, un Code Interpreter qui écrit et exécute du Python, et l’appel de fonctions (function calling), qui permet à l’assistant de demander à votre application de faire quelque chose, comme retrouver une commande.

La couche du haut, c’est le produit. Les GPT réunissent des instructions, des fichiers et des outils dans un ChatGPT personnalisé que l’on peut créer sans écrire de code. OpenAI affirme que l’API Assistants repose sur les mêmes capacités que les GPT : un développeur peut donc construire en code ce qu’une personne qui ne programme pas construit dans ChatGPT.

Pourquoi est-ce important?

Pour les développeurs, le coût et la taille changent ce qui est réaliste. Un modèle de deux à trois fois moins cher, qui peut lire tout un contrat ou tout le code d’un logiciel dans un seul prompt, rend abordables des projets qui étaient trop coûteux la semaine dernière. Des outils comme la recherche documentaire et Code Interpreter, offerts sous forme de pièces toutes faites, font qu’une petite équipe n’a plus à les assembler à partir de zéro.

Pour tous les autres, le DevDay marque un passage d’un seul robot conversationnel généraliste vers de nombreux assistants spécialisés. OpenAI présente l’API Assistants comme sa première étape vers des expériences « semblables à des agents », c’est-à-dire une IA qui peut poursuivre un objectif et utiliser des outils plutôt que seulement répondre. Copyright Shield, de son côté, répond à l’une des principales inquiétudes des entreprises au sujet de l’utilisation de textes et d’images générés.

Des questions restent ouvertes. GPT-4 Turbo est présenté comme un aperçu, et une version stable est promise dans les prochaines semaines. L’API Assistants est en bêta, et OpenAI a demandé aux développeurs de donner leur avis. Bien des gens s’attendent à quelques aspérités avant que ces outils se stabilisent.

Que peuvent essayer en premier les développeurs et le grand public après le DevDay?

Si vous écrivez du code, le plus rapide est de faire passer un projet GPT-4 existant à gpt-4-1106-preview et de comparer le coût et la qualité sur vos propres exemples. Ouvrez ensuite le playground des Assistants sur la plateforme d’OpenAI, qui permet de configurer un assistant avec des instructions, des fichiers et des outils sans écrire de code, et voyez comment se comportent les fils et la recherche documentaire avant de les intégrer à une application.

Si vous utilisez ChatGPT Plus ou Enterprise, cherchez les GPT. Des exemples de GPT vous sont offerts dès aujourd’hui, et OpenAI prévoit une boutique où les créateurs pourront publier les leurs plus tard ce mois-ci. En créer un vous permet de transformer un prompt que vous réutilisez souvent en assistant personnalisé.

Si vous utilisez la version gratuite, rien ne change du jour au lendemain, mais les applications que vous utilisez déjà pourraient bientôt gagner de nouvelles fonctions d’IA fondées sur ces outils. Connaître les trois couches, modèle, assistant et produit, vous aidera à comprendre ce que ces fonctions peuvent faire et ne pas faire.