Réponse courte
Le 17 décembre 2024, OpenAI a commencé à offrir son modèle de raisonnement o1 complet aux développeurs par son API, en remplacement d’o1-preview, avec l’appel de fonctions, les sorties structurées, l’entrée d’images, les messages développeur et un réglage qui contrôle combien de temps le modèle réfléchit. Il est d’abord réservé au palier d’utilisation le plus élevé d’OpenAI et coûte six fois plus cher que GPT-4o, en plus de fonctions vocales moins chères et d’une nouvelle méthode d’ajustement fin.
Question de suivi Comment un développeur devrait-il commencer à créer avec o1?
Hier, le 17 décembre 2024, OpenAI a rendu son modèle o1 complet accessible dans son API, le service que les programmeurs utilisent pour intégrer les modèles d’OpenAI à leurs propres applications. Jusqu’ici, les développeurs ne pouvaient utiliser qu’o1-preview, une première version dotée de peu des fonctions dont les vrais produits ont besoin. Le nouvel o1, que les abonnés de ChatGPT ont reçu il y a deux semaines, arrive maintenant avec ces fonctions.
La même annonce regroupait plusieurs autres nouveautés pour les développeurs : des applications vocales moins chères et plus faciles à créer avec la Realtime API, une nouvelle façon d’ajuster finement les modèles et des trousses d’outils officielles pour deux langages de programmation de plus.
Ce que les développeurs obtiennent avec o1
o1 est un modèle de raisonnement : avant de répondre, il travaille un problème par étapes et se vérifie lui-même, ce qui le rend plus fort en mathématiques, en code et en logique à plusieurs étapes, mais plus lent et plus coûteux qu’un modèle de clavardage ordinaire. Dans l’API, il prend maintenant en charge :
| Fonction | Ce qu’elle permet à un développeur de faire |
|---|---|
| Appel de fonctions (function calling) | Laisser o1 demander à l’application d’exécuter une tâche, comme chercher une commande ou un niveau de stock |
| Sorties structurées (Structured Outputs) | Obtenir des réponses toujours conformes à un format de données fixe (un JSON Schema), pour que les logiciels puissent les lire de façon fiable |
| Messages développeur | Donner à o1 des consignes permanentes sur le ton, le style ou les règles, comme le fait un prompt système |
| Vision | Envoyer des images, comme un graphique, un schéma ou la photo d’une pièce, sur lesquelles o1 raisonnera |
reasoning_effort | Choisir combien de temps le modèle réfléchit avant de répondre, en échangeant de la profondeur contre de la vitesse et un coût moindre |
Selon OpenAI, les requêtes utilisent maintenant en moyenne 60 % moins de jetons de raisonnement qu’avec o1-preview. Les jetons sont les petits morceaux de texte qu’un modèle lit et écrit; les jetons de raisonnement sont ceux qu’il dépense à réfléchir avant de répondre, et vous les payez aussi.
La version publiée s’appelle o1-2024-12-17. OpenAI la décrit comme une version de l’o1 de ChatGPT entraînée davantage et ajustée d’après les commentaires reçus, et précise que ChatGPT passe aussi à cette version.
Dans quelle mesure est-il meilleur?
OpenAI a publié des résultats de tests qui comparent le nouvel o1 à o1-preview :
| Test | Ce qu’il mesure | o1-preview | o1 (17 déc.) |
|---|---|---|---|
| AIME 2024 | Un concours de mathématiques difficile pour les élèves du secondaire aux États-Unis | 42,0 | 79,2 |
| MATH | Des problèmes de mathématiques de type concours | 85,5 | 96,4 |
| LiveCodeBench | Des problèmes de programmation | 52,3 | 76,6 |
| SWE-bench Verified | La correction de vrais bogues dans des projets logiciels | 41,3 | 48,9 |
| GPQA diamond | Des questions scientifiques de niveau des cycles supérieurs | 73,3 | 75,7 |
Le bond en mathématiques de concours est le plus important. o1 peut aussi maintenant être évalué sur des tests d’images, auxquels o1-preview ne pouvait pas participer, et OpenAI affirme qu’il surpasse nettement GPT-4o dans ses propres tests d’appel de fonctions et de sorties structurées. Selon TechCrunch, OpenAI affirme aussi que le nouvel o1 refuse moins souvent par erreur des demandes raisonnables.
Qui peut l’utiliser, et combien il coûte
L’accès commence petit. o1 est déployé auprès des développeurs du palier d’utilisation 5 (usage tier 5), le niveau de dépenses le plus élevé d’OpenAI. TechCrunch explique que cela suppose d’avoir dépensé au moins 1 000 $ US chez OpenAI et d’avoir un compte depuis plus de 30 jours après le premier paiement. OpenAI affirme qu’elle ouvrira l’accès aux autres paliers et qu’elle relèvera les limites d’utilisation graduellement.
Le prix est élevé. TechCrunch l’établit à 15 $ US pour environ 750 000 mots en entrée et à 60 $ US pour environ 750 000 mots en sortie, soit six fois le coût de GPT-4o. Comme les jetons de raisonnement comptent comme de la sortie, une question difficile peut coûter nettement plus que ce que sa courte réponse laisse croire.
Les autres annonces
- Realtime API. C’est l’outil d’OpenAI pour les conversations vocales en direct avec un modèle. Il prend maintenant en charge WebRTC, une norme ouverte que les navigateurs et les téléphones utilisent déjà pour les appels, si bien qu’une application vocale peut être branchée en quelques lignes de code. L’audio de GPT-4o devient 60 % moins cher, le plus petit GPT-4o mini s’ajoute pour une fraction de ce prix, et les sessions peuvent durer 30 minutes au lieu de 15.
- Preference Fine-Tuning. L’ajustement fin consiste à entraîner davantage un modèle sur vos propres exemples. La méthode habituelle montre au modèle des réponses idéales. La nouvelle lui montre des paires de réponses, l’une préférée et l’autre non, pour qu’il apprenne à quoi ressemble une « meilleure » réponse. OpenAI affirme que cette méthode convient au travail subjectif, comme les résumés ou l’écriture créative.
- Trousses SDK pour Go et Java. Les SDK sont des bibliothèques de code prêtes à l’emploi qui facilitent l’utilisation de l’API. Ces deux-là, en version bêta, s’ajoutent à celles qui existent déjà pour Python, Node.js et .NET.
Pourquoi c’est important
Jusqu’ici, une entreprise qui voulait intégrer le raisonnement minutieux d’o1 à son produit devait contourner l’absence de fonctions de base. Avec l’appel de fonctions, les sorties structurées et les images, o1 peut s’insérer dans de vrais processus de travail : lire l’image d’une facture, la vérifier dans une base de données au moyen d’une fonction et renvoyer le résultat dans un format qu’accepte le système comptable. OpenAI affirme que des développeurs ont déjà utilisé o1-preview pour créer des outils de soutien à la clientèle, de chaîne d’approvisionnement et de prévisions financières.
Le coût et les limites de palier font que la plupart des petits développeurs attendront ou feront des essais avec parcimonie pour l’instant. C’est là que le réglage reasoning_effort compte : il permet de réserver la réflexion approfondie aux requêtes qui en ont besoin.
À essayer : même sans accès à l’API, vous pouvez pratiquer la compétence essentielle. Prenez une tâche que vous pourriez automatiser, comme trier les courriels de clients, et écrivez trois lignes : les consignes que vous mettriez dans un message développeur, les champs exacts que vous voulez recevoir (par exemple catégorie, urgence, résumé), et quelles demandes méritent un raisonnement lent et minutieux plutôt qu’une réponse rapide.
Comment un développeur devrait-il commencer à créer avec o1?
D’abord, vérifiez à quel palier d’utilisation se trouve votre compte OpenAI. Si vous n’êtes pas au palier 5, continuez de créer avec GPT-4o ou o1-mini et concevez votre application de façon à pouvoir changer facilement de modèle plus tard.
Quand vous aurez accès, commencez par un message développeur qui fixe les règles et une sortie structurée qui définit la forme de la réponse :
Message développeur : Tu examines les demandes de remboursement de dépenses d’une petite entreprise. Suis le texte de la politique fourni. Réponds uniquement dans le format JSON défini par le schéma, avec les champs "decision" (approve, reject ou ask), "reason" (une phrase) et "policy_section".Testez la même série d’exemples réels avec différents réglages de reasoning_effort et comparez la justesse, le temps de réponse et le coût. Utilisez l’appel de fonctions pour tout ce qui exige des données à jour au lieu de demander au modèle de deviner. Et gardez une vérification humaine sur les décisions qui touchent l’argent ou des personnes jusqu’à ce que vos tests montrent que les résultats sont fiables.
Sources
- OpenAI o1 and new tools for developers — OpenAI, 17 décembre 2024
- OpenAI brings its o1 reasoning model to its API — for certain developers — TechCrunch, 17 décembre 2024