Comment développer avec GPT-6.1 Sol dans l’API?

GPT-6.1 Sol est le modèle à prix moyen qu’OpenAI a présenté au DevDay le 29 septembre. Pour les développeurs, il est accessible par l’API sous le nom gpt-6.1-sol, à 2 $ US par million de jetons d’entrée, 10 $ US par million de jetons de sortie et 0,10 $ US par million de jetons d’entrée en cache. Un jeton est un petit morceau de texte, souvent une partie de mot, et c’est l’unité que vous payez.

Développer avec ce modèle demande trois décisions : quelle API appeler, à quel point le modèle doit réfléchir et comment organiser votre prompt pour que les parties répétées coûtent moins cher. Ce guide les passe en revue une à une avec un petit programme fonctionnel que vous pouvez adapter.

Étape 1 : faire un premier appel

La bibliothèque Python officielle d’OpenAI, installée avec pip install openai, traite la Responses API comme sa principale façon de communiquer avec les modèles. Vous envoyez des consignes et une entrée, et vous lisez la réponse dans un seul champ. La bibliothèque cherche votre clé dans la variable d’environnement OPENAI_API_KEY, si bien que la clé n’a jamais besoin d’apparaître dans votre code.

from openai import OpenAI

client = OpenAI()  # utilise la variable d'environnement OPENAI_API_KEY

response = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "medium"},
    instructions="Tu es un réviseur attentif. Réponds en français simple.",
    input="Réécris cette phrase pour un débutant : « La latence est bornée par les E/S. »",
)

print(response.output_text)

Trois parties comptent ici. model choisit GPT-6.1 Sol. instructions contient les règles permanentes, la partie qui reste la même d’une requête à l’autre. input contient ce qui change chaque fois. Le réglage reasoning est expliqué ensuite.

Étape 2 : choisir un effort de raisonnement

GPT-6.1 Sol est un modèle de raisonnement : avant de répondre, il travaille le problème en étapes cachées que vous payez aussi comme jetons de sortie. Le réglage de l’effort de raisonnement détermine la quantité de cette réflexion. La bibliothèque Python énumère les valeurs que l’API accepte en général : none, minimal, low, medium, high, xhigh et max. Ce ne sont pas tous les modèles qui acceptent toutes les valeurs : testez donc celle que vous prévoyez utiliser.

Les chiffres de lancement d’OpenAI laissent croire que vous n’aurez peut-être pas besoin de réglages élevés pour le travail courant. L’entreprise rapporte qu’à DeepSWE v1.1, un test de longues tâches de programmation, GPT-6.1 Sol a battu le meilleur résultat de GPT-6 Sol avec un effort plus bas. Elle affirme aussi que la plus forte baisse des erreurs factuelles s’est produite à effort bas, où la part des réponses comportant une erreur est passée de 11,4 % à 7,7 % sur des prompts volontairement difficiles.

Une routine raisonnable : commencez à medium, essayez low sur les mêmes cas de test, et passez à high ou plus seulement pour les tâches où les réglages plus bas échouent visiblement.

Étape 3 : placer la partie fixe en premier pour qu’elle soit mise en cache

La mise en cache des prompts veut dire que l’API se souvient du début d’un prompt qu’elle a vu récemment. Quand une nouvelle requête commence par le même texte, ces jetons sont facturés au tarif en cache. Pour GPT-6.1 Sol, ce tarif est de 0,10 $ US par million de jetons au lieu de 2 $ US, un rabais de 95 %.

La règle est simple : tout ce qui ne change jamais vient en premier, et tout ce qui change vient en dernier. Voici un outil de rédaction de réponses de soutien construit de cette façon.

from openai import OpenAI

client = OpenAI()

with open("support_policy.md") as f:   # règles et exemples longs, qui ne changent pas
    POLICY = f.read()

def draft_reply(customer_message, effort="low"):
    response = client.responses.create(
        model="gpt-6.1-sol",
        reasoning={"effort": effort},
        instructions=POLICY,        # même texte chaque fois : favorable au cache
        input=customer_message,     # change chaque fois : vient en dernier
    )
    cached = response.usage.input_tokens_details.cached_tokens
    print(f"entrée {response.usage.input_tokens}, en cache {cached}, "
          f"sortie {response.usage.output_tokens}")
    return response.output_text

print(draft_reply("Ma facture montre deux frais pour octobre."))

La ligne affichée vous permet de confirmer que la mise en cache fonctionne : après la première requête, le nombre de jetons en cache devrait être proche de la longueur du texte de votre politique.

Combien cela fait-il économiser? Supposons que la politique compte 4 000 jetons, chaque message de client 500, chaque réponse 400, et que vous envoyez 1 000 requêtes par jour. Les chiffres ci-dessous sont donnés à titre d’illustration, selon les prix affichés.

Les jetons de raisonnement comptent comme sortie : un effort plus élevé fait donc grimper la dernière ligne. C’est une raison de plus de tester d’abord les réglages plus bas.

Étape 4 : vérifier les résultats avant de tout basculer

Les bancs d’essai du fabricant d’un modèle décrivent les tâches du fabricant, pas les vôtres. Gardez un petit ensemble de 20 à 50 vraies entrées avec des réponses auxquelles vous faites confiance, passez-les dans votre modèle actuel et dans GPT-6.1 Sol, et comparez la qualité, la vitesse et le coût. Ne faites basculer une fonction que lorsque le nouveau modèle tient bon sur cet ensemble.

Qu’est-ce qui a changé pour les développeurs?

Le code change à peine. Si votre application utilise déjà la Responses API, passer à GPT-6.1 Sol peut se résumer à modifier une ligne, la valeur de model. Les vrais changements portent sur le prix, l’effort et le comportement.

Côté prix, l’entrée en cache coûte maintenant 0,10 $ US par million de jetons, ce qui, selon OpenAI, est la moitié du tarif en cache de GPT-6 Sol. Les applications qui renvoient de longues consignes, des documents ou des définitions d’outils en profitent le plus : il vaut donc la peine de vérifier que vos prompts placent ces parties en premier. Par rapport à GPT-6 Astra, OpenAI fixe le prix de GPT-6.1 Sol au cinquième des tarifs standard d’entrée et de sortie.

Côté effort, les résultats du lancement indiquent que des réglages plus bas en font plus qu’avant. Réajustez plutôt que de copier votre ancien réglage : passez votre ensemble de test avec l’effort que vous utilisez aujourd’hui et avec un cran de moins, et gardez le moins cher si les réponses tiennent.

Côté comportement, OpenAI rapporte que GPT-6.1 Sol est plus franc au sujet de ses limites que GPT-6 Sol, plus fiable pour respecter les restrictions explicites et meilleur pour dire aux utilisateurs quand un outil comme la recherche est en panne. Si votre application compte sur le fait que le modèle suive des règles du genre « ne jamais faire X », relancez aussi ces tests. Un meilleur comportement dans les évaluations d’OpenAI est bon signe, mais vos propres garde-fous méritent leur propre vérification.