Comment utiliser Gemini 2.5 Pro pour de longs documents?

Gemini 2.5 Pro, que Google a lancé comme modèle expérimental le 25 mars, a une fenêtre de contexte d’un million de jetons. La fenêtre de contexte est la quantité de texte qu’un modèle peut considérer d’un coup; un jeton est un morceau de mot, et un million de jetons équivaut à environ 750 000 mots. C’est assez pour un long rapport annuel, un ensemble de contrats ou un épais manuel technique en une seule requête, avec de la place pour vos questions. Google annonce qu’une fenêtre de deux millions de jetons s’en vient.

C’est aussi un modèle qui réfléchit : avant de répondre, il travaille le problème intérieurement. Pour les documents, cela aide avec les questions qui combinent des faits tirés de différents chapitres, comme « Le budget de la section 7 correspond-il aux cibles de la section 2? » Pour l’instant, vous pouvez l’utiliser par l’API Gemini, dans Google AI Studio (l’espace de travail de Google pour les développeurs) et dans l’application Gemini si vous êtes abonné à Gemini Advanced.

Un exemple complet : un rapport annuel de 300 pages

Imaginez une conseillère municipale qui reçoit le rapport annuel de 300 pages d’un organisme régional et qui a une fin de semaine pour préparer ses questions. Le rapport et les résultats décrits ici sont donnés à titre d’exemple.

Étape 1 : téléverser et compter. Avec l’API Gemini et la bibliothèque Python google-genai de Google, vous téléversez le PDF une seule fois et le réutilisez pour chaque question. Compter les jetons d’abord vous indique si le fichier entier tient dans la fenêtre.

import os
from google import genai

client = genai.Client(api_key=os.environ["GOOGLE_API_KEY"])
MODEL = "gemini-2.5-pro-exp-03-25"

report = client.files.upload(file="annual-report-2024.pdf")

tokens = client.models.count_tokens(model=MODEL, contents=[report, "Résume."])
print(tokens.total_tokens)   # doit être bien en dessous de 1 000 000

L’API Gemini lit chaque page d’un PDF comme une image de la page, plus le texte qui en est extrait; les tableaux, graphiques et légendes sont donc accessibles au modèle, pas seulement le corps du texte. Les fichiers téléversés sont conservés pendant deux jours.

Étape 2 : demander une carte avant de demander des réponses.

Énumère chaque chapitre et chaque annexe de ce rapport avec son numéro de page de départ,
et donne une phrase sur ce que chacun couvre. Utilise les numéros de page imprimés sur
les pages. Si une section n’a pas de numéro de page imprimé, dis-le.

Cette première réponse est votre liste de contrôle. Vous pouvez la comparer en une minute avec la table des matières du rapport.

Étape 3 : poser des questions avec citations.

Réponds à partir de ce rapport seulement.
1. Quelles ont été les dépenses de fonctionnement totales cette année et l’an dernier?
2. Quels sont les trois programmes dont les dépenses ont le plus augmenté?
3. Des cibles de la section sur le plan stratégique sont-elles déclarées comme non atteintes?
Pour chaque fait, donne le numéro de page et une citation d’au plus 15 mots.
Si le rapport ne le dit pas, écris « Absent du rapport. » Ne fais pas d’estimation.

response = client.models.generate_content(
    model=MODEL,
    contents=[report, open("questions.txt").read()],
)
print(response.text)

Demander une page et une courte citation fait deux choses : cela pousse le modèle à ancrer chaque réponse dans le texte, et cela vous donne quelque chose de rapide à vérifier.

Des conseils qui font gagner du temps

• Un document, beaucoup de questions. Gardez le fichier téléversé et envoyez plusieurs courtes requêtes plutôt qu’un énorme prompt; chaque réponse est plus facile à vérifier.
• Nommez la section quand vous le pouvez. « Dans les états financiers, … » restreint la recherche et réduit les confusions entre des tableaux semblables.
• Demandez les contradictions. « Où le rapport se contredit-il? » est une question pour laquelle les modèles à long contexte sont doués et que les humains trouvent fastidieuse.
• Surveillez l’étiquette. Il s’agit d’une version expérimentale; le comportement et la disponibilité peuvent donc changer. Enregistrez les prompts et les réponses sur lesquels vous comptez.

Comment vérifier qu’il a tout lu?

Vous ne pouvez pas regarder un modèle lire, mais vous pouvez tester si ses réponses puisent dans toutes les parties du document. D’abord, le compte de jetons de l’étape 1 confirme que le fichier entier a été envoyé. Si le nombre semble beaucoup trop bas pour 300 pages, le PDF est peut-être une numérisation dont on peut extraire peu de texte, ou le téléversement a peut-être échoué.

Ensuite, utilisez la carte des chapitres de l’étape 2 comme test de couverture. Posez une question précise sur chaque partie, en vous assurant d’inclure le dernier tiers du document et les annexes, les parties qu’un lecteur pressé risque le plus de sauter. Une bonne question a une seule réponse vérifiable : « Quel est le chiffre de la dernière ligne du tableau sur les effectifs de l’annexe C? » Si les réponses sur les dernières pages sont vagues ou fausses alors que celles sur les premières pages sont précises, considérez l’analyse comme incomplète.

Enfin, vérifiez les citations. Inutile de les vérifier toutes; choisissez-en cinq au hasard et ouvrez ces pages. Les citations doivent correspondre mot pour mot à la page citée. Une citation qui existe, mais qui se trouve sur une autre page, est une petite erreur; une citation qui n’existe pas du tout est une erreur grave, et un signe qu’il faut reposer cette question de façon plus précise. Combinez les trois vérifications, et vous saurez non seulement ce que le modèle a dit, mais aussi à quel point vous pouvez vous y fier.