Que signifie la règle de la « supervision humaine » du livre pour les agents d’IA?

ChatGPT : Le Guide Pour Débutant a été écrit au moment où ChatGPT commençait tout juste à sortir de la fenêtre de clavardage grâce aux plugiciels, de petits modules d’extension qui lui permettaient de consulter de l’information en direct ou d’agir dans d’autres services. Dans le chapitre sur les plugiciels, le livre fait valoir un point qui n’a fait que gagner en pertinence : ces outils sont puissants, mais pas infaillibles. Une demande vague ou une complication imprévue peut donner un mauvais résultat; une personne doit donc vérifier à la fois ce que dit l’IA et ce qu’elle fait. Les questions éthiques, la vie privée et les décisions qui exigent des nuances restent entre les mains des gens.

Le livre fait aussi une observation pratique qu’on oublie facilement : parfois, la voie automatisée est plus lente. Son exemple est la réservation d’un hôtel par un plugiciel, qui peut demander plusieurs allers-retours de prompts alors qu’une recherche directe sur un site de réservation serait plus rapide.

Le 17 juillet 2025, OpenAI a lancé ChatGPT agent, qui permet à ChatGPT d’accomplir des tâches à plusieurs étapes sur son propre ordinateur virtuel : naviguer, remplir des formulaires, exécuter du code, créer des tableurs et des diapositives. Un agent, en ce sens, est une IA qui décide de la prochaine étape vers un objectif et la franchit, plutôt que de seulement répondre. C’est exactement la situation pour laquelle la règle du livre a été écrite, et les propres mesures de protection d’OpenAI y correspondent de près.

Comment la règle s’applique à ChatGPT agent

OpenAI parle ouvertement du principal nouveau risque : l’injection de prompt (prompt injection), où une page Web contient des consignes cachées destinées à détourner l’agent, par exemple pour faire fuir des données d’un compte connecté. Ses conseils comprennent la désactivation des connecteurs (les liens vers des applications comme Gmail ou GitHub) quand une tâche n’en a pas besoin. TechCrunch a aussi rapporté qu’OpenAI a désactivé la fonction de mémoire de ChatGPT pour l’agent afin de réduire ce risque.

Une liste d’approbation, pas à pas

Avant de lancer une tâche, décidez où l’agent doit s’arrêter et vous attendre. Dites-le ensuite dans le prompt, avec la méthode du livre : rôle, contexte, tâche, format et vérification finale.

Tu m’aides à planifier un séjour de deux nuits pour une famille de quatre personnes à Québec à la mi-août.
Contexte : budget d’environ 250 dollars par nuit, deux lits nécessaires, à distance de marche du Vieux-Québec.
Tâche : cherche des options et remplis un tableau comparatif (nom, prix par nuit, lits, distance, politique d’annulation, lien).
Arrête-toi et demande-moi avant de : te connecter où que ce soit, ajouter quoi que ce soit à un panier, entrer des renseignements personnels ou accepter des conditions.
Ne réserve et ne paie rien. Je ferai la réservation moi-même.
Format : le tableau, puis tes deux meilleurs choix avec une ligne chacun.

Quand l’agent demande une approbation en cours de route, faites chaque fois cette courte vérification :

1. Qu’est-ce qui va se passer exactement? Lisez l’action, le site et le montant ou le destinataire.
2. Est-ce bien ce que j’ai demandé? Comparez avec vos limites de départ.
3. Est-ce une page Web qui a suggéré cette étape? Si l’idée vient d’une page plutôt que de vous, arrêtez la tâche.
4. Peut-on revenir en arrière? Sinon, ralentissez ou faites-le vous-même.
5. Qu’est-ce que je vérifierai ensuite? Décidez dès maintenant comment vous vérifierez le résultat.

Quelles actions d’un agent exigent votre approbation chaque fois?

Certaines actions sont assez courantes pour laisser l’agent travailler seul : chercher, lire des pages, résumer et ébaucher un tableau dans son propre espace de travail. Vous révisez le résultat à la fin, comme le livre le recommande pour toute réponse d’une IA, en vérifiant les noms, les chiffres, les prix et les liens sur les sites d’origine.

D’autres actions ne devraient jamais se faire sans vous, peu importe combien de fois vous les avez déjà faites :

• Dépenser de l’argent. Tout achat, dépôt, réservation ou abonnement. Vérifiez l’article, le total et le site.
• Envoyer en votre nom. Courriels, messages, publications, envois de formulaires ou invitations. Lisez le texte final et le destinataire.
• Se connecter. Prenez le contrôle du navigateur et tapez vous-même vos identifiants; ne donnez jamais un mot de passe ou un numéro de carte à l’agent dans la conversation.
• Communiquer des renseignements personnels. Adresses, numéros de téléphone, pièces d’identité ou renseignements de santé entrés dans un formulaire.
• Modifier ou supprimer. Paramètres de compte, fichiers, entrées d’agenda ou tout ce qui ne peut pas être annulé facilement.
• Accepter des conditions. Ententes, autorisations pour des applications connectées et choix relatifs aux témoins (cookies).

Les virements d’argent forment une catégorie à part : ChatGPT agent est conçu pour les refuser, et vous devriez garder les choses ainsi en faisant vos opérations bancaires directement.