Pourquoi les outils d’IA ont-ils encore besoin d’une supervision humaine?

Un robot conversationnel qui ne fait qu’écrire du texte peut vous induire en erreur, mais c’est toujours vous qui agissez à partir de sa réponse. Les plugiciels (plugins) changent cela. OpenAI les décrit comme des outils qui permettent à ChatGPT d’aller chercher des informations récentes, de faire des calculs ou d’utiliser des services externes et, quand l’utilisateur le demande explicitement, de poser des actions limitées en son nom. Un plugiciel peut remplir un panier d’épicerie, chercher une table au restaurant ou confier une tâche à une autre application. C’est utile, et c’est aussi le moment où la supervision humaine compte le plus.

« Une personne dans la boucle » (human in the loop) est le nom tout simple de cette pratique : l’IA propose, une personne approuve, et seulement ensuite quelque chose se produit dans le monde réel. Ce n’est pas un signe de méfiance envers la technologie. C’est ainsi que vous traiteriez n’importe quel nouvel assistant, aussi compétent soit-il, pendant ses premiers mois en poste.

Où les choses tournent mal

Il y a trois points de défaillance courants, et aucun n’exige une panne spectaculaire.

La demande est ambiguë. « Réserve un souper pour vendredi » ne précise ni l’heure, ni le nombre de personnes, ni le budget, ni de quel vendredi il s’agit. Un assistant humain poserait la question. Un modèle de langage comble souvent les trous avec des suppositions plausibles et poursuit son chemin.

Les faits sont inventés. Les modèles de langage génèrent les mots suivants les plus probables, pas des faits vérifiés. Le rapport d’OpenAI sur GPT-4 dit clairement que le modèle invente encore des choses. Sa section sur la sécurité ajoute une mise en garde subtile : à mesure que les réponses deviennent plus exactes, les gens leur font davantage confiance, ce qui rend les erreurs restantes plus difficiles à remarquer. Le rapport appelle cela la dépendance excessive (overreliance).

Le contenu reçu est hostile. Quand un plugiciel lit une page Web ou un courriel, ce texte entre dans le contexte du modèle, et quelqu’un peut l’avoir rédigé pour orienter le modèle. Les propres tests d’équipe rouge (red team) d’OpenAI ont montré que des plugiciels sans protections pouvaient être poussés à l’injection de prompt (des consignes cachées dans le contenu que lit le modèle) ou à l’envoi de pourriels et de courriels frauduleux.

OpenAI a réagi en imposant ses propres limites. Son plugiciel de navigation peut seulement lire des pages et ne peut pas soumettre de formulaires, ce qui le tient à l’écart des transactions. L’entreprise a aussi déployé les plugiciels par étapes, pour pouvoir étudier comment ils sont utilisés. Ces limites aident, mais elles ne peuvent pas savoir ce que vous vouliez dire.

Le jugement reste humain

Certaines décisions exigent plus que de l’exactitude. Un message est-il bienveillant, un achat correspond-il à vos valeurs, un changement d’agenda va-t-il contrarier un collègue : ces questions demandent du contexte, de l’éthique et un sens des gens que le modèle n’a pas. ChatGPT : Le Guide Pour Débutant fait la même remarque au sujet des plugiciels : ils assistent, mais le jugement moral et le dernier mot appartiennent à l’utilisateur.

Il y a aussi un côté pratique. Un plugiciel n’est pas toujours plus rapide. Réserver un hôtel par une conversation peut demander plusieurs échanges pour préciser les dates, l’emplacement, le type de chambre et le budget, alors que le formulaire de recherche d’un site de réservation peut le faire d’un seul coup. Superviser, c’est aussi se demander si l’IA est le bon outil pour cette tâche.

Un exemple concret : la liste de vérification avant l’action

Disons que vous demandez à ChatGPT, avec un plugiciel de restaurant activé, de réserver une table pour un dîner d’équipe. Avant de confirmer quoi que ce soit, demandez-lui d’exposer son plan. Ce prompt fonctionne avec n’importe quel plugiciel qui envoie, réserve ou achète :

Avant d’utiliser un plugiciel pour envoyer, réserver ou acheter quelque chose, arrête-toi et montre-moi :
1. L’action exacte que tu prévois faire, et le plugiciel qui va la faire.
2. Chaque détail que tu vas transmettre (noms, dates, heures, montants, adresses).
3. Tout détail que tu as deviné ou rempli toi-même, indiqué comme une supposition.
4. Ce que ça va coûter, et si ça peut être annulé ou défait.
Attends que je réponde « vas-y » avant de faire quoi que ce soit.

Lisez ensuite la réponse à la lumière de cette liste :

Une réponse pourrait montrer, par exemple, que le modèle a supposé un dîner pour six alors que vous vouliez dire huit. Le remarquer prend dix secondes. Le corriger après la réservation demande un appel téléphonique.

Que faut-il vérifier avant de laisser un outil agir?

Commencez par l’action elle-même : qu’est-ce qui va se passer exactement, par quel plugiciel et à l’égard de qui. Vérifiez ensuite chaque détail concret, parce que c’est dans les noms, les dates, les montants et les adresses que les petites erreurs coûtent le plus cher. Demandez à l’outil de signaler ses propres suppositions. Il les mentionne rarement de lui-même, et le lui demander directement en fait apparaître un bon nombre.

Pesez ensuite les enjeux. Tout ce qui touche à l’argent, aux messages destinés à d’autres personnes ou aux renseignements personnels mérite un examen plus lent qu’une recherche ou un résumé. Vérifiez si l’étape peut être annulée. Lire une page peut toujours se refaire; un courriel envoyé ne peut pas être rappelé.

Enfin, regardez d’où vient l’information. Si le plan repose sur une page Web, un avis ou un courriel reçu, rappelez-vous que ce texte peut contenir des consignes destinées au modèle plutôt qu’à vous. Quand quelque chose dans le plan semble étrange, arrêtez-vous, demandez pourquoi, et ne répondez « vas-y » que lorsque chaque ligne a du sens.