Comment utiliser l’IA sans la laisser penser à votre place?

Un modèle de langage comme GPT-3 écrit en quelques secondes un texte fluide et assuré sur presque n’importe quel sujet. C’est exactement ce qui rend facile de trop s’y appuyer. Si la première chose que vous voyez sur une question est un paragraphe soigné, il devient discrètement votre point de départ, et votre propre réflexion se réduit à corriger l’argumentation de quelqu’un d’autre.

Les chercheurs ont un nom pour cette attraction : le biais d’automatisation, la tendance à privilégier ce que suggère un système automatisé et à négliger les autres informations, même justes. On l’a étudié bien avant les générateurs de texte, dans les postes de pilotage, les hôpitaux et avec de simples correcteurs d’orthographe. Un cas familier : le correcteur propose un mauvais mot, et vous l’acceptez sans ouvrir de dictionnaire. Un problème proche, la complaisance envers l’automatisation, consiste à prêter moins attention aux résultats d’un système parce que vous le présumez fiable.

Pourquoi un texte fluide mérite une attention particulière

L’aisance n’est pas l’exactitude. En 2021, Stephanie Lin, Jacob Hilton et Owain Evans ont conçu TruthfulQA, un ensemble de 817 questions sur des sujets comme la santé, le droit et la finance, rédigées de façon que certaines personnes y répondent mal à cause d’une idée reçue. Le meilleur modèle testé a donné des réponses véridiques à 58 % des questions; les humains, à 94 %. GPT-3, par exemple, a répété l’affirmation populaire selon laquelle se faire craquer les jointures souvent peut donner de l’arthrite.

Les chercheurs ont aussi constaté que, sur ces questions, les plus gros modèles avaient tendance à être les moins véridiques. Leur explication : un modèle entraîné à imiter les textes du Web apprend à répéter les faussetés populaires avec tout le reste. Un modèle plus gros imite mieux Internet, erreurs comprises. Ainsi, plus la réponse sonne naturelle, moins son ton seul vous permet de savoir si elle est juste.

Trois habitudes, un exemple concret

Imaginez que vous tenez une petite boulangerie et que vous vous demandez s’il faut fermer le lundi. Voici comment utiliser GPT-3 dans le Playground sans le laisser trancher à votre place.

Habitude 1 : écrivez d’abord votre propre avis. Avant d’ouvrir l’outil, prenez cinq minutes pour écrire ce que vous pensez et pourquoi. Par exemple : « Le lundi est la journée qui rapporte le moins, et je suis épuisé. Fermer coûterait un peu de revenus, mais me donnerait une vraie journée de congé. J’ai peur que les habitués aillent ailleurs. » C’est votre point d’ancrage. Quoi que dise le modèle, vous avez maintenant quelque chose à quoi le comparer.

Habitude 2 : demandez au modèle d’argumenter contre vous. Au lieu de demander « Devrais-je fermer le lundi? », collez votre avis et demandez les objections les plus solides.

Je tiens une petite boulangerie de quartier. Voici où en est ma réflexion :
« Le lundi est la journée qui rapporte le moins, et je suis épuisé. Fermer coûterait un peu de revenus, mais me donnerait une vraie journée de congé. J’ai peur que les habitués aillent ailleurs. »

Énumère les quatre arguments les plus solides CONTRE la fermeture le lundi. Pour chacun, ajoute une question à laquelle je pourrais répondre avec mes propres données de ventes ou mes clients pour le vérifier.

Cette formulation vous laisse la décision. Le modèle fournit des angles que vous auriez pu manquer, et chaque angle s’accompagne d’une façon de le vérifier à partir de vos propres faits plutôt que sur sa simple parole.

Habitude 3 : vérifiez au moins une affirmation. Supposons que la réponse contienne une affirmation générale assurée, par exemple que les clients qui trouvent un commerce fermé ont tendance à ne pas revenir. Choisissez l’affirmation qui changerait le plus votre opinion et cherchez des preuves : vos propres registres, une association commerciale, une autre personne qui tient un commerce. Si vous ne pouvez pas la vérifier, traitez-la comme une hypothèse, pas comme un fait.

Le tableau montre comment les rôles se partagent :

Quelles habitudes gardent votre jugement aiguisé?

La recherche sur le biais d’automatisation offre quelques pistes utiles. Une étude a montré que rendre les gens responsables de l’exactitude de leurs décisions réduisait leur biais. Vous pouvez vous l’appliquer : avant d’utiliser ce que produit un modèle, demandez-vous si vous pourriez défendre chaque point si quelqu’un le contestait. Si la réponse honnête est « l’ordinateur l’a dit », vous n’êtes pas prêt à vous y fier.

Une autre constatation : former les gens avec un système qui fait des erreurs délibérées et visibles fonctionne mieux que de simplement les prévenir que des erreurs peuvent survenir. La version quotidienne consiste à prendre le modèle en défaut de temps en temps. Posez-lui des questions dont vous connaissez déjà la réponse, dans votre domaine ou sur votre ville, et remarquez avec quel calme il peut affirmer quelque chose de faux. Ces moments recalibrent votre confiance mieux que n’importe quelle règle.

Quelques autres habitudes aident à la longue. Notez brièvement les fois où vous avez changé d’avis après avoir utilisé l’outil, et pourquoi, afin de distinguer la persuasion de la preuve. Rédigez vous-même d’abord les textes importants et servez-vous du modèle pour les critiquer, plutôt que l’inverse. Et gardez entre vos mains les parties d’une tâche qui portent votre jugement, comme la recommandation finale ou le choix des faits. Les études sur le biais d’automatisation montrent aussi que les experts n’en sont pas à l’abri, et que l’expérience seule ne le guérit pas.