# Comment lire avec esprit critique un texte généré par l’IA?

Date: 2020-10-06 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/lire-texte-genere-par-ia-avec-esprit-critique/

**Answer:** Lisez un texte généré par l’IA en vous demandant comment il a été produit autant que ce qu’il dit : qui a écrit le prompt, combien d’essais ont été faits, ce qu’une personne a choisi ou modifié, et si les affirmations tiennent la route. Une écriture machine fluide peut cacher un fort pilotage humain et des faits non vérifiés; l’histoire derrière le texte compte donc autant que le texte.

Des textes écrits par des modèles de langage comme GPT-3 d’OpenAI paraissent maintenant dans les journaux, les blogues et les médias sociaux, parfois clairement identifiés, parfois non. Ils peuvent être fluides, convaincants et grammaticalement impeccables. Ces qualités en disent peu sur la part réelle du travail faite par une machine, sur le nombre d’essais qu’il a fallu ou sur la véracité du contenu.

Bien lire ce genre de texte demande d’ajouter une deuxième couche d’attention. Vous vous demandez toujours ce que le texte affirme et si ces affirmations sont appuyées. Mais vous vous demandez aussi comment il a vu le jour. Un exemple très commenté le mois dernier montre pourquoi les deux couches comptent.

## L’exemple concret : la chronique GPT-3 du Guardian

Le 8 septembre, le Guardian a publié un texte d’opinion sous le titre « Un robot a écrit tout cet article. Avez-vous peur, humain? » L’essai, attribué à GPT-3, soutient que les gens n’ont rien à craindre de l’intelligence artificielle. Il se lit bien et défend sa thèse avec vivacité.

L’essentiel se trouve en bas de la page. Une note de la rédaction explique comment le texte a été produit :

- Le Guardian a rédigé les consignes, en demandant un court texte d’opinion d’environ 500 mots, dans une langue simple, sur les raisons pour lesquelles les humains n’ont pas à craindre l’IA.
- Il a aussi fourni un paragraphe d’ouverture tout prêt qui exposait l’argument que l’essai devait défendre.
- Liam Porr, étudiant en informatique à UC Berkeley, a soumis ces prompts à GPT-3.
- GPT-3 a produit huit essais distincts.
- La rédaction a pris les meilleurs passages de chacun, a coupé des lignes et des paragraphes, et en a réorganisé certains.

La note ajoute que cela a pris moins de temps que la révision de bien des textes d’opinion écrits par des humains. Lu avec cette information, le texte paraît différent. Des personnes ont choisi le sujet, la position, l’ouverture et la longueur. Une machine a produit huit ébauches. Des personnes ont ensuite choisi et assemblé les passages les plus forts. L’essai publié est une véritable collaboration, mais « un robot a écrit tout cet article » n’en est pas une description exacte.

Le même jour, Thomas Macaulay, de The Next Web, a souligné que le journal n’avait pas publié les huit textes originaux ni dressé la liste de ses modifications. Sans eux, les lecteurs ne peuvent juger ni la qualité de l’écriture brute de GPT-3, ni la part de la qualité finale qui vient des choix de la rédaction. Daniel Leufer, boursier de Mozilla, a dit que les huit essais non révisés auraient été la chose la plus intéressante à voir.

## Un deuxième cas : quand il n’y a aucune mention

Le Guardian a au moins dévoilé sa méthode. En août, la MIT Technology Review a fait état d’un blogue que Porr lui-même avait tenu sous un nom inventé, avec des billets générés par GPT-3 grâce à un étudiant des cycles supérieurs qui y avait accès. Il donnait au modèle un titre et une introduction, générait plusieurs versions et en publiait une avec peu ou pas de révision. Un billet a atteint le sommet de Hacker News, un forum technologique populaire, et certains lecteurs se sont abonnés.

Porr a dit au magazine qu’il avait choisi exprès des sujets de productivité et de croissance personnelle, parce que GPT-3 est doué pour la langue agréable et faible en logique rigoureuse. Parmi les dizaines de personnes qui ont commenté son billet le plus populaire, seulement trois ou quatre ont laissé entendre qu’une machine l’avait peut-être écrit, et d’autres lecteurs ont voté contre ces commentaires.

Pris ensemble, les deux cas donnent des leçons complémentaires. Un texte identifié peut quand même induire en erreur par la façon dont il est présenté. Un texte non identifié peut passer inaperçu, surtout dans les genres qui récompensent un ton chaleureux plus qu’une argumentation rigoureuse.

## Des habitudes de lecture qui aident

- **Lisez d’abord les petits caractères.** Les notes de la rédaction, les légendes et les avertissements contiennent souvent les faits les plus importants sur la façon dont un texte a été produit.
- **Séparez le style du fond.** Demandez-vous ce que le texte affirme réellement, phrase par phrase. Des paragraphes fluides peuvent porter un raisonnement vague ou circulaire.
- **Repérez la sélection.** Si une vitrine présente le meilleur de plusieurs sorties, vous voyez le haut de l’éventail, pas le résultat typique.

> **À essayer :** trouvez la chronique du Guardian et lisez seulement l’essai. Écrivez une phrase sur le degré d’admiration qu’il vous inspire. Lisez ensuite la note de la rédaction en bas de page et écrivez une deuxième phrase. Comparez les deux, et notez quels faits de la note ont changé votre point de vue.

## Quelles questions poser sur n’importe quel texte écrit par une machine?

Voici une liste de cinq questions à utiliser sur n’importe quel texte qu’un modèle a pu produire, qu’il soit identifié ou non.

1. **Qui a fixé la tâche?** Cherchez le prompt ou les consignes. Dans le cas du Guardian, le journal a choisi le sujet, la position et même le paragraphe d’ouverture. L’« opinion » d’un modèle reflète souvent le prompt qu’on lui a remis.
2. **Combien d’essais ont été faits, et qui a choisi?** Une sortie sur huit est un résultat sélectionné. Demandez-vous si vous voyez un échantillon typique ou le meilleur.
3. **Qu’est-ce que des personnes ont changé?** Couper, réordonner et réécrire peut transformer des ébauches brutes en un texte soigné. Si les modifications ne sont pas dévoilées, accueillez avec prudence les affirmations sur les capacités de la machine.
4. **Les faits et les sources sont-ils réels?** Les modèles de langage produisent du texte plausible, pas du texte vérifié. Vérifiez les noms, les nombres, les citations et les références auprès de sources fiables avant de les répéter.
5. **À qui profite la façon dont il est présenté?** Un titre spectaculaire attire les clics; un auteur machine caché peut remplir un blogue à peu de frais. Demandez-vous pourquoi le texte est présenté ainsi, et ce que cette présentation laisse de côté.

Aucune de ces questions ne suppose qu’un texte écrit par une machine est mauvais. Une collaboration clairement décrite et bien révisée peut être utile et valoir la lecture. Le but est de savoir ce que vous lisez, pour pouvoir en juger en connaissance de cause.

## Sources

- A robot wrote this entire article. Are you scared yet, human?: https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3
- The Guardian's GPT-3-generated article is everything wrong with AI media hype: https://thenextweb.com/news/the-guardians-gpt-3-generated-article-is-everything-wrong-with-ai-media-hype
- A college kid created a fake, AI-generated blog. It reached #1 on Hacker News.: https://www.technologyreview.com/2020/08/14/1006780/ai-gpt-3-fake-blog-reached-top-of-hacker-news/