# Les enseignants devraient-ils s’inquiéter que leurs élèves utilisent des générateurs de texte par IA?

Date: 2021-10-16 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/enseignants-eleves-generateurs-texte-ia/

**Answer:** Les enseignants devraient être attentifs, mais se soucier moins de prendre les élèves en défaut que de concevoir des travaux qui restent formateurs maintenant que ces outils existent. Les applications d’écriture fondées sur des modèles comme GPT-3 peuvent produire des paragraphes fluides que les lecteurs ont du mal à distinguer d’un texte humain; les travaux qui montrent la réflexion, les sources et les brouillons comptent donc plus que jamais.

Un nombre croissant d’applications d’écriture fonctionnent maintenant sur de grands modèles de langage, des programmes entraînés sur d’énormes quantités de texte pour prédire le mot suivant. OpenAI a indiqué en mars que plus de 300 applications utilisaient déjà GPT-3 au moyen de son API, dans des catégories qui comprennent l’éducation, la productivité et l’écriture créative. Certains de ces outils peuvent transformer un sujet d’une ligne en plusieurs paragraphes en quelques secondes. Il est normal qu’un enseignant se demande ce que cela signifie pour la dissertation donnée vendredi.

La réponse courte : la préoccupation est réelle, mais gérable. Les outils sont imparfaits, souvent dans l’erreur sur les faits, et pas encore accessibles à tout le monde. La réponse longue : ils changent les travaux qui mesurent bien l’apprentissage, et cela vaut la peine d’y réfléchir maintenant, pendant que les outils sont encore nouveaux.

## Ce que les outils peuvent faire, et ce qu’ils ne peuvent pas faire

GPT-3 écrit en prolongeant un prompt avec les mots qui semblent les plus susceptibles de venir ensuite. Cela le rend doué pour une prose fluide, assurée et générique. Il ne vérifie pas les faits, il peut se contredire dans de longs passages et il peut se répéter. L’article de recherche qui a présenté GPT-3 énumère ouvertement ces faiblesses.

Le même article contient un résultat que les enseignants devraient connaître. Des chercheurs ont montré à des personnes de courts articles de presse d’environ 200 mots, certains écrits par des journalistes et d’autres par GPT-3, et leur ont demandé lesquels avaient été écrits par la machine. Pour le plus grand modèle, les gens ont eu raison environ 52 % du temps seulement, à peine mieux qu’à pile ou face. Une courte réponse d’élève n’est pas un article de presse, mais la leçon s’applique : une lecture attentive n’est pas un moyen fiable de détecter un texte produit par une machine.

Les auteurs rangent aussi la « rédaction frauduleuse de travaux scolaires » parmi les abus possibles de modèles comme le leur, à côté du pourriel et de la désinformation. La préoccupation n’est donc pas imaginaire : ce sont les concepteurs du modèle eux-mêmes qui l’ont soulevée.

## Un regard honnête sur les abus

Il existe aujourd’hui de vraies limites aux abus. L’accès à GPT-3 passe par l’API d’OpenAI, qui a une liste d’attente, et OpenAI dit examiner les applications avant leur mise en production et exiger des mesures de protection comme des limites de débit et la vérification des utilisateurs. Reste qu’une fois une application approuvée, toute personne qui s’y inscrit peut l’utiliser, et la complétion de texte est le fondement de chacune de ces applications.

Les points faibles de ces modèles indiquent quels travaux sont les plus exposés, et lesquels le sont le moins :

| Type de travail | Exposition | Pourquoi |
|---|---|---|
| Dissertation générique sur un sujet bien connu | Élevée | Exactement le genre de texte que le modèle a le plus vu |
| Résumé d’un livre célèbre | Élevée | Beaucoup de résumés semblables existent en ligne |
| Réaction à une discussion en classe ou à un événement local | Faible | Le modèle n’a accès ni à votre classe ni aux nouvelles de la semaine |
| Dissertation avec des sources précises citées et des numéros de page | Moindre | Le modèle invente des détails; la vérification des citations le trahit |
| Texte rédigé par étapes, avec brouillons et rétroaction | Faible | Le processus est visible, pas seulement le produit |
| Explication orale de son propre texte | Très faible | La compréhension doit se montrer en direct |

Rien de tout cela n’exige un logiciel pour « prendre » qui que ce soit. Il s’agit surtout de demander la réflexion derrière le texte, pas seulement la page finie.

## Un exemple concret : critiquer un brouillon produit par l’IA

L’une des activités les plus utiles en classe fait de l’outil l’objet d’étude. L’enseignant génère un brouillon à l’avance, avec un prompt comme celui-ci, et l’apporte en classe :

```prompt
Écris un paragraphe argumentatif de 200 mots, destiné à des élèves du secondaire, qui soutient que les villes devraient interdire les voitures dans les rues du centre-ville. Inclus deux statistiques et une citation d’un expert.
```

Les élèves travaillent ensuite en équipes de deux avec le paragraphe imprimé :

1. **Surlignez chaque affirmation factuelle**, surtout les statistiques et la citation.
2. **Essayez de vérifier chacune** à l’aide de la bibliothèque ou de sites Web fiables. Un modèle qui prédit des mots probables peut produire des chiffres et des citations qui semblent plausibles, mais qui n’existent pas, et en trouver un marque les esprits.
3. **Repérez le raisonnement** : où le paragraphe affirme-t-il quelque chose sans appui?
4. **Réécrivez-le** avec de vraies preuves, et écrivez deux phrases sur ce que vous avez changé et pourquoi.

Les élèves exercent exactement les compétences qui manquent à un brouillon généré : trouver des sources, vérifier et juger.

> **À essayer :** si vous avez accès à un outil d’écriture fondé sur GPT-3, générez un paragraphe sur une matière que vous enseignez et comptez les affirmations que vous ne pouvez pas vérifier en cinq minutes. Sinon, écrivez vous-même un paragraphe volontairement assuré qui contient deux faits inventés, et voyez à quelle vitesse une classe les trouve.

## Comment une classe peut-elle les utiliser ouvertement?

Commencez par une politique claire et écrite pour chaque travail : permis, permis avec déclaration, ou interdit. Les élèves qui connaissent la règle sont beaucoup moins susceptibles de glisser vers un usage abusif, et une règle de déclaration (« colle le prompt que tu as utilisé et indique les parties que tu as gardées ») fait de l’outil quelque chose dont on peut discuter plutôt que quelque chose qu’on cache.

Utilisez ensuite les outils là où ils aident à réfléchir plutôt que de remplacer la réflexion. Un paragraphe généré peut servir de contre-argument à réfuter, de premier jet à critiquer ou de série de questions auxquelles répondre dans ses propres mots. Comparer le résumé d’une lecture produit par un modèle avec la lecture elle-même montre aux élèves ce qui se perd ou se déforme. Demander trois introductions différentes pour la même dissertation et choisir la meilleure, raisons à l’appui, enseigne la révision.

Gardez bien en vue les étapes qui comptent le plus : le remue-méninges en classe, les brouillons avec rétroaction, de courtes rencontres où les élèves expliquent leurs choix. C’étaient déjà de bonnes pratiques pédagogiques avant les modèles de langage, et ce sont aussi elles qui rendent une classe résistante à ces modèles. Enfin, parlez avec les élèves des raisons pour lesquelles les outils se trompent sur les faits. Comprendre qu’un modèle prédit des mots probables, plutôt que d’aller chercher l’information, est en soi une leçon utile sur la façon de lire n’importe quoi en ligne.

## Sources

- Language Models are Few-Shot Learners: https://arxiv.org/abs/2005.14165
- GPT-3 Powers the Next Generation of Apps: https://web.archive.org/web/20210927153619/https://openai.com/blog/gpt-3-apps/