# Qu’était PARRY, le robot conversationnel de 1972 qui jouait un patient paranoïaque?

Date: 2019-10-04 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/parry-robot-conversationnel-paranoiaque/

**Answer:** PARRY était un programme de conversation écrit en 1972 par le psychiatre Kenneth Colby, de Stanford, pour imiter une personne atteinte de schizophrénie paranoïde, avec ses soupçons, ses peurs et une histoire bien arrêtée de preneurs aux livres et de mafia. On s’en souvient pour deux raisons : des psychiatres qui lisaient ses transcriptions ne parvenaient pas à le distinguer de façon fiable de vrais patients, et il a tenu des conversations tapées avec le DOCTOR d’ELIZA sur l’Internet naissant.

ELIZA, le programme de 1966 qui jouait un thérapeute, est le robot conversationnel dont tout le monde se souvient. En 1972, un psychiatre de Stanford a construit son reflet inversé : un programme qui jouait le patient. Kenneth Colby l’a appelé PARRY, et son « personnage » était un homme atteint de schizophrénie paranoïde qui se croyait surveillé et persécuté.

Là où ELIZA se contentait surtout de renvoyer les mots de l’utilisateur sous forme de questions, PARRY avait ses propres intentions. Il abordait ses propres inquiétudes, se montrait plus méfiant quand il se sentait contesté et ramenait sans cesse la conversation vers ce qu’il craignait. Cela en a fait l’un des premiers programmes conçus pour avoir quelque chose comme une personnalité, et l’un des premiers à être soumis à une version du test de Turing.

## Qui a construit PARRY, et pourquoi

Kenneth Colby était psychiatre au département de psychiatrie de Stanford et s’intéressait vivement aux ordinateurs. Contrairement à Joseph Weizenbaum, l’auteur d’ELIZA, qui affirmait que son programme n’avait aucune valeur thérapeutique, Colby prenait l’ordinateur au sérieux comme instrument scientifique. Il voyait PARRY comme un moyen d’étudier la paranoïa elle-même : si l’on pouvait mettre par écrit une théorie de la façon dont pense une personne paranoïaque, et si le programme bâti sur cette théorie se comportait comme un vrai patient, la théorie avait réussi un test.

Le programme date de 1972. Il tournait sur les ordinateurs du Stanford Artificial Intelligence Laboratory (SAIL), que les chercheurs pouvaient joindre à partir de terminaux et par l’ARPANET, le réseau de recherche qui est devenu Internet.

## Comment PARRY fonctionnait

PARRY ne comprenait pas le langage au sens profond. Comme ELIZA, il cherchait des motifs et des mots clés dans ce que tapait l’utilisateur. Ce qui le distinguait, c’était le modèle intérieur derrière ses réponses. Il possédait un ensemble de concepts et de croyances, et il jugeait chaque nouvel énoncé comme une chose à accepter, à rejeter ou à traiter comme neutre. Ses réponses dépendaient de ce jugement et d’une stratégie de conversation; il pouvait donc devenir plus soupçonneux ou plus ouvert à mesure que l’échange avançait.

Il avait aussi une histoire personnelle fixe. Dans une entrevue publiée, il dit s’appeler Frank Smith, avoir 28 ans et travailler au bureau de poste, puis il se plaint que la police arrête les mauvaises personnes et que la mafia veut sa peau. Posez-lui une question neutre et il répondra peut-être brièvement; abordez un sujet sensible et il fera remonter ses peurs.

Voici une illustration simplifiée d’un tour de conversation (les étapes sont une esquisse pédagogique, pas le véritable code de Colby) :

| Étape | Ce que fait PARRY | Exemple |
|---|---|---|
| 1 | Lit l’entrée et cherche des mots ou des sujets connus | « Pourquoi êtes-vous à l’hôpital? » mentionne l’hôpital |
| 2 | Compare le sujet à ses croyances | L’hôpital est lié à « Je ne devrais pas être ici » et à la police |
| 3 | Ajuste son état intérieur | Le sujet est sensible, donc la méfiance augmente |
| 4 | Choisit une réponse adaptée à cet état | Répond par une plainte contre la police |

Le résultat donnait l’impression d’une personne à la vision du monde cohérente, même si chaque réponse venait d’une recherche dans une table et de quelques règles.

## Le test avec des psychiatres

Au début des années 1970, l’équipe de Colby a mené une expérience inspirée du jeu de l’imitation d’Alan Turing. Des psychiatres expérimentés ont interrogé à la fois de vrais patients et PARRY au moyen de téléimprimeurs, des terminaux semblables à des machines à écrire, sans savoir qui était qui. Un second groupe de 33 psychiatres a reçu les transcriptions des conversations. Quand on leur a demandé quels « patients » étaient humains et lesquels étaient des programmes, ils n’ont vu juste que 48 % du temps, à peu près ce qu’on obtiendrait en devinant au hasard.

Ce résultat est souvent cité comme le premier cas d’un robot conversationnel qui « réussit » un test de Turing. Il faut une mise en garde. Les psychiatres jugeaient un rôle étroit, celui d’un patient méfiant et soupçonneux, de qui on attend des réponses courtes, évasives et étranges. PARRY était difficile à démasquer en partie parce que son personnage masquait ses limites.

## Quand PARRY a rencontré le DOCTOR

PARRY et ELIZA (dans son script DOCTOR) se sont « rencontrés » plusieurs fois grâce à une connexion des deux programmes par l’ARPANET. Une séance est conservée dans le [RFC 439](https://www.rfc-editor.org/rfc/rfc439.txt), une note de réseau rédigée par Vint Cerf et datée du 21 janvier 1973. Elle consigne une conversation du 18 septembre 1972, avec PARRY qui tournait au SAIL et DOCTOR sur une machine de l’entreprise Bolt Beranek and Newman (BBN), les deux étant joints depuis l’UCLA. La rencontre publique la plus connue a eu lieu un mois plus tard, à l’International Conference on Computer Communication (ICCC), en octobre 1972; c’est une séance distincte de celle de la note.

La transcription est drôle et révélatrice. PARRY revient sans cesse aux courses de chevaux, aux preneurs aux livres et aux paris truqués. DOCTOR répond sans arrêt « Continuez, je vous prie » ou transforme les mots de PARRY en questions maladroites, en mélangeant parfois les pronoms. À un moment, un observateur humain ajoute une note dans la marge : « Ce doit être le paranoïaque le plus persévérant et le plus patient que j’aie jamais rencontré. » La séance se termine quand DOCTOR réclame 399,29 $ US.

> **À essayer :** lisez le RFC 439 (cela prend dix minutes) et indiquez pour chaque réponse si elle vient d’une règle de mot clé, d’une formule toute faite ou d’une vraie réaction au sens. Faites ensuite la même chose avec une courte conversation avec un assistant vocal que vous utilisez.

## Pourquoi PARRY était important

PARRY a montré qu’un programme doté d’un modèle simple de croyances et d’humeurs pouvait paraître bien plus humain qu’un programme qui se contentait de renvoyer les mots. Il a aussi donné à l’IA une première leçon inconfortable sur les tests : qu’un programme semble humain ou non dépend beaucoup du rôle qu’il joue et de ce à quoi s’attendent les juges. Et les rencontres avec ELIZA ont compté parmi les premières démonstrations publiques de deux programmes qui conversaient par un réseau informatique.

## Que peut nous apprendre PARRY sur la façon de juger les robots conversationnels aujourd’hui?

La première leçon, c’est que la cohérence est persuasive. PARRY s’en tenait à son histoire et à son humeur, et cela suffisait à le rendre convaincant. Les robots conversationnels et les assistants vocaux modernes semblent eux aussi plus intelligents quand ils gardent une personnalité stable, mais une personnalité stable n’est pas la même chose que la compréhension.

La deuxième leçon, c’est qu’un test ne vaut que par son protocole. PARRY a trompé des psychiatres dans un rôle où les réponses étranges étaient normales. Quand vous lisez en 2019 qu’un robot conversationnel a « réussi » un test ou qu’un modèle de langage comme GPT-2 écrit comme une personne, demandez-vous qui étaient les juges, combien de temps ils ont conversé et quel genre de personnage le programme avait le droit de jouer. Les conversations courtes et étroites avantagent la machine.

La troisième leçon, c’est de chercher le mécanisme. Derrière les peurs de PARRY, il y avait une liste de croyances et quelques règles. Derrière les systèmes d’aujourd’hui, il y a des modèles statistiques beaucoup plus gros, mais la même question s’applique : que fait réellement le programme quand il vous répond?

## Sources

- RFC 439: PARRY Encounters the DOCTOR: https://www.rfc-editor.org/rfc/rfc439.txt
- PARRY: https://en.wikipedia.org/w/index.php?title=PARRY&oldid=918132892
- Dialogues with colorful personalities of early AI: https://web.archive.org/web/20191013162333/https://web.stanford.edu/group/SHR/4-2/text/dialogues.html