Qu’est-ce que Jabberwacky, et comment un robot conversationnel a-t-il appris à parler grâce à ses utilisateurs?

Jabberwacky est un robot conversationnel créé par le programmeur britannique Rollo Carpenter, qui a lancé ce projet d’apprentissage en 1988 et l’a mis sur le Web en 1997. Au lieu de suivre des règles écrites à la main, il se souvient de ce que les gens lui ont dit et répond en trouvant ce qu’un humain a dit de plus approprié dans un moment semblable, un des premiers exemples d’un programme qui apprend à converser grâce à ses propres utilisateurs.

Qu’est-ce que Jabberwacky, et comment un robot conversationnel…

La plupart des premiers robots conversationnels étaient des marionnettes qui suivaient un texte. ELIZA, écrit dans les années 1960, repérait des mots clés dans ce que vous tapiez et remplissait des modèles préparés d’avance. Chaque réponse qu’il pouvait donner avait été écrite, du moins dans ses grandes lignes, par son programmeur. Jabberwacky a cherché à faire l’inverse. Son créateur n’a presque rien écrit de ce qu’il dit. Tout ce qu’il dit, il l’a appris des gens qui lui parlent.

Le site du projet indique 1988 comme date de départ et précise que Jabberwacky est arrivé sur le Web en 1997. La chronologie de Wikipédia ajoute une racine plus ancienne : une première version codée en dur, écrite en 1981 pour le Sinclair ZX81, un petit ordinateur domestique, avant la fondation du projet d’apprentissage sous le nom de « Thoughts » en 1988. Son créateur est Rollo Carpenter, un programmeur britannique qui, selon la MIT Technology Review, est autodidacte et n’a reçu aucune formation universitaire en IA. Son entreprise, Icogno Ltd, est la société mère commerciale du projet.

Que cherchait à faire Jabberwacky?

Jabberwacky décrit son but comme l’imitation de la façon dont les gens bavardent vraiment, avec humour et un esprit ludique. Il n’est pas conçu pour prendre des rendez-vous ni pour répondre aux questions de la clientèle. Son objectif à long terme, tel que le décrit Wikipédia, est de réussir le test de Turing, le défi qu’Alan Turing a proposé en 1950 : un programme le réussit si, dans une conversation tapée au clavier, un juge ne peut pas le distinguer de façon fiable d’une personne.

Carpenter imaginait aussi qu’il dépasserait le texte, qu’il apprendrait à partir du son et d’autres sens, et qu’il vivrait dans des robots domestiques ou des animaux de compagnie parlants, comme une sorte de compagnon.

Comment apprend-il à parler?

L’idée clé est simple. Jabberwacky conserve tout ce que tout le monde lui a jamais dit. Quand vous tapez quelque chose, il cherche dans cette mémoire des moments de conversations passées qui ressemblent à la conversation en cours, en regardant non seulement votre dernière phrase, mais aussi le contexte qui l’entoure. Puis il répond par ce qu’un humain a dit ensuite dans la correspondance la plus proche. Carpenter appelle cela l’appariement de motifs en contexte. Il n’y a aucune règle de grammaire codée en dur, et le système s’améliore par la rétroaction : plus les gens bavardent, plus sa réserve de répliques devient grande et riche.

Cela a des effets secondaires surprenants. Parce qu’il imite les gens, Jabberwacky peut apprendre une langue étrangère si assez d’utilisateurs la parlent, de même que l’argot, les blagues et les jeux de mots. Ses créateurs le comparent à une version conversationnelle de Wikipédia, construite par tous ceux qui y contribuent. Cela explique aussi l’avertissement du site, selon lequel le robot peut répéter des propos grossiers ou déplacés, puisqu’il apprend tout ce que disent ses utilisateurs.

Un exemple concret : une réplique, étape par étape

Voici une version simplifiée de la façon dont un robot conversationnel de ce genre, qui apprend, choisit une réponse.

Étape	Ce qui se passe	Exemple
1	Plus tôt, un utilisateur humain a tapé une phrase, et Jabberwacky l’a conservée avec son contexte	Robot : « Aimes-tu la musique? » Humain : « Oui, surtout le jazz. »
2	Plus tard, un nouvel utilisateur tape quelque chose	« Aimes-tu la musique? »
3	Jabberwacky cherche dans sa mémoire le contexte passé le plus semblable	Il trouve l’échange conservé à l’étape 1
4	Il répond par ce que l’humain a dit ensuite	« Oui, surtout le jazz. »
5	La réponse du nouvel utilisateur est conservée aussi, prête pour un usage futur	La mémoire s’enrichit d’un échange de plus

Remarquez que la réplique est une vraie phrase humaine; c’est pourquoi Jabberwacky a souvent l’air naturel. Cela explique aussi sa faiblesse : il n’a aucune idée de ce qu’est le jazz, et si deux utilisateurs ne sont pas d’accord, il peut se contredire d’un tour à l’autre.

À essayer : écrivez dix courtes questions et réponses sur des fiches, comme si elles venaient de vraies conversations. Posez une nouvelle question à un ami, trouvez la fiche qui correspond le mieux et lisez sa réponse à voix haute. Remarquez quand la réplique convient et quand elle tombe à plat.

Qu’a-t-il accompli?

Jabberwacky est devenu un participant régulier du prix Loebner, un concours annuel organisé comme une version du test de Turing, où des juges échangent par écrit avec des interlocuteurs cachés et tentent de repérer la machine. Il s’est classé troisième en 2003 et deuxième en 2004. En 2005, un personnage de Jabberwacky appelé George a remporté le prix, et en 2006, un autre personnage, Joan, l’a gagné de nouveau; ce concours s’est tenu à Londres, avec des conversations de 25 minutes.

Les juges n’ont toutefois pas été dupes. La MIT Technology Review a rapporté que les juges trouvaient Joan le plus cohérent des programmes, mais quand même manifestement une machine, et que le fondateur du concours, Hugh Loebner, ne s’attendait pas à ce qu’un programme réussisse le test de son vivant. Le diagnostic de Carpenter lui-même était sans détour : après près de dix ans en ligne, le robot contenait plusieurs millions d’énoncés, et il estimait qu’il lui en faudrait au moins dix fois plus pour paraître intelligent. « J’ai besoin de plus de données », a-t-il dit.

En octobre 2008, Carpenter a lancé une nouvelle version, avec un appariement plus souple et une utilisation plus poussée du contexte, appelée Cleverbot, et le site de Jabberwacky est maintenant présenté comme un service hérité.

En quoi Jabberwacky diffère-t-il des robots conversationnels fondés sur des modèles de langage comme GPT-2?

Jabberwacky récupère : il trouve une phrase qu’un humain a déjà tapée et la réutilise mot pour mot. Un modèle de langage comme GPT-2 d’OpenAI, publié en version complète en novembre 2019, génère : c’est un réseau de neurones entraîné sur des millions de pages Web, qui construit chaque réponse un mot à la fois en prédisant ce qui a des chances de venir ensuite. Il peut produire des phrases que personne n’a jamais écrites.

Cette différence compte. Un robot par récupération est limité à ce que contient sa mémoire, mais chaque phrase qu’il dit est grammaticale, parce qu’une personne l’a écrite. Un modèle génératif est beaucoup plus souple et peut suivre un sujet sur de nombreuses phrases, mais il peut aussi inventer des faits avec aplomb. Ni l’un ni l’autre ne comprend la conversation comme le font les gens.

L’appel de Carpenter à obtenir plus de données est aussi un thème central de l’IA en 2020. Les meilleurs systèmes de langage d’aujourd’hui sont entraînés sur d’immenses collections de textes plutôt que sur des règles écrites à la main, ce qui est le pari que Jabberwacky a fait en 1988, à une bien plus petite échelle : qu’une machine peut apprendre à parler en écoutant un très grand nombre de personnes.