Qu’étaient ELIZA et les premiers systèmes experts?

Deux des programmes les plus connus des débuts de l’IA ont suivi des chemins très différents. ELIZA, décrit par Joseph Weizenbaum, du MIT, en janvier 1966, donnait aux gens l’impression d’avoir une conversation, même s’il ne comprenait rien. Les systèmes experts, issus de recherches menées à Stanford au milieu des années 1960 et devenus une industrie dans les années 1980, accomplissaient un vrai travail dans des domaines étroits en suivant des centaines de règles rédigées avec l’aide d’experts humains.

Les deux valent d’être connus parce qu’ils montrent les deux grandes forces de l’IA à base de règles, et les deux murs auxquels elle se heurtait sans cesse.

Comment ELIZA fonctionnait

ELIZA tournait sur le système à temps partagé du MIT, où les gens lui écrivaient à partir d’un terminal. Le programme parcourait chaque phrase à la recherche de mots clés. Chaque mot clé était accompagné de règles : une règle découpait la phrase en parties, et une autre reconstruisait ces parties en une réponse. Quand aucun mot clé ne correspondait, ELIZA se rabattait sur une relance neutre pour faire avancer l’échange.

Les règles se trouvaient dans un « script » distinct, si bien que le même programme pouvait jouer différents rôles et même parler d’autres langues; Weizenbaum mentionne des scripts en gallois et en allemand en plus de l’anglais. Le script célèbre faisait agir ELIZA comme un psychothérapeute rogérien, un style de thérapie où le thérapeute renvoie surtout au patient ses propres mots. Weizenbaum l’a choisi parce qu’un thérapeute peut sembler ne presque rien savoir du monde sans que personne ne trouve cela étrange.

Voici un échange simplifié dans l’esprit de ses exemples, avec la règle derrière chaque réponse :

Le nom venait du personnage d’Eliza dans Pygmalion, parce qu’on pouvait « éduquer » le programme pour qu’il paraisse plus raffiné. Le propos de Weizenbaum lui-même allait à l’inverse du battage : dès qu’on voit comment un tel programme fonctionne, sa magie disparaît.

Comment les systèmes experts fonctionnaient

Les systèmes experts visaient quelque chose de plus ambitieux : une vraie compétence dans un domaine. Ils comportaient deux parties. Une base de connaissances contenait des faits et des règles, surtout sous forme si-alors. Un moteur d’inférence appliquait ces règles aux faits d’un cas pour arriver à de nouvelles conclusions, et pouvait souvent expliquer son raisonnement en énumérant les règles utilisées.

Les premiers exemples sont venus du groupe d’Edward Feigenbaum à Stanford. Dendral aidait les chimistes à identifier des molécules organiques inconnues, et Mycin proposait des diagnostics de maladies infectieuses. Dans les années 1980, l’approche est devenue commerciale. On a estimé que XCON, construit à Carnegie Mellon pour que Digital Equipment Corporation configure les commandes d’ordinateurs, avait fait économiser 40 millions de dollars à l’entreprise en six ans, et les deux tiers des entreprises du Fortune 500 auraient utilisé des systèmes experts au quotidien.

Une toute petite base de règles montre l’idée :

RÈGLE 1 : SI le moteur ne démarre pas ET les phares sont faibles ALORS soupçonner la batterie.
RÈGLE 2 : SI on soupçonne la batterie ET la batterie a plus de cinq ans ALORS recommander de la remplacer.
FAITS : le moteur ne démarre pas; les phares sont faibles; la batterie a six ans.
CONCLUSION : recommander de remplacer la batterie (en raison des règles 1 et 2).

Ce que les deux avaient en commun

Les deux reposaient entièrement sur des règles écrites à la main par des personnes. Les règles d’ELIZA étaient superficielles : il avait l’air fluide, mais ne savait rien. Celles des systèmes experts étaient profondes, mais étroites : ils en savaient beaucoup sur une tâche et rien en dehors. Ni l’un ni les autres n’apprenaient de l’expérience comme le font les gens.

Pourquoi les débuts de l’IA se sont-ils heurtés à des murs à répétition?

Le premier mur a été l’écart entre les promesses et les résultats. En 1966, un comité consultatif américain appelé ALPAC a conclu que la traduction automatique était plus lente, moins exacte et plus coûteuse que les traducteurs humains, et le financement a été coupé. En 1973, le rapport Lighthill, en Grande-Bretagne, a reproché à l’IA de ne pas atteindre ses grands objectifs et a pointé l’« explosion combinatoire » : le nombre de possibilités croît si vite que bien des méthodes ne fonctionnent que sur des problèmes jouets. Le financement s’est tari dans les deux pays, la première de deux périodes qu’on appelle aujourd’hui les « hivers de l’IA ».

Le second mur a été le savoir lui-même. Amener des experts à formuler sous forme de règles tout ce qu’ils savent est lent et coûteux, une difficulté connue sous le nom de problème de l’acquisition des connaissances. À la fin des années 1980 et au début des années 1990, les premiers systèmes experts comme XCON étaient devenus coûteux à entretenir. Ils étaient difficiles à mettre à jour, ne pouvaient pas apprendre et étaient « fragiles », c’est-à-dire qu’ils pouvaient commettre des erreurs absurdes quand un cas sortait de leurs règles. Le marché des machines LISP spécialisées, construites pour faire tourner des logiciels d’IA, s’est effondré en 1987, ouvrant un second hiver de l’IA.

Le fil conducteur, c’est que les règles écrites à la main ne s’adaptent pas au désordre du monde réel. C’est pourquoi une si grande partie de la recherche actuelle, y compris les modèles de langage de cette année, apprend plutôt des régularités à partir de grandes quantités de données. Les systèmes qui apprennent ont leurs propres faiblesses, mais la leçon d’ELIZA s’applique toujours : un texte fluide n’est pas la même chose que la compréhension, et il vaut la peine de se demander comment un système produit ses réponses.