Que proposait Alan Turing dans son rapport de 1948, « Intelligent Machinery »?

Dans « Intelligent Machinery », un rapport de 1948 rédigé pour le National Physical Laboratory britannique, Alan Turing soutenait qu’on pouvait amener des machines à se comporter de façon intelligente et que la meilleure voie était de les éduquer, en partant de « machines non organisées » câblées au hasard qu’un enseignant façonne par des récompenses et des punitions. Le rapport est resté inédit jusqu’en 1969, mais il contient des premières versions des réseaux de neurones, de l’apprentissage par récompense et de la recherche évolutive.

Que proposait Alan Turing dans son rapport de 1948,

Deux ans avant son célèbre article sur le jeu de l’imitation, Alan Turing a écrit un rapport qui pose une question plus audacieuse en termes plus simples : une machine peut-elle avoir un comportement intelligent et, si oui, comment en construirait-on une? Sa réponse : il ne faut pas essayer de programmer un esprit déjà achevé. Il faut construire quelque chose de plus proche du cerveau d’un bébé, puis l’instruire.

Le rapport, intitulé « Intelligent Machinery », a été rédigé pour le National Physical Laboratory (NPL) de Teddington, près de Londres, où Turing concevait un ordinateur électronique appelé l’ACE. Il est daté de 1948. Ses employeurs ne l’ont pas publié, et il n’a paru pour la première fois qu’en 1969, dans une collection de livres intitulée Machine Intelligence. Ce long délai explique en partie pourquoi bien des lecteurs, en 2019, ne connaissent encore Turing que par le test de Turing.

Ce que dit le rapport

Turing commence par énumérer les raisons pour lesquelles les gens résistent à l’idée de machines qui pensent. Certains détestent l’idée d’un rival de l’intelligence humaine. Certains y voient une irrévérence. Certains jugent toutes les machines d’après les appareils simples et répétitifs en usage jusque vers 1940. Certains invoquent des résultats mathématiques montrant que toute machine fixe échouera sur certaines questions. Et certains disent que l’ingéniosité d’une machine n’est que l’ingéniosité de son concepteur, déguisée.

Il répond à chacune à tour de rôle. Une machine a le droit de se tromper, fait-il remarquer, tout comme les enfants doués. On n’attribue pas les découvertes d’un élève à son enseignant; pourquoi attribuerait-on celles d’une machine à son constructeur?

Vient ensuite le cœur du rapport. Turing décrit ce qu’il appelle des « machines non organisées » : un grand nombre d’unités simples et identiques, reliées entre elles plus ou moins au hasard. Chaque unité a deux entrées et une sortie, et une horloge centrale les fait toutes avancer ensemble, d’un tic à l’autre. À chaque tic, chaque unité examine ses deux entrées et produit un 0 ou un 1 selon une règle fixe. Turing appelle cela la machine de « type A » et la décrit comme à peu près le modèle le plus élémentaire qu’on puisse faire d’un système nerveux dont les neurones seraient reliés au hasard.

Il définit aussi une machine de « type B », dans laquelle chaque connexion passe par un petit interrupteur qu’on peut régler de l’extérieur. En réglant ces interrupteurs, un opérateur peut transformer un enchevêtrement aléatoire en une machine qui accomplit une tâche utile. Turing appelle ce réglage « organiser » la machine, et il le compare à l’éducation.

Apprendre par la récompense et la punition

Comment un enseignant organiserait-il une telle machine sans l’ouvrir? Turing propose de lui donner seulement deux entrées supplémentaires : une pour le « plaisir » (la récompense) et une pour la « douleur » (la punition). Quand la machine fait quelque chose de bien, une récompense rend permanents ses choix récents. Quand elle fait quelque chose de mal, une punition efface ces choix provisoires pour qu’elle puisse réessayer.

Il a fait fonctionner entièrement à la main, sur papier, une version qu’il appelait la machine de type P, parce qu’aucun ordinateur convenable n’était libre. Il notait ses choix provisoires au crayon et ses choix permanents à l’encre. Lors d’un essai, la machine est tombée dans une boucle, répétant les deux mêmes actions; une seule punition a brisé la boucle. Turing rapporte qu’en ajoutant une mémoire externe, il avait réussi à entraîner l’une de ces machines de papier à devenir une machine universelle, c’est-à-dire une machine capable d’imiter n’importe quelle autre machine à calculer, tout en admettant que la méthode ne ressemblait pas beaucoup à un véritable enseignement.

Voici la même idée sous forme de petit exercice de classe à faire avec une pièce de monnaie :

Étape	Ce que vous faites	Ce que cela représente
1	Dessinez trois cases vides : Gauche, Droite, Arrêt	Une machine non entraînée, sans habitudes fixes
2	Quand une case est vide, lancez la pièce et inscrivez le résultat au crayon	Un choix aléatoire et provisoire
3	Si le résultat est bon, repassez le crayon à l’encre	La récompense rend le choix permanent
4	Si le résultat est mauvais, effacez toutes les marques au crayon	La punition ramène au hasard

À essayer : faites l’exercice de la pièce ci-dessus avec un ami qui joue l’« enseignant » et qui veut secrètement la séquence Gauche, Gauche, Arrêt. Comptez combien de tours il faut avant que les cases à l’encre correspondent à l’objectif.

Le cerveau, une machine non entraînée

Turing est allé plus loin et a suggéré que le cortex d’un nouveau-né est lui-même une machine non organisée. Certaines parties du cerveau s’occupent de tâches fixes comme la respiration, écrivait-il, mais les parties qui servent à penser sont façonnées par l’entraînement. Son exemple était simple : les enfants des deux côtés de la Manche grandissent en parlant des langues différentes à cause de leur éducation, et non parce que leurs cerveaux sont construits différemment.

Il a aussi proposé des domaines où un « cerveau » sans corps pourrait s’exercer : des jeux comme les échecs, l’apprentissage et la traduction des langues, le déchiffrement de codes et les mathématiques. Et il a nommé trois sortes de recherche qui pourraient expliquer l’intelligence : la recherche intellectuelle à l’intérieur d’un seul esprit, la recherche génétique ou évolutive d’une génération à l’autre, et la recherche culturelle menée par toute une communauté.

Pourquoi ce rapport compte

La Stanford Encyclopedia of Philosophy souligne que les réseaux entraînables de composants logiques de Turing préfigurent les réseaux de neurones, et que sa « recherche génétique ou évolutive » annonce ce qu’on appelle aujourd’hui les algorithmes génétiques. Mais comme le rapport est resté dans un classeur pendant deux décennies, il a eu peu d’influence directe.

Vu de la fin de 2019, le rapport paraît étonnamment actuel. Apprendre à partir de récompenses est l’idée centrale de l’apprentissage par renforcement, l’approche que DeepMind a utilisée pour AlphaGo. Partir de connexions aléatoires et les ajuster avec l’expérience, c’est ainsi qu’on entraîne les réseaux de neurones profonds, y compris le modèle de langage GPT-2, qu’OpenAI a publié en version complète ce mois-ci.

Comment les machines non organisées de Turing se comparent-elles aux réseaux de neurones d’aujourd’hui?

Elles partagent l’idée clé : de nombreuses unités simples, reliées d’abord sans plan, qui deviennent utiles grâce à l’entraînement plutôt que grâce à des règles écrites à la main. C’est le même point de départ qu’un réseau moderne avant qu’il ait vu la moindre donnée.

Les différences sont toutefois importantes. Les unités de Turing ne produisaient jamais que 0 ou 1, et ses connexions étaient soit ouvertes, soit fermées. Les réseaux modernes utilisent des nombres qu’on peut ajuster par de toutes petites quantités, ce qui permet à une méthode appelée rétropropagation de pousser des millions de connexions à la fois dans la bonne direction. Les réseaux de Turing n’avaient pas non plus de couches; ceux d’aujourd’hui sont empilés en de nombreuses couches, d’où le mot « profond ».

La plus grande différence tient à l’échelle et à la vitesse. Turing faisait ses expériences avec un crayon et une gomme à effacer, et il a écrit que le travail était trop laborieux pour être poussé plus loin avant l’arrivée des machines électroniques. Il espérait qu’un ordinateur pourrait un jour exécuter tout le processus d’entraînement pendant qu’un humain jetterait un coup d’œil de temps en temps, comme un inspecteur d’école qui vérifie les progrès. C’est, en un sens, ce qu’est une séance d’entraînement moderne.