Qu’est-ce que la cybernétique, et que disait le livre de Norbert Wiener paru en 1948?

La cybernétique est la science de la façon dont les systèmes se dirigent eux-mêmes. Un thermostat qui garde une pièce au chaud, le pilote automatique d’un navire qui maintient son cap et votre main qui se tend vers une tasse fonctionnent tous de la même manière : ils comparent ce qui se passe à ce qui devrait se passer, et ils s’ajustent. Le mathématicien américain Norbert Wiener a donné à ce domaine son nom et son premier grand livre, Cybernetics, paru en 1948. Le titre complet annonce le programme : « ou la commande et la communication chez l’animal et dans la machine ».

L’affirmation audacieuse de Wiener était que les mêmes mathématiques décrivent à la fois les corps vivants et les machines. Les nerfs et les fils, les muscles et les moteurs, les cerveaux et les machines à calculer pouvaient tous être étudiés comme des systèmes qui envoient des messages et y réagissent. Cette idée a façonné l’ingénierie, la biologie et les premiers rêves de machines pensantes.

D’où vient le livre

Wiener était professeur de mathématiques au Massachusetts Institute of Technology (MIT). Pendant la Seconde Guerre mondiale, il a travaillé avec l’ingénieur Julian Bigelow sur un problème militaire difficile : prédire où se trouverait un avion ennemi quelques secondes plus tard, pour que les canons antiaériens puissent viser ce point. L’avion était piloté par une personne, et le canon était souvent pointé par une personne; la machine devait donc tenir compte du comportement humain.

Ce travail a mené Wiener et Bigelow à un concept central : la rétroaction. Quand on veut qu’un mouvement suive un plan, la différence entre le plan et le mouvement réel est renvoyée comme une nouvelle entrée qui rapproche le mouvement du plan. Ils ont posé une question au collaborateur de longue date de Wiener, le physiologiste Arturo Rosenblueth : existe-t-il une maladie où une personne qui tend la main vers un objet le dépasse et se met à osciller d’avant en arrière? Rosenblueth a répondu que oui. On l’appelle le tremblement intentionnel, et il est souvent lié à une lésion du cervelet, une partie du cerveau. Pour eux trois, c’était une preuve solide que le système nerveux lui-même fonctionne par boucles de rétroaction.

Au cours des années 1940, ces idées se sont répandues lors de petites rencontres interdisciplinaires, dont une série parrainée par la Fondation Josiah Macy à New York, à laquelle ont aussi participé Warren McCulloch et Walter Pitts, auteurs du modèle de neurone de 1943. Wiener raconte que le groupe a forgé le mot « cybernétique » à l’été 1947, à partir du mot grec qui désigne le timonier. Lors d’un voyage en France cette année-là, l’éditeur parisien Hermann et Cie lui a demandé un livre. Il en a signé l’introduction en novembre 1947 à l’institut de Rosenblueth, l’Instituto Nacional de Cardiología, à Mexico, et le livre a paru en 1948 à Paris et à Cambridge, au Massachusetts.

Comment fonctionne la rétroaction : un exemple concret

L’exemple de Wiener lui-même consiste à saisir un crayon. Vous ne commandez pas consciemment chaque muscle. Vous voulez simplement le crayon, et à chaque instant, vos yeux et la perception de votre propre corps vous indiquent à quelle distance votre main se trouve encore de lui. C’est cet écart qui rétrécit qui guide le mouvement. Voici la même boucle dans un thermostat :

C’est la rétroaction négative : le système agit pour réduire l’erreur. Wiener a aussi expliqué ce qui se passe quand la rétroaction est trop forte ou trop lente. Le système dépasse sa cible, se corrige trop fort, la dépasse dans l’autre sens et peut osciller violemment, comme le fait un appareil à gouverner de navire mal réglé, ou une main atteinte de tremblement intentionnel.

Ce que le livre aborde d’autre

Cybernetics est un mélange de philosophie, de mathématiques ardues et de spéculations audacieuses. Il traite du temps et de la prédiction, de l’information et du bruit dans les messages, et du système nerveux. Dans un chapitre sur les machines à calculer, Wiener soutenait que les futures machines à calculer devraient être numériques plutôt qu’analogiques, électroniques plutôt que mécaniques, et binaires, et il les comparait au cerveau. Il s’est même demandé si une machine pourrait jouer aux échecs, et si elle pourrait apprendre de ses propres parties passées.

Il a aussi écrit franchement sur les dangers. La nouvelle science, prévenait-il, s’accompagnait de « grandes possibilités pour le bien et pour le mal », dont l’automatisation du travail humain. Le livre a rejoint bien plus que les ingénieurs et est devenu un succès de librairie, et Wiener lui a donné une suite en 1950 avec Cybernétique et société (The Human Use of Human Beings), écrit pour le grand public.

Pourquoi c’était important

Cybernetics a donné aux scientifiques de nombreux domaines un vocabulaire commun : rétroaction, commande, information, signal et bruit. Il a influencé l’automatique, l’informatique, les neurosciences et les communications. Il a aussi fait des « machines au comportement orienté vers un but » un sujet scientifique respectable quelques années avant que l’expression « intelligence artificielle » existe. Quand John McCarthy a nommé l’IA en 1955, il a choisi une nouvelle étiquette en partie pour distinguer son nouveau domaine de la cybernétique, axée sur la rétroaction analogique, et de la forte personnalité de Wiener.

Quel rapport la cybernétique a-t-elle avec l’IA en 2019?

Plus que le nom ne le laisse croire. Le mot « cybernétique » est rarement employé dans les laboratoires d’IA aujourd’hui, mais son idée centrale traverse les systèmes modernes. Entraîner un réseau de neurones, c’est une boucle de rétroaction : le réseau fait une prédiction, l’erreur est mesurée, et cette erreur est renvoyée pour ajuster ses réglages internes afin que la prédiction suivante soit un peu meilleure. L’apprentissage par renforcement, la méthode derrière AlphaGo de DeepMind, consiste à apprendre à partir de rétroactions sur les actions qui mènent à de bons résultats. Les voitures autonomes et les drones reposent sur des boucles de commande classiques que Wiener reconnaîtrait tout de suite.

Les mises en garde de Wiener sonnent aussi très actuelles. En 2019, on débat de l’automatisation et de l’emploi, du pouvoir de ceux qui contrôlent les systèmes intelligents et du risque de voir des machines poursuivre des buts qui ne correspondent pas à ce que nous voulions vraiment. Wiener a soulevé chacune de ces questions dans les années 1940.

Pour un débutant, la leçon la plus utile est sa façon de regarder n’importe quel système intelligent : demandez-vous ce qu’il cherche à accomplir, ce qu’il mesure et comment il se corrige. Cette simple boucle explique une part étonnante de ce que fait l’IA d’aujourd’hui, et de ce qui peut mal tourner.