# Descartes croyait-il que les machines pourraient un jour penser?

Date: 2019-03-17 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/descartes-machines-pensantes/

**Answer:** Non. Dans son Discours de la méthode, publié en 1637, René Descartes soutenait qu’une machine pourrait imiter le corps et même prononcer des mots, mais qu’elle ne pourrait jamais employer le langage avec souplesse pour répondre à tout ce qu’on lui dit, ni agir sensément dans toutes sortes de situations comme le permet la raison humaine. On voit souvent dans ces deux tests une première version du test de Turing.

René Descartes, le philosophe et mathématicien français, a posé en 1637 une question qui sonne étonnamment moderne : si quelqu’un construisait une machine qui avait l’air d’une personne et bougeait exactement comme elle, comment pourrions-nous savoir que ce n’est pas un véritable être humain? Sa réponse : nous pourrions toujours le savoir, et il a proposé deux tests pour le prouver.

Le passage ne fait qu’une page, glissé dans la cinquième partie de son *Discours de la méthode*. Pourtant, philosophes et informaticiens y reviennent sans cesse, parce qu’il nomme les deux capacités qui marquent encore la frontière entre une machinerie habile et une véritable compréhension : un langage souple et un raisonnement polyvalent.

## Quand et où il a été publié

Le *Discours de la méthode*, dont le titre complet est « Discours de la méthode pour bien conduire sa raison et chercher la vérité dans les sciences », a été publié en 1637 à Leyde, aux Pays-Bas. Descartes l’a écrit en français plutôt qu’en latin, la langue habituelle des livres savants. Il servait d’introduction à trois essais scientifiques sur l’optique, les phénomènes météorologiques et la géométrie, et une traduction latine a suivi en 1656.

Le livre est surtout connu pour une phrase de la quatrième partie : « Je pense, donc je suis. » La section sur les machines se trouve dans la cinquième partie, où Descartes expose ses vues sur le corps, le cœur et la différence entre les humains et les animaux.

## Le corps comme machine

Descartes part d’une affirmation audacieuse. Le corps humain, dit-il, peut être compris comme une machine faite par Dieu, bien mieux agencée que toute machine que les gens peuvent construire. Il évoque les automates de son temps, des figures mécaniques qui bougeaient d’elles-mêmes, et note tout ce qu’elles accomplissent avec très peu de pièces comparativement aux os, aux muscles et aux nerfs d’un corps vivant.

De là, il fait une concession surprenante. Si quelqu’un construisait une machine qui avait l’apparence et le comportement exacts d’un singe ou de tout autre animal dépourvu de raison, nous n’aurions aucun moyen de la distinguer du véritable animal. Pour Descartes, les animaux sont, en fait, des machines naturelles.

Les humains sont différents. Une machine à forme humaine, soutient-il, pourrait toujours être démasquée par deux tests.

## Les deux tests

Voici les tests en termes simples, avec ce que Descartes croyait qu’une machine pourrait faire ou non :

| Test | Ce qu’une machine pourrait faire | Ce qu’elle ne pourrait jamais faire |
|---|---|---|
| 1. Le langage | Prononcer des mots; même dire quelque chose quand on la touche à un certain endroit, ou crier qu’on lui fait mal | Agencer les mots de façons nouvelles pour donner une réponse appropriée à tout ce qui se dit en sa présence |
| 2. La raison générale | Accomplir certaines tâches aussi bien que les gens, ou même mieux | Agir sensément dans toutes les situations de la vie |

Son raisonnement pour le second test est la partie la plus intéressante. Chaque pièce d’une machine, dit-il, doit être agencée spécialement pour chaque action particulière. La raison humaine, au contraire, est « un instrument universel, qui peut servir en toutes sortes de rencontres ». Une machine aurait besoin d’un nombre impossible de pièces spéciales pour faire face à tout ce que la vie lui réserve.

Il ajoute deux observations. Les perroquets et les pies peuvent prononcer des mots, mais ne montrent pas qu’ils comprennent ce qu’ils disent, alors que les personnes sourdes inventent leurs propres signes pour partager leurs pensées. Et une horloge faite seulement de roues et de poids mesure le temps plus exactement que n’importe quelle personne, ce qui montre qu’être meilleur à une tâche ne prouve pas qu’il y a un esprit.

> **À essayer :** posez trois questions à un assistant vocal : un fait simple, une question de suivi qui dépend de la première réponse, et une question bizarre à laquelle il est peu probable qu’on l’ait préparé. Notez où il répond de façon appropriée et où il se rabat sur une réponse toute faite. Vous faites passer le premier test de Descartes.

## Pourquoi c’est important : un test avant Turing

En 1950, le mathématicien Alan Turing a proposé son célèbre « jeu de l’imitation », qu’on appelle aujourd’hui le test de Turing : si une machine peut tenir une conversation écrite qu’un juge n’arrive pas à distinguer de celle d’une personne, nous devrions prendre au sérieux l’idée qu’elle pense. Des philosophes font remarquer depuis longtemps que Descartes y était arrivé le premier, en un sens. La *Stanford Encyclopedia of Philosophy* note qu’on dit parfois que le test de Turing est préfiguré dans le *Discours*, et un article du philosophe Gunderson faisait le rapprochement dès 1964.

Les deux hommes utilisaient le même étalon, la conversation souple, mais en tiraient des conclusions opposées. Descartes était sûr qu’aucune machine ne pourrait jamais réussir. Turing a mis de côté la simple question « les machines peuvent-elles penser? » au profit d’un jeu pratique, et il s’attendait à ce que les ordinateurs numériques s’y débrouillent bien avant trop longtemps.

## Que valent les deux tests de Descartes face à l’IA d’aujourd’hui?

Son premier test subit une réelle pression en 2019. Des assistants vocaux répondent chaque jour à des questions orales, et le mois dernier, OpenAI a présenté GPT-2, un modèle de langage qui peut écrire des paragraphes étonnamment fluides à partir d’un court prompt. Une telle aisance aurait stupéfié Descartes. Reste que ces systèmes perdent souvent le fil d’une conversation, se répètent ou affirment des choses qui n’ont aucun sens; savoir s’ils donnent vraiment une réponse appropriée à *tout* ce qu’on leur dit reste donc une question légitime et ouverte.

Son second test résiste mieux. L’IA d’aujourd’hui impressionne dans des domaines étroits : des programmes de jeu battent des champions du monde, des systèmes d’images reconnaissent des visages, des outils de traduction traitent des dizaines de langues. Mais chaque système est construit ou entraîné pour sa propre tâche. Un programme qui joue au go ne peut pas plier le linge ni planifier un voyage. C’est très proche de l’argument de Descartes selon lequel les machines ont besoin d’un agencement spécial pour chaque action, alors que la raison humaine fonctionne partout. Les chercheurs appellent la pièce manquante l’intelligence générale, et elle reste l’un des plus grands objectifs non atteints du domaine.

Pour un débutant, Descartes propose deux bonnes questions à poser à tout nouveau système d’IA : peut-il répondre sensément à quelque chose de vraiment inattendu, et peut-il accomplir une tâche pour laquelle il n’a jamais été conçu? Ces questions ont près de quatre cents ans, et ce sont toujours les bonnes.

## Sources

- Discourse on the Method of Rightly Conducting One's Reason and of Seeking Truth in the Sciences (translated by John Veitch): https://www.gutenberg.org/ebooks/59
- The Turing Test: https://plato.stanford.edu/archives/win2018/entries/turing-test/
- Discourse on the Method: https://web.archive.org/web/20190126190714/https://en.wikipedia.org/wiki/Discourse_on_the_Method