De quoi parle Les androïdes rêvent-ils de moutons électriques?, et pourquoi ce roman compte-t-il pour l’IA?

Les androïdes rêvent-ils de moutons électriques? est un roman de science-fiction de Philip K. Dick paru en 1968. Il suit Rick Deckard, un chasseur de primes dans un San Francisco en ruine, qui doit traquer et détruire six androïdes si réalistes que seul un test d’empathie spécial peut les démasquer. Il compte pour l’IA parce qu’il pose une question qui n’a fait que gagner en acuité : si une machine peut passer pour humaine, qu’est-ce qui nous distingue au juste, et cette différence justifie-t-elle la façon dont nous la traitons?

De quoi parle Les androïdes rêvent-ils de moutons électriques?, et…

La plupart des gens découvrent cette histoire par son adaptation au cinéma, Blade Runner, avec sa ville de néons détrempée par la pluie. Le roman qui se trouve dessous est plus calme, plus étrange et plus troublant. Son monde n’a presque plus d’animaux, ses habitants trouvent du réconfort dans une machine religieuse partagée, et son héros passe une seule longue journée à chasser des êtres qui ressentent peut-être plus que lui. En son centre se trouve un test, et la question de savoir si un test, quel qu’il soit, peut distinguer une personne d’une copie parfaite.

Philip K. Dick (1928–1982) était un écrivain américain qui a vécu la plus grande partie de sa vie en Californie et a produit une œuvre de science-fiction considérable entre 1950 et 1970. Il a écrit ce roman en 1966, et Doubleday l’a publié à Garden City, dans l’État de New York, en 1968. Il a été finaliste du prix Nebula cette année-là. En 1982, il est devenu la principale source du film Blade Runner de Ridley Scott, et certaines réimpressions ultérieures du livre portent ce titre.

L’histoire

Le roman se déroule après un conflit nucléaire appelé la Guerre mondiale Terminus. Dans la première édition, l’action se passe en 1992; des éditions ultérieures la déplacent en 2021. Les radiations ont anéanti la plupart des espèces animales et pollué l’air, si bien que les Nations unies pressent les gens d’émigrer vers des colonies sur d’autres mondes. Comme incitatif, on promet à chaque émigrant un serviteur androïde personnel.

Les androïdes ne sont pas des robots de métal qui cliquettent. Ils sont faits d’une matière organique si proche des tissus humains que seule une analyse de la moelle osseuse peut prouver ce qu’ils sont. Certains se rebellent, parfois violemment, et reviennent en douce sur Terre pour s’y cacher. Les services de police emploient des chasseurs de primes pour les trouver et les « retirer », le mot glaçant du roman pour dire les tuer.

Rick Deckard est l’un de ces chasseurs. On lui confie six androïdes en fuite d’un nouveau modèle très intelligent, le Nexus-6. Il veut la prime pour une raison personnelle : les vrais animaux sont devenus le symbole de statut par excellence, et il ne possède qu’un mouton électrique, une imitation convaincante qui a besoin d’une réparation de temps en temps. Une deuxième intrigue suit John Isidore, un homme dont l’esprit a été atteint par les radiations, qui tente de se lier d’amitié avec les fugitifs.

Parallèlement à tout cela, il y a une religion appelée le mercerisme. Ses fidèles saisissent les poignées d’une « boîte à empathie » et partagent, en groupe, la souffrance d’une figure nommée Wilbur Mercer, qui gravit éternellement une colline pendant qu’on lui lance des pierres.

Comment fonctionne le test d’empathie

Comme les androïdes ont l’apparence et la parole des humains, la police s’appuie sur des tests de type polygraphe, qui mesurent les réactions du corps pendant que le sujet répond à des questions chargées d’émotion. La théorie veut que les humains ressentent une empathie immédiate et que les androïdes n’en ressentent pas, si intelligents soient-ils.

Voici comment le test du roman se compare à l’idée la plus célèbre du monde réel pour juger l’esprit des machines, le jeu de l’imitation d’Alan Turing :

	Le jeu de l’imitation de Turing (1950)	Le test d’empathie du roman
Ce qui est mesuré	Si des réponses tapées semblent humaines	Les réactions corporelles involontaires à des questions émotives
Ce qui compte comme « humain »	Une conversation intelligente	La sensibilité envers les autres êtres vivants
Qui décide	Un juge humain qui lit les réponses	Un examinateur formé qui lit des instruments

Le choix de Dick est éloquent. Dans son monde, l’intelligence ne sépare pas les gens des machines; le Nexus-6 peut être aussi brillant que n’importe qui. Ce qui est censé les séparer, c’est l’empathie, la capacité de ressentir ce que ressent un autre être.

À essayer : écrivez cinq questions qui, selon vous, révéleraient si quelqu’un se soucie vraiment des autres, et pas seulement s’il est intelligent. Puis demandez-vous honnêtement : une personne que vous connaissez pourrait-elle y échouer un mauvais jour? Une machine bien programmée pourrait-elle apprendre les « bonnes » réponses?

Là où le test commence à se fissurer

Le roman ne cesse de miner son propre test. Au début, Deckard visite l’entreprise qui fabrique les androïdes et fait passer le test à une jeune femme nommée Rachael Rosen. Au départ, le test semble avoir pris une humaine pour une androïde, ce qui voudrait dire que la police a peut-être tué des gens; seul un deuxième test montre que Rachael est bel et bien une androïde. Plus tard, Deckard est lui-même accusé d’être un androïde aux faux souvenirs. Il rencontre un autre chasseur de primes qui retire les androïdes avec froideur et se demande si cet homme est humain. Pire encore pour Deckard, il découvre qu’il ressent de l’empathie pour certains des androïdes qu’il est payé pour détruire.

Le livre ne tranche jamais nettement la question. Les androïdes font quelque chose de monstrueux à une araignée, ce qui semble confirmer la théorie. Pourtant, les humains sont souvent froids eux aussi, et la religion partagée qui définit l’empathie humaine est dénoncée à la télévision comme une possible supercherie. L’Encyclopedia of Science Fiction voit dans ce roman le sommet des nombreuses histoires de Dick sur les copies artificielles de personnes, qui reviennent sans cesse à l’un de ses thèmes favoris : l’écart entre ce qui est réel et ce qui ne fait que le paraître.

Pourquoi il compte pour l’IA

Le roman a déplacé l’histoire de robots. La fiction antérieure se demandait souvent si les machines allaient se rebeller. Dick s’est demandé si nous pourrions même faire la différence, et si nos tests en disent plus sur nous que sur elles. Des critiques ont lu les androïdes comme un miroir : l’angoisse devant des machines qui ont l’air humaines est en réalité une angoisse sur ce que veut dire être humain.

En 2019, la question est concrète. Les robots conversationnels et les assistants vocaux sont conçus pour avoir l’air naturels, et les chercheurs débattent de la façon de mesurer ce que ces systèmes comprennent. Le roman de Dick rappelle que tout test de l’« humain » repose sur des présupposés, et qu’un test peut se tromper dans les deux sens.

Un test d’empathie pourrait-il vraiment distinguer une personne d’une machine?

Probablement pas comme le roman l’imagine. Les réactions du corps varient d’une personne à l’autre et changent selon l’humeur et la santé, ce qui est exactement le doute que Dick intègre à l’intrigue. Un test auquel certains humains échouent ne peut pas servir sans danger à décider qui compte comme une personne.

Une machine n’a pas non plus besoin de sentiments pour en produire les signes extérieurs. Un système entraîné sur assez d’exemples de langage bienveillant peut apprendre à dire des choses gentilles, tout comme un robot conversationnel peut apprendre à faire la conversation. Cet écart entre montrer de l’empathie et en avoir est ce qui rend le roman si actuel. La question ouverte, hier comme aujourd’hui, est de savoir si nous jugerons les machines par ce qu’elles font, par ce dont elles sont faites, ou par quelque chose que nous n’avons pas encore appris à mesurer.