# De quoi parle Blade Runner, et pourquoi en parle-t-on quand il est question d’IA?

Date: 2020-02-07 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/de-quoi-parle-blade-runner/

**Answer:** Blade Runner est un film de Ridley Scott, sorti en 1982, sur Rick Deckard, un « blade runner » de la police dans un Los Angeles détrempé de novembre 2019, qui doit retrouver et tuer quatre réplicants évadés, des êtres artificiels presque impossibles à distinguer des humains. Sorti le 25 juin 1982 et tiré du roman de Philip K. Dick Les androïdes rêvent-ils de moutons électriques?, il revient sans cesse dans les débats sur l’IA parce qu’il demande comment on distinguerait une machine d’une personne, et si cette différence compterait encore.

*Blade Runner* se déroule à Los Angeles en novembre 2019, une date qui vient tout juste de passer. La vraie ville n’a jamais eu de voitures de police volantes ni d’immenses panneaux vidéo au-dessus de chaque rue, et personne ne traque d’êtres artificiels. Pourtant, l’énigme centrale du film paraît plus proche aujourd’hui qu’en 1982. Quand une machine peut parler, écrire ou ressembler à une personne, comment faire la différence, et que lui doit-on?

Le film est sorti dans les salles américaines le 25 juin 1982. Il a été réalisé par Ridley Scott, écrit par Hampton Fancher et David Peoples, produit par The Ladd Company avec l’appui de Sir Run Run Shaw, et distribué par Warner Bros. Ses vedettes étaient Harrison Ford, Rutger Hauer et Sean Young.

## Ce qui se passe dans l’histoire

Un texte d’ouverture plante le décor. La Tyrell Corporation a construit des « réplicants », des êtres artificiels presque identiques aux humains, plus forts et au moins aussi intelligents que les ingénieurs qui les ont conçus. On les utilise comme main-d’œuvre esclave dans des colonies spatiales. Après une révolte sanglante, les réplicants sont interdits sur Terre, et des unités spéciales de police appelées Blade Runners traquent ceux qui y reviennent. L’euphémisme glaçant du film pour désigner leur exécution est la « mise à la retraite ».

Rick Deckard (Ford) est un blade runner à la retraite rappelé pour une dernière mission. Quatre réplicants du plus récent modèle, le Nexus-6, sont revenus sur Terre, menés par Roy Batty (Hauer). Ils ont été construits avec une durée de vie de quatre ans, et ils veulent que leur créateur, le Dr Eldon Tyrell, leur accorde plus de temps. Pendant son enquête, Deckard rencontre Rachael (Young), l’assistante de Tyrell, qui se révèle être une réplicante convaincue d’être humaine parce qu’on lui a implanté des souvenirs.

Le sommet émotif du film est la dernière scène de Batty. Après avoir affronté Deckard sur un toit, il sauve l’homme envoyé pour le tuer puis, alors que sa propre vie s’éteint, parle des choses qu’il a vues et qui seront perdues, « comme des larmes dans la pluie », selon ses mots.

## Comment le film a été fait

Le roman de Philip K. Dick, *Les androïdes rêvent-ils de moutons électriques?* (*Do Androids Dream of Electric Sheep?*), a paru en 1968. Des producteurs ont tenté de l’adapter tout au long des années 1970. Ridley Scott s’est joint au projet comme réalisateur en 1980. Parmi les titres de travail, il y a eu *Dangerous Days* et *Mechanismo*; le titre final a été emprunté à un livre de William S. Burroughs. Les budgets rapportés vont de 22 à 30 millions $ US.

Une grande partie de l’esthétique vient du designer Syd Mead. Il avait été engagé pour dessiner les voitures futuristes, mais ses croquis de décors ont séduit Scott et ont aidé à façonner la ville entière. Les équipes ont transformé un vieux décor de rue new-yorkaise des studios de Burbank en une métropole surpeuplée et délabrée. De vrais bâtiments de Los Angeles apparaissent aussi, dont le Bradbury Building, au centre-ville, et la Ennis House de Frank Lloyd Wright. Philip K. Dick est mort le 2 mars 1982, environ trois mois avant la sortie, et le film lui est dédié.

Les critiques ont été partagées. On a admiré les images, la direction photo de Jordan Cronenweth et la musique électronique de Vangelis, mais bien des critiques ont trouvé l’histoire confuse. Le film a récolté 6,1 millions $ US lors de sa première fin de semaine dans 1 290 salles, face à la rude concurrence d’*E.T.* et de *The Thing*, et il a déçu au box-office nord-américain. Sa réputation a grandi grâce à la vidéo domestique. Une version du réalisateur sans la narration en voix hors champ de Deckard a paru en 1992, et le Final Cut de Scott lui-même en 2007. En 1993, la Bibliothèque du Congrès l’a ajouté au National Film Registry, et une suite, *Blade Runner 2049*, est sortie en 2017.

## Comment reconnaître un réplicant : le test de Voight-Kampff

Pour toute personne curieuse de l’IA, l’idée la plus intéressante du film est son test. Les blade runners utilisent un appareil appelé la machine de Voight-Kampff, une sorte de détecteur de mensonges. Il pose des questions conçues pour provoquer une réaction émotive, souvent sur la cruauté envers les animaux, tout en mesurant la respiration, le rougissement, le rythme cardiaque et le mouvement de l’œil. Les réplicants, selon la théorie, ont une empathie plus lente ou plus plate.

Il est utile de comparer ce test fictif au plus célèbre des vrais tests, le jeu de l’imitation d’Alan Turing, proposé en 1950 et appelé aujourd’hui le test de Turing :

| Question | Test de Turing (1950) | Test de Voight-Kampff (film, 1982) |
|---|---|---|
| Qu’est-ce qu’on juge? | La conversation, tapée à travers un écran | Les réactions du corps à des questions émotives |
| Qu’est-ce qui compte comme une « réussite »? | Le juge ne peut pas distinguer la machine de la personne | Le sujet réagit comme un humain, avec empathie |
| Que suppose-t-il? | La pensée se voit dans ce qu’on dit | L’humanité se voit dans ce qu’on ressent |
| Qu’arrive-t-il à une « machine » qui échoue? | Rien; c’est un jeu | Elle est « mise à la retraite » |

Remarquez comment le film renverse la question de Turing. Turing demandait si une machine peut paraître intelligente. *Blade Runner* tient cela pour acquis et demande si une machine peut ressentir, et si ses créateurs s’en soucient.

> **À essayer :** écrivez trois questions qui, selon vous, permettraient de distinguer une personne d’un très bon robot conversationnel. Demandez-vous ensuite honnêtement si chaque question mesure l’intelligence, les sentiments ou simplement la connaissance des habitudes humaines.

## Pourquoi il compte pour l’IA

Les réplicants ne sont pas des programmes informatiques. Ce sont des êtres biologiques conçus en laboratoire, plus proches de la créature de Mary Shelley que d’un robot. Malgré tout, le film est devenu l’un des points de référence habituels dans les discussions sur l’intelligence artificielle, pour trois raisons.

D’abord, il met l’accent sur la détection. À mesure que les fausses voix, les faux visages et les faux textes s’améliorent, la question pratique de savoir comment reconnaître une machine ne relève plus de la fiction. Des modèles de langage comme GPT-2 d’OpenAI, publié en version complète en novembre 2019, peuvent écrire des paragraphes que bien des lecteurs prennent pour un texte humain.

Ensuite, il soulève la question des droits. Les réplicants veulent ce que veut toute créature vivante, plus de vie, et les humains les traitent comme des biens. Les philosophes et les éthiciens continuent de se demander ce que nous devrions à une machine qui pourrait vraiment souffrir.

Enfin, il brouille la frontière. Le film ne tranche jamais la question de savoir si Deckard lui-même est humain; Scott a dit que, dans sa vision, il est un réplicant, alors que d’autres ne sont pas d’accord. Si le chasseur ne peut pas être sûr de ce qu’il est, c’est le test lui-même qui devient le problème.

## Pourrait-on construire un vrai test de Voight-Kampff pour l’IA d’aujourd’hui?

Pas sous la forme qu’on voit dans le film. Les systèmes d’IA actuels n’ont ni battements de cœur, ni pupilles, ni rougissement à mesurer. Un assistant vocal ou un robot conversationnel est un logiciel qui tourne sur des serveurs; il n’a pas de corps qui réagit, et rien n’indique qu’il ait des sentiments à détecter.

Ce que les chercheurs construisent, ce sont des détecteurs de contenu produit par des machines. Quand OpenAI a publié la version complète de GPT-2, l’entreprise a aussi publié un détecteur qui estime si un passage provient de ce modèle, et il repérait environ 95 % de ces textes, ce qui, selon OpenAI, ne suffisait pas à lui seul. Les détecteurs de ce genre cherchent des empreintes statistiques, des régularités dans le choix des mots ou des pixels que les machines ont tendance à laisser, plutôt que des émotions absentes.

La question plus profonde que pose le film reste ouverte. Un test peut nous dire si quelque chose se comporte comme un humain. Il ne peut pas nous dire s’il y a quelqu’un à l’intérieur. C’est une question pour la philosophie et la science ensemble, et *Blade Runner* demeure l’une des façons les plus agréables de commencer à y réfléchir.

## Sources

- Blade Runner (1982): https://catalog.afi.com/Film/68260-BLADE-RUNNER
- Blade Runner: https://web.archive.org/web/20200126121436/https://en.wikipedia.org/wiki/Blade_Runner